Как добавить в свой проект библиотеку libosmscout?

Скачать исходники - это только начало. Вам нужно собрать библиотеку (получить объектные файлы и заголовки) и подключить её к вашему Qt-проекту.

Чтобы собрать придётся самостоятельно покурить инструкцию. Не забудьте при сборке использовать те же флаги компилятора, что используете и в вашем проекте. На выходе получите набор файлов *.h и *.dll/*.lib для Windows (*.so - для Linux).

Устанавливаете библиотеку в нужное вам место.

Подключаете её к сборке вашего проекта. Для этого в pro-файле добавляете:

INCLUDEPATH += /path/to/your/headers # путь, куда вы положили заголовки вашей библиотеки
LIBS += -L/path/to/your/lib \ # путь, куда вы положили бинарные модули вашей библиотеки
        -lyourlibname # собственно имя подключаемой библиотеки без префикса lib и расширения файла (т.е. для файла librt.so нужно написать -lrt)