Od 962 r. miasto stało się stolicą państwa Ghaznawidów, założonego przez Alptigina. W czasie panowania Mahmuda z Ghazni (998–1030) przekształciło się w prawdziwe centrum kulturalne oraz siedzibę uczonych i poetów (Al-Biruni, Ferdousi, Ansari), rywalizującą z Bagdadem.

Po upadku imperium Ghaznawidów dalsza historia miasta była równie burzliwa. Od 1173 znalazło się na w obrębie księstwa Ghor. W XIII i XIV w. trafiło pod panowanie mongolskie, a w XVI wieku w ręce Wielkich Mogołów. W 1738 roku miasto zdobył Nadir Szach. W 1747 Ghazni wraz z prowincją stało się częścią państwa afgańskiego, by w latach 1838–1842 znaleźć się we władaniu Anglików podczas pierwszej wojny afgańskiej.