Yozgat Anadolu'nun en eski yerleşim Merkezlerinden birisidir. Alişar Höyüğünde 5.000 yıl önceye ait eserler bulunmuştur. Yozgat toprakları Anadolu'da ilk siyasi birliği kuran ve Anadolu'da tarih devrinin başlangıcı kabul edilen Hititlerin sınırları içerisinde ve en kalabalık Merkezlerinden biriydi MÖ. 1500-2000 yılları arasında kurulan Hitit Krallarının Merkezi Hattuşaş, Yozgat il sınırları içerisindedir.
Kısa bir müddet Lidyalıların eline geçen bölge daha sonra Persler ve Galatların hakimiyet sahalarına dahil olmuştur. MÖ. 585'te Med Kralı Kiyaksar, Lidya  Kralı Alyat ile yaptığı savaştan sonra Kızılırmak iki devlet arasında sınır olmuştur. Daha sonra İran'da Medlerin yerine hakimiyeti ele alan Perslerin Meşhur hükümdarı Kiros tarafından Lidya ortadan kaldırılınca bütün Anadolu gibi bölgede pers hakimiyetine girmiştir.
MÖ. IV. Asırda Makedonya Kralı İskender, Pers Devletini yenerek Anadolu ve İran'ı kırallığına kalmıştır. İskender'in ölümü üzerine imparatorluk komutanları arasında pay edilerek Anadolu, Asya İmparatorluğu (Selevkaslar Devleti)' nun payına düştü. Daha sonra bölge Kapadokya Krallığına geçerek Kayseri'den idare edilmiştir. M.Ö. I. Asırda Roma imparatorluğu bütün Anadolu'yu kendi topraklarına katmıştır. M.S. 395 yılında Roma İmparatorluğu ikiye bölününce Anadolu Doğu Roma (Bizans)'ın toprakları içerisinde kaldı.
İslam orduları ve Sasaniler zaman zaman Bizans'ın elindeki bu bölgeye akınlar yapmışlarsa da bu bölgeyi devamlı olarak ellerinde tutamadılar. 1071 Malezgirt zaferinden sonra Anadolu Fatihi ve Anadolu'da ilk Türk Devletinin kurucusu Kutalmışoğlu Gazi Süleyman Şah kumandanlığındaki Selçuklu Oğuz orduları, bütün Anadolu gibi Yozgat bölgesini de fethederek 1077'de kurulan Selçuklu Türk Devletine kattı. Bir ara Danışmendoğullarının nüfusuna giren bu bölge, Anadolu Selçuklu Türk Devletine bağlı kalmıştır. 1308'de Selçukoğulları Hanedanı düşünce Anadolu gibi bu bölgede İlhanlı Devletine bağlandı.
İlhanlıların sonuncu Anadolu Genel Valisi Uygur Türkleri’nden Eratna Bey 1335’te Sivas’ta istiklalini ilan edince bu bölge Eratına Beyliğine geçmiş oldu. 1380’de Selçukoğullarından Melih Rukneddin’e intikal ettib 1389’de Kadı Burhaneddin öldürülünce Sultan Yıldırım Beyazıd Han bu bölgeyi 1389’de Osmanlı topraklarına katmış oldu. Bu tarihten itibaren Osmanlı Devleti yıkılıncaya kadar Yozgat bir İçanadolu şehri olarak Osmanlı idaresinde kalmıştı.
Bilindiği gibi Türk Dünyası Uygarlar, Kıpçaklar, Karluklar, Hunlar, Avarlar, Kırgızlar, Oğuzlar gibi bir takım büyük kolları ayrılırlar. Bunların içerisinde en büyük ve özellikle İslam Tarihinde en etkin rol oynayan Türk grubu İran, Anadolu, Irak, Suriye, Kafkasya ve Balkanlara yayılıp Selçuklular ve Osmanlılar gibi büyük imparatorlukları kurmuş olan Oğuzlardır (Türkmenler). Oğuzlar Anayurt’ta boylar federasyonu diyebileceğimiz bu sistemde Bozoklar ve Üçoklar adıyla iki kola ayrılmış halde teşkilatlanmışlardı. İşte bu bölgeye verilen ‘Bozok’ adı da Oğuzların iki büyük kolundan birini teşkil eden ‘Bozok Türkmenleri’ adından gelmektedir.
Türkmen Beylerinden Çapanoğlu Ahmet Paşa Yozgat’ı yeniden baştan imar etti. Ahmet Paşa 1762-1813 yılları arasında 51 yıl süreyle valilik yapmıştır. Bir ara Çorum, Kayseri, Ankara, Amasya, Çankırı, Niğde, Tarsus bu ailenin idaresine verilmiştir. Sultan Mahmut Han zamanında idari değişikler olunca, üçüncü Çapanoğlu Süleyman Bey’in büyük oğlu Celaleddin  Paşa vezir (Maraşal) olarak devlet hizmetinde çalıştı. Diyarbakır, Halep, Maraş, Erzurum, Adana ve Kayseri valiliği yaptı ve 1846’da vefat etti. Çapan (copar) veya Cebbaroğullarından Ahmet Paşa ve oğulları Hacı Mustafa ile Süleyman Bey; Ömer Ağa ve Müderris Abdülcebbar ve Abdülfettah Efendiler bu aileden olup, devlete büyük hizmetleri olmuştur.
Osmanlı Devletinde ‘Bozok’ denilen ve aşağı yukarı bugünkü Yozgat toprakları içinde alan sancak (vilayet) Sivas Beylerinin (eyaletinin) sekiz sancağından biriydi. Tanzimattan sonra ise Ankara vilayetinin beş sancağından biri olmuştur. Üç kazası vardı. Cumhuriyet devrinde sancaklara (mutasarrıflara) vilayet-il denilince Yozgat vilayet oldu.
İlin asıl adı “Bozok” olup zamanla “Yozgat” olarak değiştirilmiştir. Oğuzların Bozok koluna mensup Türkmenlerin bu bölgeye akınıyla birlikte yöre “Bozok” ismiyle anılmaya başlanmıştır. 1800’lü yıllara doğru bu ismin yanı sıra “Yozgat” adı da telaffuz edilerek kullanılmaya başlanmıştır.
Bir başka rivayete göre Aşiret Reisi Ömer Cabbar (Çapanoğlu) Ağa’nın yüzü çopurdu. Bu yüzden kendisine Çopur veya Çapar Koca derlerdi. Söylentiye göre Cabbar Ağa sürülerini bir yoz günü yaylıkta otlatırken karşısına Hızır (A.S) çıkar ve davar sahibi Cabbar Ağa’dan içmek için süt ister. Güler yüzlü Ömer Ağa hem misafirine ikramda kusur etmeyerek gönül hoşluğu ile sütü ikram eder.
Hızır Aleyhisselam sütü içtikten sonra çok memnun olur ve Cabbar Ağaya “Çaparoğlu Yozuna Yoz katılsın, memleketinin adı Yoz-Kent olsun!” diyor.  Bunu söyleyerek kayboluyor. Zamanla Yoz-Kent söylene söylene Yozgat halini alıyor. Bu efsane halen bölgede anlatılmaktadır.