Büyük dedesi Sa’d b. Büceyr sahâbedendi; Hendek Gazvesi’nde gösterdiği cesaretle tarihe adını yazdırmış, Hz. Peygamber’in duasını almıştır. Ebû Yûsuf, ilim merkezi haline gelen Kûfe’de yetişmiştir.
Yokluktan gelmesine rağmen ilim çalışmalarından vazgeçmemiş, en önemli hocası Ebu Hanife olmuştur. İbn Ebû Leylâ başta olmak üzere birçok âlimden ders alan Ebu Yusuf, özellikle hadis ve fıkıh alanında çalışmalar yapmıştır.
Hocası Ebû Hanîfe’nin ölümünden sonra bir süre ilimle uğraşmış ondan sonra Abbasi Halifesi Mehdî-Billâh döneminde Bağdat’a giderek kadı tayin edilmiştir. Hârûnürreşîd zamanında ilk kez oluşturulan “kādılkudât” makamına getirilen Yusuf, İslâm tarihinin ilk başkadısı unvanını almıştır.
Ebu Yusuf’un cenaze namazını Hârûnürreşîd kılınarak Bağdat’ın Kâzımiye bölgesine defnedilmiştir.
