晋元帝即位的第二年，匈奴族的汉国国主刘聪病死，汉国内部发生了分裂，大将石勒在反晋战争中扩大了势力，自称为赵王。
石勒是羯族人，他家世代是部落的小头目。他年轻的时候，并州地方闹饥荒，他和部落失散了，曾给人家做过奴隶、佣人。一次，他被乱兵抓住，关在囚车里。正好车旁有一群野鹿跑过，乱兵纷纷去追捕群鹿，他才趁机逃走。
石勒受尽艰难，没有出路，就招集一群流亡的农民，组织一支强悍的队伍，刘渊起兵后，他投降汉朝，在刘渊部下当了一员大将。他不识字，但从小受过汉族文化教育。任大将以后，渐渐懂得了要成大业，光靠有武力不行。于是，拜一个汉族士人张宾为师，采取了许多治国措施，还收留了一大批北方汉族中的贫苦读书人，组织了一个“君子营”，虚心向他们求教。由于他骁勇善战，加上有张宾等一大批谋士、老师帮他出谋献策，势力更加强大。过了两年，他在襄国自称皇帝，改国号为后赵。
他自己没文化，却十分重视读书人和尊重教书的先生。当了皇帝后，命令部下，凡遇到读书人和有学问的先生，一定要请到襄国来。他采用了张宾等人的意见，设立学校，要他部下将领的子弟进学校读书。他还建立了保举和考试的制度，招贤纳士，凡是各地保送上来的人经过评定，合格的就选用为官。
石勒特别喜欢读书，他自己不识字，就请一些读书人和老师把书讲给他听。他一边听，一边认真思索，没有一点架子，还随时发表自己的见解。有一次，他让人给他读《汉书》，听到有人劝汉高祖刘邦封旧六国贵族的后代的历史，他说：“刘邦采取这种错误做法，怎能得天下呢？”讲书人马上给他解释：“后来由于张良的劝阻，汉高祖并没有这样做。”石勒点点头说：“这才对啦！”
由于石勒重用人才，尊师好学，在政治上比较开明，后赵初期才出现了兴盛的景象。