当时大思想家王充时常到班家与班彪交流学术，班固很得王充赏识。公元47年，班固进入当时最高学府洛阳太学读书，系统地研读更多的文献。在班固于洛阳求学期间，班彪英年早逝，按当时礼俗，父母去世子女必须在家守丧三年，班固只好中断太学生活，回到故乡守丧。

班固守丧期间整理父亲留下来的文稿，结果发现了《史记后传》。班固在此基础上开始了《汉书》的撰述，时为东汉明帝永平元年（公元58年），班固27岁。公元62年，有人告发班固私撰国史。朝廷下令扶风郡将班固逮捕，解送洛阳监狱，同时将其书稿没收送呈皇帝。

在危急关头，班固之弟班超赴洛阳向朝廷说明事实真相，汉明帝看了班固书稿，见其颂扬大汉功德，非常高兴，结果非但没有给班固治罪，反而召他到洛阳任职，官拜兰台令史。这样，班固利用朝廷优越的条件，继续《汉书》的修撰。

兰台是东汉皇家藏书之所，设令史六人，秩六百石，掌管图籍和校定图书。班固先被委派修撰记载光武帝事迹的《世祖本纪》，接着又完成了光武朝功臣事迹的著述，共成列传、载记28篇，光武朝事迹大体完备。不久，班固晋升为郎官，又称“校书郎”，负责校理图书。公元62年，汉明帝特下诏班固恢复《汉书》的著述，转为官修。

公元75年，汉明帝卒，子刘炟继位，是为章帝。班固以其渊博的学识深得章帝的器重，时常跟随皇帝左右，陪伴章帝读书，讨论儒家经典，甚至夜以继日。皇帝出巡，班固也常随同，每到一地，班固常献上诗赋以助兴。公元85年，章帝东巡五岳之尊的泰山，班固献上《东巡颂》。朝廷每有大事，章帝都让班固发表意见，参与大臣们的讨论，并不时赏赐大批财物。

东汉初年，匈奴内部发生了争夺单于继承权的斗争，不久分裂为南匈奴和北匈奴两部，南匈奴于公元48年投奔东汉王朝，被汉政府安置在云中（治今呼和浩特托克托县）、西河（治今鄂尔多斯东胜区）一带，北匈奴仍居漠北。

汉章帝建初初年，北匈奴遣使表示愿与东汉和好，在对待北匈奴问题上，统治者内部意见不一，召开所谓“匈奴和亲会议”，朝臣们大都以传统的夷夏大防观念认为匈奴言而无信，恐中计谋，对其和亲不予理睬。
班固力排众议，认为应与匈奴修好，当时东边乌桓降服，西部康居、月氏也遣使来朝，北面南匈奴业已归顺，现在北匈奴愿意修好，是求之不得的好事，八方辐辏，四邻来朝，正是中央王朝强盛的体现，各族之间和平共处，互通有无，有百利而无一害。章帝认为班固高瞻远瞩，采纳了他的意见，汉匈之间的联系由此得到加强。

班固在58岁时，以中护军身份走出书斋从戎，跟随大将军窦宪出击匈奴。汉章帝初年，窦宪之妹被立为皇后，窦宪很快被升为虎贲中郎将。公元88年章帝卒，年仅10岁的和帝即位。窦太后临朝，窦宪以国舅身份把持朝政，肆无忌惮，竟派人刺杀了刘氏宗族齐殇王的儿子刘畅，事情被揭露后窦宪请求出征匈奴以赎罪。

北匈奴与汉通好后不久即反目为仇，南匈奴请兵攻伐，朝廷拜窦宪为车骑将军，任班固为中护军，率骑兵8000人，会同南匈奴3万铁骑挥师北上，在稽落山（今蒙古达兰札达加德）与北匈奴展开激战，大获全胜。
汉军乘势追击到离边塞3000余里的燕然山（今蒙古杭爱山脉），俘获牛、马、羊百万头，北匈奴81部共20余万人归降东汉。窦宪在燕然山上勒石记载这次辉煌的胜利，让班固著文，这就是著名的《封燕然山铭》。“燕然勒石”由此成为传诵千古建功立业的典故。

出征匈奴后，窦宪声威大震，权势更加显赫，位居三公之上，其弟窦笃任卫尉（掌宫门警卫，主管南军）、窦景任执金吾、窦瑰为光禄勋，炙手可热；而且广纳党羽，为所欲为，其宾客爪牙仗势扬威。

班超被封为“定远侯”，与西汉“博望侯”张骞齐名。班超之子班勇随父长期居留西域，了解西域风物人情，撰成《西域记》，成为范晔《后汉书·西域传》的基本依据。

《汉书》一经写成，就受到时人的普遍重视，风行天下。《汉书》是第一部纪传体断代史，共100篇，后人将其中篇幅较长的篇章析为上、下篇，共为120卷。为避免与书名重复，《汉书》将《史记》的“书”改称为“志”。

《汉书》按西汉十二帝顺序设立十二纪，记载西汉一代的军政大事。《史记》中西汉部分立五本纪，即：高祖本纪、吕太后本纪、孝文本纪、孝景本纪、今上（武帝）本纪。《汉书》中增加了《史记》所缺的《惠帝纪》。

汉初除挟书之律，至成帝时收集了大量文献，这些以竹简、木牍为载体的图书在京师堆积如山，错乱严重，于是成帝命光禄大夫刘向负总责，由学有专长的学者分工负责，进行了中国历史上第一次大规模的文献整理工作。刘向过世后，其子刘歆继领其事，他将这些书的内容提要汇集起来，分门别类，编成我国古代第一部图书总目录——《七略》。

刘歆《七略》分六艺略、诸子略、诗赋略、兵书略、术数略、方技略、辑略7个部分，其中辑略是全书的总序，实际上将图书分为6大类，下分38小类，共著录图书603家，计13219卷，基本上反映了汉代图书的全貌。班固著《汉书》，以《七略》为基本依据，成《汉书·艺文志》，《七略》后失传，但其材料因《汉书》而流传下来。