公主岭是公主陵、公主灵的音转。初名苇子沟。后因城区北土岭上有清乾隆之女和敬公主陪陵，故改名公主岭。又一说，公主岭为辽河和松花江的分水岭，又有一座公主陵，因此起名为公主岭。
辽置信州武昌县（治秦家屯镇），后废。清同治五年（1866）属昌图厅。光绪三年（1877）置怀德县。因此地为达北地区，是“盗寇出没”之地，统治者为教化“顽民”，希望他们“怀之以仁德”故名。属奉天昌图府。1914年属奉天省洮南道。1929年废道，属辽宁省。1931年治所迁公主岭。
1945年10月，怀德县划归吉合区行政委委员会长春地区管辖，下辖8个区。12月，划归吉林省直辖。不久，改归辽北省怀德专区。1946年2月，划归辽西省二专区。1946年4月，为发动四平战役，因公主岭处于战略要地前沿，特成立中共公主岭中心县委，领导伊通、双阳、怀德县委，战斗结束后，于5月撤销。6月，划归辽吉区二专区。
1947年5月，公主岭解放。1948年2月，划归辽北省后方办事处。7月，划归辽吉区第二专区。1948年10月，划归辽北省直辖，下设8个区。1948年土地改革完成后，怀德县辖10个区，239个村。
1949年3月31日，设立公主岭市，为丙等城市；5月，变为县辖市；怀德县划归吉林省管辖。1949年4月21日，东北行政委员会[东建民字第15号]令，辽北省的怀德县等划归吉林省管辖，下辖13个区，公主岭市为全省310个县辖区中包括的4个县辖市之一。1949年8月，八区划给长春县。9月10日，九区一分为二，分出范家屯区，后二区机关由大岭迁到柳杨。
1950年4月，六区划出十屋区。10月20日，一区一分为二，成立了平安区。全县共分为12个区。1952年9月，公主岭市定为区级市，隶属于怀德县。10月14日，撤销长春县，将长春县的三区烧锅、四区和气、五区双城堡划给怀德县，全县共分为15个区。1955年5月26日，各区取消以序数命名的区名，恢复原名；陶家屯区改称刘房子区；6月4日，设双城堡街、黑林子村为乡级镇。
1956年7月3日，经国务院批准，设立怀德专区，行署驻公主岭镇。辖怀德、榆树、农安、扶余、德惠、九台、梨树、伊通、双阳、东辽lO个县。设立公主岭市，以原公主岭镇的行政区域为公主岭市的行政区域。9月，公主岭市改为区级镇，范家屯升为区级镇，撤销刘房子、十屋、平安、烧锅、和气等5个区。全县实行区、乡、社制。10月6日，怀德专员公署更名为公主岭专员公署；10月12日，公主岭镇从怀德县析出，成立公主岭市（县级），以怀德县公主岭镇的行政区域为公主岭市的行政区域。为省辖市。设公主岭市人民委员会。
1958年1月，裁区并乡，撤销双城堡、黑林子乡级镇建制；保留范家屯区级镇、怀德、杨大城子乡级镇建制。2月10日，伊通县的二十家子、余庆号、放马沟、李家烧锅等4个乡划归怀德县，同时将二十家子乡变为乡级镇。原县内小乡合并成为33个大乡。调整后，全县辖乡、镇37个。1958年7月人民公社化，全县37个乡、镇转为37个公社（镇）。1958年10月23日，经国务院批准，撤销公主岭专区，设立四平专区，将怀德县、公主岭市等划归四平专区管辖。
1959年7月3日，经国务院批准成立怀德专区，撤销公主岭市还怀德县，行署驻公主岭镇。10月6日，更名公主岭专区。lO月12日，设立公主岭市，仍存怀德县。1960年1月7日，经国务院批准（国议字第8号），撤销公主岭市，恢复公主岭镇，划归怀德县管辖。辖15个社、镇，不久又划为28个社、镇。1961年，将28个公社、镇调整为35个公社、镇。
1966年5月27日，将烧锅公社划归农安县管辖。1970年10月，撤销杨大城子镇，五星公社和杨大城子公社合并，设立杨大城子公社。1979年末，恢复五星公社和杨大城子镇。1980年初，全县辖30个公社、3个镇。401个生产大队，3026个生产小队。同年，撤销怀德县革命委员会，成立怀德县人民政府。1983年4月，公社改为乡，生产大队改为村，生产小队改为屯；同年，和平乡改称龙河乡，建设乡改称育林乡。
1983年9月5日，经吉林省政府批准，撤销四平地区，设立四平市（地级），将原四平地区的怀德县等划归四平市管辖。1984年11月20日，将二十家子乡改为二十家子满族乡，后改为镇；将龙河乡改为放马沟满族乡。1984年12月，秦家屯、双城堡、黑林子、刘房子4个乡改为镇，其管辖区域不变。1985年2月2日，五星乡与杨大城子镇合并，平安乡与怀德镇合并，凤响乡与范家屯镇合并。
1985年2月4日，经国务院批准（国函字[85]第17号文件），撤销怀德县，设公主岭市（地级市）。以原怀德县行政区域为公主岭市行政区域。辖怀德、公主岭2个市辖区。将四平市的伊通县划归公主岭市管辖（3月8日吉林省政府吉政发[85]47号文件）。5月30日，设苇子沟乡。12月20日，将大岭、响水、桑树台3个乡改为镇。1986年1月20日，吉林省政府吉政发[86]9号文件通知，经国务院批准，将公主岭市改为县级市（不设区、不带县），由四平市代管，计划由省单列。将伊通县划归四平市管辖。
