济宁别名运河之都，古称济州府。
济宁的历史悠久。夏商时，境内有任国（仍国）、还有奄、厥、卞明等封国。其中，奄曾为商王南庚的都城。盘庚迁都于殷后，奄为商属国。
周、战国春秋时，任国曾属鲁国、宋国、齐国等。
秦始皇统一之后废任国，置任城县、亢父县，曲阜还设有鲁郡。
五代时期称济州；北宋时期称济州济阳郡。到元八年(年)升济州为府治，因济水南会泗、北会汶，州居其中而获济水之宁，故名“济宁府”。
济宁的名字寓意着“济水之宁”，即祈求济水安宁之意。
任城区：远古时期，这里是东夷族原始部落。夏朝时，伏羲氏后裔有仍氏（有任氏）就在这里建立了仍国。周朝时期，仍国被封为任国。秦统一中国后，废任国而改为任城县。
兖州区：古九州之一，兖州之名由来已久，《尔雅》记载：“济河间曰兖州”。相传以发源于河南省济源县王屋山的沅水而得名，“沅”与“兖”字同音，兖是信义的意思。《辞源》中记载：济河间其气专质，厥性信谨，故曰“兖”。意思是说济水与黄河之间，所处条件特好，人的气质诚实谨慎所以称兖州。
微山县：微山以微子得名，微子是殷纣王庶兄，原封地于微，故称他为“微子”，此地有微山、微山湖。
鱼台县：鱼台之名始于唐代，因县北有鲁隐公观鱼台改方与鱼台，后隶属关系有所变更，而县名沿用至今。
金乡县：名字起源于西汉，汉武帝封其子为昌邑王，昌邑王死了之后葬在高平山，开始在山北，结果发现了白兔，又改为葬在山南，结果一挖下去就挖到了金子，于是改名为金乡山，地方名字也一直沿用至今。
嘉祥县：《左传》记载：十四年（公元前年），西狩大野（现巨野东北一带），猎获麒麟一只，麒麟为太平之兽，属吉祥之兆，因获麟地在嘉祥县境内，故以“祥瑞”之意取“嘉祥”置县名，沿用至今。
汶上县：因地处汶水之滨而得名。
泗水县：以泗河而得名，泗河古称泗水，为禹治九水之一。
梁山县：本名“良山”，良山属梁国境域，传说为皇家猎场，梁孝王刘武曾游猎于此，故更名为“梁”。
邹城市：周朝时封曹侠于此建立邾国。公元前年前后改“邾”为“驺”。秦始皇统一六国后，实行郡县制，始设“驺县”。至唐时，“驺”为“邹”。
曲阜市：“曲阜”二字，始见于《礼记》中：“成王以周公有勋劳于天下，是以封周公于曲阜。”