合肥在新石器時代，就有人類在此活動。唐高祖武德三年（620年），改廬江郡為廬州，治合肥。清朝順治二年（1645年），改南京直隸為江南省，合肥縣屬江南省廬州府，為府治。民國元年（1912年），廬州府廢，合肥縣直屬安徽省。民國十七年（1928年），廢道，合肥縣直屬安徽省。1949年1月21日，合肥縣和平解放，同年2月，合肥設市。

截至2023年12月31日，合肥下轄4個市轄區(qū)、1個縣級市、4個縣，分別為蜀山區(qū)、瑤海區(qū)、廬陽區(qū)、包河區(qū)、巢湖市、長豐縣、肥東縣、肥西縣、廬江縣。

合肥市縣級以下行政區(qū)劃變更情況：

撤鄉(xiāng)設鎮(zhèn)：撤銷高店鄉(xiāng)，新設高店鎮(zhèn)，現(xiàn)區(qū)劃代碼：340123111（2022年調(diào)整）

撤鄉(xiāng)設鎮(zhèn)：撤銷嚴店鄉(xiāng)，新設嚴店鎮(zhèn)，現(xiàn)區(qū)劃代碼：340123112（2022年調(diào)整）