“父母官”一词源于《礼记?大学》：“《诗》云：‘乐只君子，民之父母。’民之所好好之，民之所恶恶之，此之谓民之父母。”其中的“父母”泛指统治者。在汉代，曾出现了两位取得卓越政绩的地方官员，即西汉的召信臣和东汉的杜诗。据《后汉书》记载：杜诗担任南阳太守期间，深受百姓爱戴，百姓将其与西汉的召信臣相提并论，于是就有了“前有召父，后有杜母”之说，此时，“父母”一词已具有了地方官员的含义。采初王禹傅在《谪居感事》一诗中写道：“万家呼父母，百里抚悸嫠。”诗后则附有自注：“民间呼令为父母官。”这是将“父母官”比做地方官员的最早出处。
在封建社会，父母既是子女的主宰，同时又最疼爱自己的子女，而作为“父母官”则被赋予了领导与爱护百姓的职责。由于承担这一职责的通常是州、县等地方长官，因此，所谓的“父母官”其实是百姓对地方长官的一种赞誉。除此之外，“父母官”还代指家乡的地方官员。古人做官的途径主要是通过举荐和科举考试，一旦成为朝廷命官，出于避嫌等原因，通常要到异地为官。而那些京师高官，除了本身的祖籍在京师外，大多数官员的父母还在地方，这部分人也把家乡的地方官员称之为“父母官”，这就是通常所说的“家；父母官”。
“父母官”的两种含义所适用的对象虽然都是指地方官员，但用法却有所不同。前者是百姓对地方长官的称呼，是他称而不是自称，如此称呼体现了百姓对地方长官的一种敬畏和赞誉，而后者则是京师高官对家乡的地方官员的一种尊称，是一种自谦的表示，其如此称呼的主要目的在于：一来显示自己没有架子，尊重对方，=来希望对方对自己的父母亲眷有所照应。当前，有些文学作品或影视剧中常出现“我作为家乡的父母官”等话语，其实这是一种不恰当的用法，而在外地工作的普通工作人员在见到家乡的领导时，若把对方称之为“家乡父母官”，则显得过于自大了。