O antigo povoado do qual se originou o município surgiu da ação colonizadora da Companhia do Mucuri. Também a atividade catequizadora dos capuchinhos Serafim Gorizia e Ângelo de Sassoferrato contribuiu para a fundação e colonização de povoados e vilas. No município de Itambacuri, por volta da década de 30, havia um povoado denominado Baixinha Quente em razão dos vários casos de violência ali existentes. Depois, passou a se chamar Conceição, em homenagem a Nossa Senhora da Conceição, padroeira do local. Em 1962, é elevado a município, tendo recebido o nome de Frei Gaspar.