Em meio ao cenário bucólico e acolhedor de Baldim, destaca-se a charmosa Igreja Matriz, construída a partir de 1853 graças ao empenho e aos recursos do português Bernardino Martins de Almeida, figura central na fundação da cidade. Erguida em um terreno de 18 alqueires doados por ele, a igreja se tornou ponto de referência para os moradores e viajantes que cruzavam a região, atraídos também pelo clima agradável e pelas belas paisagens. Concluída em 1873, treze anos após a morte de seu idealizador, a Matriz guarda não apenas a fé, mas a história de um município que já se chamou Pau Grosso, em homenagem a um imenso jequitibá que servia de abrigo aos tropeiros, e que, desde 1917, atende pelo nome de Baldim, uma adaptação popular de Balduino ou Ubaldino, antigo morador da região.
