La presencia católica en Goodhue se remonta a 1850, cuando el P. Félix Tessot era el párroco titular de los condados de Goodhue y Wabasha. Sin embargo, no fue hasta 1903 cuando los católicos locales se unieron para fundar su propia parroquia en Goodhue. En 1905 se adquirió una casa que sirvió tanto de capilla como de residencia hasta que se pudo construir una nueva iglesia. En 1934 se anunciaron los planes para una nueva iglesia. Se excavó el sótano, pero luego, con la Gran Depresión y el estallido de la Segunda Guerra Mundial, el proyecto quedó estancado durante veintidós años. La iglesia finalmente se terminó y se consagró en 1956. La Santísima Trinidad forma ahora parte de un grupo de tres parroquias junto con San Columbkill, en Goodhue, y Santa María, en Bellechester. La parroquia de San Columbkill fue fundada principalmente por inmigrantes irlandeses en la década de 1850 en lo que hoy es el municipio de Belle Creek, y fue atendida inicialmente por el P. Félix Tissot. En 1860 se erigió una iglesia de madera, seguida de la actual estructura de ladrillo en 1892. Un decreto de la Arquidiócesis separó el área de Goodhue en su propia parroquia de la Santísima Trinidad en 1903, convirtiéndose en una misión de Belle Creek. En 1862, se donaron cuarenta acres de tierra en lo que hoy es la ciudad de Bellechester para las necesidades espirituales de los colonos católicos, principalmente de Luxemburgo y Alemania, y poco después se construyó la primera pequeña iglesia de madera de Santa María. En 1877 se construyó una iglesia de piedra y en 1881 se estableció una escuela, a cargo de las Hermanas Escolares de Notre Dame.
