Joseph Crétin nació en Montleuil, Francia, en 1799. Tras cursar sus estudios en el seminario de París, fue ordenado sacerdote en 1823 y ejerció como párroco en la Diócesis de Belley entre 1823 y 1838. A raíz de la invitación del obispo Mathias Loras, el primer obispo de Dubuque, Iowa, quien era un viejo amigo, el P. Crétin se convirtió en misionero. Ejerció su ministerio entre los nativos americanos en la Diócesis de Dubuque, que en ese entonces incluía lo que hoy es Minnesota. Fue nombrado obispo de la recién formada Diócesis de Saint Paul y fue ordenado su primer obispo el 26 de enero de 1851.
El obispo Crétin construyó dos catedrales durante su mandato en Saint Paul, además de un hospital y escuelas; también fundó cementerios. Deseaba poblar la zona con católicos, por lo que se esforzó por impulsar el crecimiento de su diócesis trayendo inmigrantes católicos de países europeos a las fértiles llanuras de Minnesota. Dotado de un ardiente espíritu misionero, continuó ejerciendo su ministerio entre los nativos americanos y recorrió la vasta extensión de esta diócesis, que en aquel entonces abarcaba todo Minnesota y las Dakotas.
