Kościół karmelitów jest jedynym zachowanym średniowiecznym kościołem zakonu żebraczego w Moguncji – i nie jest to bynajmniej „stara ruina”! Pierwsi karmelici
przybyli do Moguncji około 1270 roku. Pierwszy klasztor wraz z kościołem został zbudowany w pierwszej połowie XIV wieku. W wyniku sekularyzacji klasztor został zlikwidowany w 1802 roku. Dopiero ponad sto lat później, w 1924 roku, kościół karmelitów powrócił do zakonu żebraczego, który miał swoją siedzibę w Moguncji od 1270 roku. Do tego czasu był on wykorzystywany jako magazyn i tylko dzięki protestom mieszkańców Moguncji uniknął rozbiórki.
Budowę obecnego klasztoru rozpoczęto w 1963 roku. Od 1964 roku mnisi ponownie mieszkają w dobudowanym klasztorze i ożywiają kościół klasztorny z początku XIV wieku.

Pomimo wielu zmian, jakie zaszły na przestrzeni wieków, kościół karmelitów nadal można podziwiać w stanie oryginalnym, jedynie malowidła sufitowe są kopiami. Warto zwrócić uwagę między innymi na pochodzącą z XIV wieku kaplicę ołtarzową z płaskorzeźbą z 1517 roku, „Madonnę z winoroślą” (ok. 1400) oraz nowoczesne witraże autorstwa Jana Schoenakera (1970). Środkowe okno chóru przedstawia herb miasta Moguncji oraz dwie postacie „Mainzelmännchen”.

W latach 2009/2010 przeprowadzono gruntowny remont wnętrza, w wyniku którego w środkowej części powstała wyspa ołtarzowa, na której stoi nowy drewniany ołtarz.