1919 m. įkurta seminarija buvo didžiausia tuo metu Lietuvoje švietimo įstaiga, ruošianti pedagogus.
Iš pradžių veikla vyko vienaaukščiame pastate, buvusiame carinės Rusijos karininkų klube.
Priešais pastatą anuomet buvo daug erdvės, žaliavo parkas, kurio dalis po 1944 metų buvo sunaikinta, nes reikėjo vietos sovietų armijos karių kapinėms.
Naujieji rūmai šalia senojo pastato iškilo 1926-aisiais. 1944 m. juose buvo įsikūrusi karo ligoninė.
Per Antrąjį pasaulinį karą seminarija stipriai nukentėjo: buvo sunaikintas archyvas, suniokota biblioteka.
1952-aisiais seminarijai teko pakeisti pavadinimą pagal sovietinius reikalavimus. Ji tapo pedagogine mokykla, rengiančia pradinių klasių mokytojus bei ikimokyklinių įstaigų pedagogus.
Kai 1986 m. prie pedagoginės prijungė Kultūros mokyklą, moksleivių skaičius perkopė tūkstantį.
Kultūros mokykla rengė chorvedžius, kaimo kapelų vadovus, dramos kolektyvų režisierius, muzikos mokytojus.
1991 m. mokykla buvo reorganizuota į aukštesniąją pedagogikos mokyklą, pradėti rengti anglų ir vokiečių kalbos mokytojai, o būsimiems muzikos mokytojams buvo sudaryta galimybė įgyti bažnyčios vargonininkų specializaciją.
2001-aisiais aukštesnioji pedagogikos mokykla tapo naujai įsteigtos Marijampolės kolegijos fakultetu ir persikraustė į pagrindinį kolegijos pastatą miesto pakraštyje.
Netoli miesto centro esančiuose istoriniuose pastatuose prieš kurį laiką įsikūrė Marijampolės meno mokykla, Trečiojo amžiaus universitetas.
Pedagogikos mokykloje dirbę dėstytojai, kai kurie atidavę šiai veiklai po pusšimtį metų, yra žinomi iki šiol ne tik Marijampolėje. Daugelis juos pelnytai vadina šviesuoliais.
Atgimimo laikus menantys marijampoliečiai teigia, jog šios asmenybės ypatingai buvo reikšmingos, kai Sūduvos sostinėje kūrėsi Sąjūdis.
Lituanistas, nusipelnęs pedagogas Vytautas Viliūnas paskelbė daugybę straipsnių miesto ir regiono kultūros temomis, parašė knygą apie Marijampolės teatrą, Mokytojų seminariją, šv.Vincento Pauliečio bažnyčią.
V.Viliūnui 2004 m. buvo suteiktas Nusipelniusio marijampoliečio garbės vardas, 2014 m. jo veikla buvo įvertinta šv.Jurgio, Marijampolės globėjo, ordinu.
V.Viliūną ir jo lituanistę žmoną Liudą (1933–2019) iki šiol su pagarba mini buvę jų studentai.
Lituanistai Aleksandra ir Lionginas Šepkai pedagoginėje mokykloje dėstė po 50 metų. Trys dešimtys jų mokinių vėliau sugrįžo dirbti dėstytojais į Marijampolės pedagogikos mokyklą.
L.Šepkus kartu su V.Viliūnu sudarė vaikų literatūros chrestomatiją, paruošė dvi skaitinių knygas.
Už parašytą lietuvių literatūros vadovėlį XI klasei L.Šepkui buvo skirta valstybinė premija.
Šios mokyklos lituanistai Alfonsas Tiešis ir Kazimieras Akelis į lietuvių kalbą išvertė garsųjį Jaroslavo Hašeko romaną „Šauniojo kareivio Šveiko nuotykiai“.