A polgárosodó Székesfehérvár lakossága több esetben szorgalmazta fiú polgári iskola létesítését. Az igényekkel egyetértve a vallás- és közoktatásügyi minisztérium és a város közötti hivatalos megállapodás értelmében 1920-ban kezdte meg működését a Székesfehérvári Magyar Királyi Állami Polgári Fiúiskola. 1921 szeptemberében költözött az iskola a Mirth-féle csendőrlaktanya öreg, de tágasabb épületébe. Az első végzősöket (32 tanulót) az 1922/23. tanévben vizsgáztatták. Az egyre növekvő tanulólétszám miatt a délutáni órákban a vízivárosi, az Öreg utcai elemi iskolákban és az ipariskolában bérelt termekben is folyt az oktatás. Az 1927/28-as tanévben készültek el az új iskola épületének tervei. A létesítmény alapkövét 1931. június 22-én helyezték el. A város vállalta az építési költség 30 %-át, és a Horthy Miklós tér délkeleti oldalán biztosította az építkezéshez szükséges területet.
Az épület 1932 tavaszán került tető alá. Orth Ambrus budapesti műépítész tervei alapján épített vörös dísztéglás új épület avatására a leánygimnáziummal egy időben, 1932. november 19-én 11 órakor az Szent István teremben került sor. Ugyanekkor vette fel az iskola gróf Klebelsberg Kunó elhunyt kultuszminiszter nevét. A beköltözés november 3-án történt. Az 1943 tavaszán előbb magyar, majd orosz katonai célokra (hadikórház) lefoglalt épület a háború alatt súlyos károkat szenvedett. Székesfehérvár 1944 őszén, 1945 tavaszán a magyarországi harcok középpontjában volt. 1945-ben hazánkban létrejött új társadalmi struktúra lehetővé tette a demokratikus iskolarendszer kiépítését. A köznevelési reform első, egyben legjelentősebb lépése már 1945-ben megtörtént. A második világháború után a politikusok többsége egyetértett abban, hogy az iskolarendszert demokratikus irányba kell továbbfejleszteni. A hazai polgári iskolai oktatás 1947/48-as tanév végén, az iskola fennállásának 28. tanévében végleg megszűnt. 1948 szeptemberétől (az iskolák államosítását követően) az intézményt Marx Téri Általános Iskola néven összevonták az épületben önállóan működő III. sz. Állami Leány Általános Iskolával.