Vuonna 1921 voimaan tullut oppivelvollisuuslaki teki kaikista 7 - 13-vuotiaista lapsista oppivelvollisia. Kuntien oli järjestettävä heidän opetuksensa annetun siirtymäajan jälkeen. Tämä tarkoitti, että Haukijärvelle piti neljän jo pitkään toimineen yläluokan lisäksi saada alakoulu. Asia merkittiin kunnan koulusuunnitelmaan jo 20-luvulla. Lisäksi lastenkodin siirtyminen Haukijärvelle vauhditti alakoulusuunnitelmia. Vuonna 1930 oltiin lopulta niin pitkällä, että suunnitelmaa ruvettiin toteuttamaan. Vielä tuona vuonna alkuopetus kuitenkin hoidettiin kiertokoulussa, joka toimi lastenkodissa keväällä ja syksyllä. Seuraavana vuonna ei kiertokoulua Haukijärvellä pidetty, mutta on epäselvää, pääsikö alakansakoulu aloittamaan vielä silloin. Seuraavassa hiukan alakoulun historiaa.
Kunnanvaltuusto päätti aloittaa alakoulun toiminnan Jumesniemen ja Haukijärven koulupiireissä vuoden 1931 alusta. Opetus oli supistettua, sillä opettaja oli yhteinen. Joulukuussa 1930 johtokunnat julistivat haettavaksi koulupiirien yhteisen alakansakoulunopettajan väliaikaisen viran, joka tuli ottaa vastaan heti, kun kutsu tulisi. Virkaan tuli 1931 valituksi Saara Sirkka Mielikki Valtasaari. Johtokunnan kokouspöytäkirjojen perusteella näyttää siltä, että alakoulu pääsi aloittamaan Haukijärvellä vasta kevätlukukaudella 1932. Edellisenä syksynä johtokunta vielä mietti opettajan asuntoa. Ehdolla oli ainakin Kalliopohja. Myös varsinainen koulurakennus puuttui. Johtokunta harkitsi muun muassa Pertun pirtin ottamista käyttöön. Myös Kivimäki oli ehdolla, siellä opettaja sitten asuikin joitakin vuosia. Lopulta alakoulu sijoitettiin kuitenkin yläkoulun veistoluokkaan, joka eristettiin kaksinkertaisilla ovilla, jotta häiriötä ei yläkoulun puolelle syntyisi.
Kunnanvaltuusto kyllä päätti jo 1930 rakennuttaa Haukijärvelle alakoulun. Asia ei kuitenkaan edennyt mitenkään ripeästi. Ilmeisesti rakennuksen ei katsottu mahtuvan yläkoulun tontille, sillä ainakin johtokunta pohti samana vuonna Ruusin tonttia, mikä se sitten olikaan. Alakoulu kuitenkin muutettiin 1934 täysimääräiseksi ja opettajaksi tuli Asta Niittymäki. Rakennusasia eteni vasta, kun Eino Haapanen 1938 lahjoitti koululle tontin. Joulukuussa 1938 kunnanvaltuusto myönsi johtokunnalle määrärahan alakoulun piirustusten hankkimista varten. Huhtikuussa 1939 valtuusto hyväksyi rakennusmestari Jalmari Salovaaran tekemät piirustukset, työselityksen ja kustannusarvion. Tuolloin myös valittiin rakennuslautakunta, johon tuli koulun johtokunta sekä Matti Lähteenmäki.
Rakennuslautakunta esitti kesällä 1939 rakennuksen valmistumisajankohdan siirtoa vuoteen 1940. Tämä hyväksyttiin, ja lautakunta velvoitettiin hankkimaan urakkatarjous valtuuston syyskuun kokoukseen mennessä. Lokakuussa valtuusto päätti antaa urakan Nikolai Mäkelälle 281 000 markan urakkasummasta. Talvisota lienee vaikuttanut rakentamiseen, mutta pahasti se ei myöhästynyt. Johtokunta suunnitteli joulukuussa 1940 rakennuksen vihkiäisjuhlaa loppiaiseksi 1941.