Den äldsta delen av Ala kyrka är långhuset från 1100-talets slut. Omkring 1250 byggdes den romanska 1100-talskyrkan om, det gamla absidkoret förlängdes och kyrkan försågs med västtorn.
Dagens kyrka har två skulpturförsedda portaler kvar från 1100-talets kyrka.
Vid en brand i juni 1938 förstördes en stor del av kyrkans medeltida inredning, bland annat triumfkrucifixet, glasmålningarna och kyrkklockan. I samband med restaurering efter branden upptäcktes medeltida kalkmålningar i tornvalv (samtida med tornets uppförande) och långhus (Passionsmästaren, 1400-tal). Kyrkan återinvigdes 1940.
Tornhuven på Ala kyrka rekonstruerades efter branden till samma utseende som den tornhuv från 1700-talet som brann upp. 1700-talets tornhuv på Ala kyrka, liksom på Lye kyrka (tillkom 1779, och finns fortfarande kvar), uppges ha varit ritad av stockholmsarkitekten och professorn vid Konstakademien, Olof Tempelman. Samma design på tornhuv (sannolikt ritade av samma arkitekt) finns även på Fårö kyrka (som fick sin nuvarande tornhuv i slutet av 1700-talet, i samband med att det medeltida tornet revs och ett nytt, högre torn byggdes) och på Visby domkyrka där västtornet från 1744 ersatte en äldre, spetsig tornhuv som brann upp, och östtornens huvar kom till 1760.
