Det antages, at der også her, som det er tilfældet i de fleste sogne, tidligere har ligget en trækirke. Noget tyder på, at kor og skib i den nuværende kirke ikke er bygget samtidigt. Bl.a er tømmerværket over de to rum mærket forskelligt og ældst er tømmeret over skibet.

Reformationen i 1536 satte sine spor, også i form af ændringer på kirkens bygning, dog er våbenhuset, som er rejst omkring kvindernes indgang ved norddøren, sandsynligvis bygget før dette tidspunkt. Normalt var det mændenes dør mod syd, som blev bevaret, men her har man valgt den indgang, som er lettest tilgængelig for byens folk.

Kirken har navnet Skt. Karens Kirke. Dette ses på den ældste af de to sammenføjede præstetavler i tårnrummet: Præsterækken ved Karens Kirke. Øster Alling Kirkes værnehelgen fra katolsk tid er således Sancta Catarina, som står for Skt. Karen, hvis helgendag er den 25. november.