Ansgars kirkens historie starter tilbage i 1920, hvor blev besluttet at der skulle opføres en kirke i den sydlige del af Budolfi Sogn.
Byggeriet af kirken blev påbegyndt i 1925 og den stod klar til indvielse i januar 1929.
Kirken er tegnet af arkitekt Hother Paludaner og den er opført i rødgule sten. Kirken er opført i forskellige stilarter, der ses for eksempel en blanding af nyklassicisme, senbarok og renæssance i kirkens indgangsparti.
Kirken er nyrestaureret i 2001 og fremstår derfor lysere og flottere end nogensinde før.