Ayasofya'nın bugün bulunduğu yerde önceden iki kilise daha inşa edilmişti. 330'da Konstantinopolis'in kurulmasından sonra 360 yılında II. Konstantin döneminde inşa edilen ve zamanının en görkemli yapılarından biri olan ilk kilise 404 yılında bir ayaklanma sırasında büyük ölçüde yandı. İkinci kilisenin inşasına imparator II. Theodosius döneminde 415 yılında başlandı. Bu kilise de 532 yılında çıkan büyük Nika ayaklanması sırasında yanarak yerlebir oldu. Kilisenin yıkılmasının hemen ardından imparator I. Jüstinyen üçüncü ve öncekilerden çok daha büyük bir kilise inşasına karar verdi. Mimarlığını Miletli Isidore ve Tralles'li Anthemius'un yaptığı kilise 537 yılında tamamlandı.

558 yılındaki deprem sırasında çok düz olduğu için aşırı ağırlık oluşturan ana kubbe çöktü. Restorasyon sırasında daha hafif malzemeler kullanıldı ve kubbenin boyu 6.25 metre yükseltildi. Ayrıca 33.5 metre çapındaki kubbe bingilerle desteklenen bir yapıya kuvuşturuldu.

Ayasofya 1204–1261 yılları arasında süren Latin İstilası sırasında büyük ölçüde yağmalandı ve Roma Katolik Kilisesi’ne ait bir katedrale dönüştürüldü. Ayasofya 1261’de tekrar Bizanslılar’ın kontrolüne geçtiğinde harap ve yıkılmaya yüz tutmuş bir durumdaydı.

Konstantinopolis'in 1453 yılında Fatih Sultan Mehmet tarafından fethi Ayasofya'nın tarihinde yeni bir dönüm noktası oluşturdu. Ayasofya, ismi değiştirilmemekle birlikte, bu tarihten sonra camiye dönüştürüldü. Bu olay Vatikan'daki, yapımına 1506'da başlanan San Pietro Kilisesi'nin yapılması fikrini oluşturdu.

Osmanlı döneminde de zaman zaman restore edilen Ayasofya en önemli restorasyonu 16. yüzyılda geçirdi. Bu dönemde yapı Osmanlı baş mimarı Mimar Sinan tarafından eklenen dış istinat yapılarıyla takviye edilerek sağlamlaştırıldı. Yeniden inşa edilen kubbe yeni kemerlerle desteklendi. Ayrıca eski dönemlerde yapılmış olan minareler yıkılarak bugün hala durmakta olan minareler inşa edildi.

Neredeyse 500 yıl boyunca İstanbul'un en önemli camisi olarak kalan ve Şehzade, Süleymaniye ve Rüstem Paşa gibi camilere model oluşturan Ayasofya 1934 yılında müzeye dönüştürüldü.

Ayasofya Bizans mimarisinin en büyük şaheseri olarak kabul edilmektedir.