1922’de İstanbul’da dünyaya geldi. Amasra’nın köklü denizci ailelerinden Eyiceoğulları’na mensuptur. Babası deniz subayı Mehmet Kamil Bey, annesi Amasra eşrafından Hacı İbrahim Bey’in kızı Hatice Hanım’dır. İstanbul’da Saint Louis İlkokulu’nda başlayan ilköğrenimini bir başka Fransız okulu olan Saint Joseph’te sürdürdü; ardından Galatasaray Lisesi’ne geçti; 1943’te mezun oldu. Eski eserlere ilgisi ilkokul yıllarında başladı. Boş vakitlerini ve tatillerini İstanbul’u gezmeye ayırdı. İlk yazısı Reşat Ekrem Koçu’nun çıkardığı İstanbul Ansiklopedisi’nde 1949’da yayımlandı. Fatih’in Çarşamba semtindeki Hırami Ahmet Paşa Mescidi hakkındaki bu ilk makaleden sonra pek çok madde yazarak ansiklopediye katkıda bulundu. Alfons Maria Schneider ile tanıştıktan sonra onun daveti üzerine Bizans Sanatı ve arkeolojisi çalışmak niyetiyle Göttingen’e gitti. II. Dünya Savaşı sürerken Viyana ve Berlin Üniversitelerinde Bizans tarihi okudu. Berlin’in işgali gündeme gelince Türkiye’ye döndü. Prof. Ernst Diez ile İstanbul Minareleri konulu tez hazırlayarak 1948’de İstanbul Üniversitesi Edebiyat Fakültesi Sanat Tarihi Bölümünü bitirdi. 1950-1953 arasında Arif Müfid Mansel tarafından yürütülen Side kazılarına katılan Eyice, 1952'de Side’nin Bizans Döneminde ait Yapıları tezi ile doktorasını tamamladı. 1954 yılında Kamran Yalgın ile evlenen Eyice, bu evliliğinden iki kız çocuğu sahibidir. 1955'te İstanbul’da Son Devir Bizans Mimarisi kitabı ile doçentliğini aldı. Aynı yıl Fransız hükümeti tarafından Legion d’Honneur Nişanı ile ödüllendirildi. 1958 yılında eşi ile birlikte Münih Üniversitesi’ne gitti. Humboldt bursunu kazanarak 13 ay boyunca derslere devam etti; boş vakitlerini kitap toplamaya ayırdı. 1959 yılında İstanbul Üniversitesi Sanat Tarihi bölümündeki görevine döndü ve Bizans tarihi üstüne dersler vermeye başladı. 1963 yılında Edebiyat Fakültesi’nde Bizans kürsüsü adıyla yeni bir kürsü kuruldu. 1964 yılında İlk Osmanlı Devrinin Dinî-İçtimaî Bir Müessesesi: Zaviyeler tezi ile profesör olan Eyice, Bizans kürsüsünde görev yaptı. 1982’de Bizans kürsüsünün başkalarıyla birleştirilip Arkeoloji ve Sanat Tarihi Bölümü’ne çevrilmesinden sonra bölümün başkanlığını üstlendi. İstanbul’daki tarihi eserler ile ilgili çalışmalarının yanı sıra Toroslar’daki ören yerlerinde arkeolojik araştırmalar yaptı; Balkan ülkelerindeki Türk eserlerini araştırıp derledi. Almanya’da, Fransa’da ve İsviçre’de çeşitli üniversitelerde dersler; dünyanın birçok yerinde konferanslar veren Eyice, 1991 yılında emekliye ayrıldı. Akademik çalışmalarının yanı sıra, Anıtlar Kurulu’nda 1958-1997 arasında 38 yıl süreyle görev yapmış; 1997’de “Taksim’de camiye onay vermediği için” Anıtlar Kurulu’ndan alınmıştır. 30.000 adet kitaptan oluşan kütüphanesinde İstanbul ve Bizans üzerine değerli kitapları vardır. Kitaplığı, İstanbul Araştırmaları Enstitüsü'nün Bizans Araştırmaları Bölümü ve Semavi Eyice Kitaplığı bölümünde görülebilir. Alman Arkeoloji Enstitüleri asli üyesi ve Belçika Krallık Akademisi üyesidir. Tarihçiye 2011 yılında sanat tarihi dalında Cumhurbaşkanlığı Kültür ve Sanat Büyük Ödülü verilmiştir, ayrıca Türkiye Bilimler Akademisi Bilim ödülü sahibidir.