Məhəmməd Ağaoğlu 1896-cı ildə İrəvanda doğulmuşdur. 1916-cı ildə Moskva Dövlət Universitetini, 1926-cı ildə Vyana Universitetinin şərqşünaslıq fakültəsini bitirmişdir. Azərbaycan, ərəb, fars, rus, ingilis, alman, fransız, yunan dillərini bilirdi.

MDU-nu bitirdikdən sonra Məhəmməd Ağaoğlu şərq mədəniyyəti və islam incəsənətini öyrənmək üçün Türkiyə, İran, Suriya və Orta Asiyaya səfərə çıxmışdır. 1918–1920-ci illərdə Azərbaycan Xalq Cümhuriyyətinin qurulmasında fəal iştirak etmişdir. Bakıda “İstiqbal” muzeyi yaratmış, arxeologiya və etnoqrafiya cəmiyyətlərinin təşkilində iştirak etmişdir. Azərbaycan Xalq Cümhuriyyəti süqut etdikdən sonra Türkiyə, Avstriyaya, 1929-cu ildə ABŞ-a köçərək ömrünün sonunadək orada yaşamışdır. Elə o ildə Detroyt Universitetində islam mədəniyyəti şöbəsini, sonra islam incəsənəti qalereyasını yaratmışdır. 1933–1938-ci illərdə M.Ağaoğlu bu universitetdə Şərq xalqları mədəniyyəti kafedrasının professoru, 1934-cü ildə “Art İslamica” (“İslam incəsənəti”) jurnalını təsis edərək ömrünün sonunadək onun redaktoru olmuşdur. M.Ağaoğlu 50-dən artıq elmi əsərin, habelə “İslam incəsənəti tarixi” (İstanbul, 1928), “XV əsrdə İranda kitab çapı” (Miçiqan, 1935), “Səfəvilər dövrünün manufaktura və xalçaları” (Nyu-York, 1941) monoqrafiyalarının müəllifidir.

Məhəmməd Ağaoğlu 1949-cu ildə ABŞ-ın Kolumbiya ştatında vəfat etmiş, orada dəfn olunmuşdur.