Für die Gründung des Museums der Moskauer Universität wurde im Jahr 1898 ein Komitee für die Errichtung des Museums der Schönen Künste zu Ehren Kaisers Alexander III gegründet. Das Komitee, dem Mitglieder der Universitätsleitung, Professoren der historisch-philologischen Fakultät, oberste Vertreter von Behörden sowie Privatpersonen, die dem Museum Geldmittel oder Exponate spendeten, angehörten, war als gemeinnützige Gemeinschaft von Personen geplant, die aktiv die systematische Verbreitung wissenschaftlicher Kenntnisse im Bereich der Schönen Künste unter weiten Teilen der russischen Bevölkerung fördern sollten.
Vorsitzender des Komitees war Großfürst Sergej Romanov (1857–1905), der bereits im Jahr 1894 die Schirmherrschaft über das geplante Universitätsmuseum übernommen hatte. Im Jahr 1898 wurden dank seiner Intervention 200.000 Rubel aus der Staatskasse für den Bau des Museums bereitgestellt.
Stellvetretender Vorsitzender des Komitees war der Großindustrielle Jurij Netschajew-Malzow (1834–1913). Mit seinen Spenden wurden verschiedene Arten von Marmor für die Verkleidung der Fassaden und der Innenräume des Museums gekauft. Im Jahr 1897 erwarb Netschajew-Malzow für das Museum die ersten Originalexponate aus dem antiken Ägypten. Dank ihm erhielt das Museum eine Reihe wertvoller Kopien weltbekannter Kunstwerke des Altertums. Insgesamt gab er für den Bau und die Ausstattung des Museums ca. 2 Mio. Rubel aus (zwei Drittel des gesamten Wertes des Museums).
Die feierliche Grundsteinlegung für das Museumsgebäude am Kolymashnij Hof fand am 17. (29.) August 1898 im Beisein von Mitgliedern der Zarenfamilie, des Rektors und von Professoren der Moskauer Universität, Mitgliedern des Komitees und Ehrengästen statt.
Das Museum ging aus dem Kabinett für Schöne Künste und Altertümer der Moskauer Universität hervor, das antike Vasen, eine numismatische Sammlung, einige Abgüsse antiker Skulpturen und eine kleine Fachbibliothek umfasste. Nachdem I.W. Zwetajew die Leitung des Kabinetts übernommen hatte, begann in den Jahren 1889–1890 die planmäßige Entwicklung und Umwandlung in das Museum für Schöne Künste, eine öffentliche Bildungseinrichtung, in der nach einem einheitlichen wissenschaftlichen Programm die wichtigsten Epochen der Kunstgeschichte von der Antike bis zur Neuzeit anhand von Gipsabgüssen, Modellen, Gemäldekopien und Galvanokopien dargestellt wurden. Das Museum wurde zur ersten Einrichtung dieser Art in Russland.
Die Abgüsse und Kopien wurden von Zwetajew bei ausländischen Werkstätten bestellt und direkt von den Originalen erzeugt. Ein großer Teil der Ausstellung des Museums entfiel auf antike Kunst. Die Sammlung präsentierte die zur damaligen Zeit neuesten archäologischen Entdeckungen und wissenschaftliche Rekonstruktionen antiker Skulpturen. Eine eigene Abteilung war mittelalterlicher Kunst und der italienischen und nördlichen Renaissance gewidmet, die erstmals in Russland präsentiert wurden. Viele Werke, die im Museum in Form erstklassiger Abgüsse und Kopien gezeigt wurden, waren für Kunstliebhaber eine Offenbarung, da sämtliche Werke in Originalgröße gezeigt wurden.
Das Museum arbeitete von Anbeginn an auch an der Erstellung einer Sammlung von Originalwerken, darunter Gemälde, Grafiken, Skulpturen und angewandte Kunst. Der Staat erwarb die einzigartige Sammlung altägyptischer Originalkunstgegenstände (über 6000 Exponate), die vom russischen Orientalisten Wladimir Golenischew zusammengetragen wurde, und übergab sie dank Zwetajews Bemühungen in den Jahren 1909–1911 dem Museum. Dadurch wurde das Universitätsmuseum Eigentümer einer herausragenden Altertumssammlung. Der Diplomat Michail Schokin spendete dem Museum seine Sammlung italienischer Gemälde und dekorativer Kunst des 13.–15. Jahrhunderts, die Großfürstin Elisaweta und der Sohn des Slawophilen Aleksej Chomjakow, Dmitrij, schenkten dem Museum die ersten echten italienischen Skulpturen aus dem 16.–17. Jahrhundert, der Archäologe Graf Aleksej Bobrinskij übergab dem Museum Kerzenständer, Uhren und andere Werke französischer Kunstgießerei aus dem 18.–19. Jahrhundert. Vom Neffen des Kunstsammlers Sergej Penskij erhielt das Museum eine kleine Sammlung von Grafiken alter europäischer und russischer Meister.
Das Museum für Schöne Künste zu Ehren Kaisers Alexander III wurde am 31. Mai (13. Juni) 1912 in einer feierlichen Zeremonie eröffnet. An der Zeremonie nahmen Zar Nikolaus II und Zarenwitwe Maria Fjodorowna teil.
Zum ersten Museumsdirektor wurde 1911 I.W. Zwetajew bestellt, der dieses Amt bis zu seinem Tod innehatte.
Das neue Museum wurde sehr rasch bei einem breiten Publikum populär. Die Besucherzahl an Werktagen betrug 700–800 Personen, an Sonn- und Feiertagen zählte das Museum bis zu 2500 Besucher. In den Sälen wurden Lehrveranstaltungen für Studenten und Führungen für die Besucher organisiert.
Die tiefgreifenden Veränderungen, die die Revolutionszeit mit sich brachte, gingen auch am Museum nicht spurlos vorbei. Im Frühjahr 1923 fasste das Volkskommissariat für Bildungswesen (Narkompros) der RSFSR den Beschluss, in Moskau ein zentrales Museum für alte westliche Malerei zu gründen, in dem die ausländischen Werke der Gemäldegalerie des Rumjanzew-Museums, das aufgelöst werden sollte, ausgestellt werden. Als Ort für diese Ausstellung war das Gebäude des Museums für Schöne Künste vorgesehen, dem der Status als Lehrmuseum aberkannt wurde. Seit November 1923 war das Museum nicht länger der Universität unterstellt und wurde in das Staatlichen Museum für Schöne Künste umgewandelt. Im Jahr 1924 erhielt das Museum Gemälde aus den ehemaligen Sammlungen von Genrich Brokar und Dmitrij Schukin, aus dem Staatlichen Museumsfonds und einige Gemälde aus Leningrader Museen.
Bis zum Jahr 1930 erhielt das Museum zahlreiche weitere Werke, darunter Gemälde aus verstaatlichten Moskauer Herrensitzen, aus dem aufgelösten I.S. Ostrouchow-Museum für Ikonenmalerei und Malerei sowie Werke westeuropäischer Kunst aus dem Historischen Museum, dem Kremlmuseum und der Tretjakowgalerie, die nicht deren Museumsprofil entsprachen. Eine Reihe von Gemälden stammten aus der Eremitage. So wurde im Museum eine Gemäldegalerie alter europäischer Meister geschaffen. Die altorientalische Sammlung wurde um mehr als 1000 Keilschrifttafeln und etwa 3000 weitere altorientalische Kunstwerke aus dem ehemaligen Museumsinstitut des Klassischen Orients erweitert.
1932 wurde das Museum in Staatliches Museum für Bildende Künste umbenannt. Im Jahr 1937 erhielt es den Beinamen A.S. Puschkin.
Von 1941–1944 wurden große Teile des Museumsbestandes nach Nowosibirsk und Solikamsk evakuiert. Im Jahr 1944 begann die Renovierung des Museumsgebäudes, das während des Krieges durch Bombenangriffe in Mitleidenschaft gezogen war, und die Vorbereitung auf die (am 3. Oktober 1946) eröffnete Ausstellung unter der Leitung des Museumsdirektors, des Bildhauers Sergej Merkurow, des stellvertretenden Direktors für wissenschaftliche Arbeit, Prof. Boris Wipper und des Hauptkonservators Andrej Guber. Die Arbeiten zur Erweiterung der Museumssammlung wurden wieder aufgenommen und die im Jahr 1927 begonnenen archäologischen Ausgrabungen auf den Halbinseln Krim und Taman wurden fortgesetzt.
Neben regelmäßigen Expeditionen in den Nördlichen Schwarzmeerraum in den Jahren 1951–1973 nahm das Staatliche Museum für Bildende Künste mit einer Abordnung an der archäologischen Transkaukasien-Expedition ins Gebiet des alten Erebuni-Festung teil.
Im Jahr 1948, in Zusammenhang mit der Schließung des Staatlichen Museums für Neue Westliche Kunst und der Aufteilung seiner Sammlung zwischen Moskau und Leningrad wurden dem Museum ca. 300 Gemälde und mehr als 80 Skulpturen westeuropäischer und amerikanischer Meister der zweiten Hälfte des 19. und des ersten Drittels des 20. Jahrhunderts übergeben, darunter hauptsächlich Arbeiten französischer Impressionisten und Postimpressionisten aus den berühmten Sammlungen der Moskauer Kunstsammler Iwan Morosow und Sergej Schukin. Durch diese Neuzugänge wurde die Sammlung des Museums bis zur Neuzeit erweitert und das Museum erwarb sich den Ruf als Besitzer weltberühmter Meisterwerke.
Von Ende des Jahres 1949 bis zum Jahr 1953 befand sich in den meisten Sälen des Museums eine Ausstellung von Schenkungen an I.W. Stalin. Doch am 15. Dezember 1953 wurde die ständige Ausstellung wieder rekonstruiert und seit Mitte der 1950er Jahre gewinnt die Ausstellungstätigkeit des Museums wieder zunehmend an Bedeutung. Im Laufe der Geschichte des Museums fanden in den Gebäudemauern über 1200 Ausstellungen von Werken aus den Beständen des Museums sowie vieler anderer inländischer und ausländischer Sammlungen statt.
Ein bedeutendes Ereignis für das Moskauer Kulturleben war die Ausstellung von Meisterwerken der Dresdner Gemäldegalerie im Staatlichen A.S. Puschkin-Museum für bildende Künste im Jahr 1955. Diese Ausstellung wurde zur ersten einer Reihe von Ausstellung von Kunstwerken, die während des Zweiten Weltkriegs in das Gebiet der Sowjetunion verschleppt und dank der Bemühungen von Museumsmitarbeitern gerettet wurden.
Im Jahr 1985wurde auf Initiative des sowjetischen Kunstsammlers Ilja Silberstein und der Museumsdirektorin Irina Antonowa eine Abteilung für Privatsammlungen gegründet. Erstmals wurden die Sammlungen selbst anstelle einzelner Werke aus ihren Beständen in den Mittelpunkt der Museumstätigkeit gestellt. Die Ausstellung dieser Abteilung wurde am 24. Januar 1994 in einem speziell dafür umgebauten Gebäude (Wolchonka 14) für die Besucher geöffnet. 2005 wurde die Abteilung zum anderen Gebäude (Wolchonka 10/22) umgesetzt.
Seit August desselben Jahres ist in den ehemaligen Räumen der Abteilung für Privatsammlungen die stark erweiterte Ausstellung von Gemälden und Skulpturen des 19. bis 20. Jahrhunderts aus der Sammlung des Puschkin-Museums untergebracht. Das Gebäude erhielt den Namen „Galerie für westeuropäische und amerikanische Kunst des 19.–20. Jahrhunderts".
Im Jahr 2006 eröffnete das Puschkin-Museum in einer nahegelegenen Villa das Zentrum für Kunsterziehung von Kindern und Jugendlichen „Museion" (Kolymash-pereulok 6, Geb. 2, 3).
Zum Museum gehören auch Abteilungen in anderen Moskauer Bezirken. Im Jahr 1996 wurde das I.W. Zwetajew Lehrmuseumfür Kunst als Abteilung des Puschkin-Museums gegründet. Die im Gebäude der Russischen Staatlichen Geisteswissenschaftlichen Universität untergebrachte Ausstellung wurde am 30. Mai 1997 eröffnet (Tschajanowa Str. 15). In dieser Ausstellung werden Gipsabgüsse des ehemaligen Universitätsmuseums präsentiert, die nicht in die Hauptsammlung des Puschkin Museums aufgenommen wurden.
Seit dem Jahr 1981veranstaltet des Museum auf Vorschlag von Swjatoslaw Richter in seinen eigenen Wänden das internationale Musikfestival „Dezemberabende", das seit dem Jahr 1997 den Namen „Swjatoslaw Richters Dezemberabende" trägt. 1999 vererbte der Musiker dem Museum auch seine Wohnung, die in eine Gedenkstätte umgewandelt wurde (Bolschaja Bronnaja 2/6, Wohnung 58).
Die Sammlung des Staatlichen Puschkin-Museums für Bildende Künste umfasst heute über 670.000 Kunstwerke, darunter Gemälde und Skulpturen, Grafiken, Werke der angewandten Kunst, archäologische und numismatische Exponate und künstlerische Fotografien.