Pour la gestion du Musée, le Comité de gestion du Musée des Beaux Arts portant le nom d'Alexandre III a été institué auprès de l'Université de Moscou. Il a été pensé comme une communauté ouverte à toute personne désireuse de participer à la diffusion permanente des connaissances scientifiques dans le domaine des beaux arts auprès du grand public russe. Il réunissait la direction de l'Université, les professeurs de la faculté d'histoire et de philologie, de hauts représentants d'autorités nationales ainsi que des particuliers qui apportaient leur soutien financier à l'aménagement du Musée ou qui offraient des œuvres d'art.
Le Comité était présidé par le Grand Prince Sergueï Aleksandrovitch (1857 - 1905) qui, dès 1894, a pris sous son aile le Musée universitaire en création. En 1898, grâce à son intervention, le trésor public a affecté 200 000 roubles à la construction du Musée.
Yuri Stepanovitch Netchaïev-Maltsov (1834-1913), un grand industriel, fut nommé adjoint du Président du Comité. Ses dons ont servi à l'acquisition des différents marbres utilisés pour le revêtement des façades et les murs intérieurs du Musée. En 1897, M. Netchaïev-Maltsov a acheté pour le Musée les premiers œuvres d'art de l'Egypte antique. Grâce à lui, le Musée a pu obtenir un grand nombre de copies d'œuvres d'art antique connues dans le monde entier. Au total, il a dépensé environ 2 000 000 de roubles (deux tiers du coût total du Musée) pour la construction et l'acquisition d'œuvres d'art.
La cérémonie organisée à l'occasion de la pose de la première pierre du Musée à Kolymazhny Dvor a eu lieu le 17 (29) août 1898 en présence de membres de la famille impériale, du Président et des professeurs de l'Université de Moscou, des membres du Comité et d'invités d'honneur.
Le Musée a été créé à partir du Cabinet des beaux-arts et des antiquités de l'Université de Moscou qui comprenait des vases antiques, une collection numismatique, un certain nombre de plâtres de sculptures antiques et une petite bibliothèque spécialisée. Avec la présidence de M. Tsvetaïev dans les années 1889 - 1890, le Cabinet a connu un développement progressif et s'est transformé en Musée des beaux arts à vocation éducative où les étapes principales de l'histoire de l'art, de l'Antiquité aux temps modernes, ont été retracées sous forme de plâtres, maquettes et copies galvaniques conformément au plan didactique général. Cette qualité a rendu le Musée unique dans son genre en Russie.
Les plâtres et d'autres copies étaient commandés par M. Tsvetaïev dans des ateliers étrangers. Ils étaient effectués sur des moules coulés sur les originaux. La majeure partie du Musée était dédiée à l'Antiquité. La collection reflétait les dernières découvertes archéologiques et comprenait les reconstitutions scientifiques d'œuvres sculptés les plus modernes pour l'époque. L'art du Moyen Âge, de la Renaissance Italienne et des pays du Nord présenté pour la première fois en Russie occupait des sections indépendantes de l'exposition. De nombreux plâtres et copies conformes aux originaux furent de vraies découvertes pour les amateurs d'art en raison de leur présentation à taille réelle.
Dès les premiers jours d'existence du Musée a commencé la formation des collections de peintures, de dessins, de sculptures et d'œuvres décoratives originales. Une collection unique d'œuvres d'art de l'Egypte antique (plus de 6000 pièces) rassemblée par Vladimir Semenovitch Golenischev, scientifique russe et spécialiste en histoire et culture des peuples orientaux, a été acquise par l'État. Grâce aux efforts de M. Tsvetaïev, elle a été confiée au Musée en 1909-1911. Cet événement a placé le Musée universitaire sur la liste des détenteurs de collections antiques orientales importantes. Le diplomate Mikhaïl Sergueevitch Schekine a fait don de sa collection de toiles italiennes et de pièces d'art décoratif des XIIIe-XVe siècles, la Grande Princesse Elizaveta Fedorovna et Dmitri Aleksandrovitch Khomiakov, le fils du slavophile Alekseï Stepanovitch Khomiakov, ont offert au Musée les premières sculptures italiennes authentiques des XVIe—XVIIe siècles. Le comte Alekseï Aleksandrovitch Bobrinski, un archéologue, a fait don de candélabres, d'horloges et d'autres pièces de fonderie d'art de France des XVIIIe—XIXe siècles. Le neveu du collectionneur Sergueï Vassilievitch Penski a offert une petite collection constituée par son oncle regroupant des dessins de grands maîtres européens et russes anciens.
La cérémonie d'ouverture du Musée des beaux arts Alexandre III a eu lieu le 31 mai (13 juin) 1912. L'empereur Nicolas II et l'impératrice veuve Maria Fedorovna y ont assisté.
M. Tsvetaïev fut le premier Directeur du Musée, de 1911 jusqu'à sa mort.
Le nouveau musée a conquis le grand public. Le nombre de visiteurs était, dans la semaine, de 700 - 800 personnes par jour. Les dimanches et les jours de fêtes, il pouvait atteindre le chiffre de 2 500 personnes. Les salles accueillaient des cours pour étudiants et des conférences pour le public.
Les grands changements de l'époque révolutionnaire n'ont pas épargné le Musée. Au printemps 1923, le commissariat à l'Education populaire de la République Socialiste Fédérative Soviétique de Russie a décidé de créer à Moscou le Musée central de l'art pictural ancien des pays européens à partir de la section européenne de la galerie du Musée Roumiantsev en y affectant les locaux du Musée des beaux arts. Ce dernier perdait son statut éducatif. A partir de novembre 1923, la tutelle de l'université fut supprimée et il devint Musée national des arts plastiques. En 1924, il accueillit les toiles d'anciennes collections de Henri Brocard, Dmitri Ivanovitch Schukine, du Fond de musée national et certaines toiles de musées de Leningrad.
Le transfert, des résidences aristocratiques nationalisées, du Musée de la peinture religieuse orthodoxe et de l'art pictural portant le nom d'Ostrooukhov ainsi que du Musée Historique, des Musées de Kremlin et de la Galerie Tretiakov, de toiles européennes ne correspondant pas au profil de ces établissements, au Musée des arts plastiques a duré jusqu'en 1930. Quelques séries de toiles ont été reçues du musée de l'Ermitage. Finalement, le Musée a formé le noyau de la Galerie des maîtres européens anciens. L'Antiquité Orientale du Musée a accueilli plus d'un millier de tablettes cunéiformes et environ 3 mille autres pièces antiques orientales de l'ancien Musée et Institut de l'Orient classique.
En 1932, le Musée a été rebaptisé Musée national des beaux arts. En 1937 il a reçu le nom de Musée Pouchkine.
De 1941 à 1944, la majeure partie des fonds de musée a été évacuée à Novossibirsk et Solikamsk. La restauration du bâtiment du Musée, qui avait souffert des bombardements, ainsi que la préparation de la réouverture de l'exposition (ouverte le 3 octobre 1946), ont commencé dès 1944 sous la direction du Directeur du Musée et sculpteur Sergueï Dmitrievitch Merkourov, de l'adjoint du Directeur de la recherche, le professeur Boris Robertovitch Vipper et du Conservateur en chef Andreï Aleksandrovitch Gouber. Le travail de popularisation et les acquisitions ont également repris, ainsi que les fouilles archéologiques que le Musée menait en Crimée et à Taman depuis 1927.
Outre les expéditions régulières sur la côte nord de la mer Noire organisées de 1951 à 1973, l'équipe archéologique du Musée a participé à l'expédition archéologique transcaucasienne menée sur le territoire du site ancien d'Erébouni.
En 1948, suite à la fermeture du Musée de l'art européen contemporain et le partage de ses collections entre Moscou et Leningrad, le Musée reçoit environ 300 toiles et plus de 80 sculptures des maîtres européens et américains de la seconde moitié du XIXe et de la première moitié du XXe siècles. En majeure partie, il s'agit d'œuvres d'impressionnistes et de post-impressionnistes français provenant des collections illustres des moscovites Ivan Abramovitch Morozov et Sergueï Ivanovitch Schukine. Cette nouvelle rentrée d'œuvres d'art a rapproché les limites chronologiques des collections du musée de l'époque contemporaine et l'a rendu célèbre grâce aux chefs-d'œuvre connus dans le monde entier qu'elle contenait.
Depuis le début de 1949 jusqu'à 1953, l'Exposition des cadeaux offerts à Staline a occupé la majeure partie des salles du Musée. Toutefois, le 15 décembre 1953, l'exposition permanente a été rétablie et à partir du milieu des années 1950, les activités du Musée prennent de plus en plus d'ampleur. Au total, depuis sa création, le Musée a organisé plus de 1200 expositions présentant les œuvres des fonds propres du Musée comme de nombreuses collections nationales ou étrangères.
L'exposition, en 1955, des chefs-d'œuvre de la Galerie de Dresde au Musée Pouchkine fut un grand événement culturel à Moscou. Elle fut la première des expositions d'œuvres d'art ramenées en URSS pendant la Seconde Guerre mondiale et conservées précieusement par les soins des employés du Musée.
En 1985, à l'initiative du collectionneur soviétique Ilia Samoïlovitch Zilberchteïn et du Directeur du Musée Irina Aleksandrovna Antonova, fut créée la section des collections privées. Pour la première fois, les collections elles-mêmes, et non pas seulement leurs œuvres, devenaient objets de recherche et de collection. L'exposition de cette section a ouvert ses portes au public dans un bâtiment reconstruit pour l'accueillir (rue Volkhonka, 14) le 24 janvier 1994. En 2005, elle a été transférée dans un autre local (rue Volkhonka, 10/2).
Depuis le mois d'août de la même année, l'ancien bâtiment des Collections privées expose une collection de toiles et de sculptures des XIX - XXe siècles que le Musée avait considérablement enrichie. Le bâtiment a reçu le nom de Galerie de l'art des pays d'Europe et d'Amérique des XIX - XXe siècles.
En 2006, le Musée Pouchkine a ouvert dans un ancien hôtel particulier voisin le Centre de l'éducation esthétique des enfants et de la jeunesse « Mouseîon » (6/2,3 rue Kolymazhny pereulok).
Le Musée a également des sections dans d'autres arrondissements de Moscou. En 1996, fut créé le Musée artistique à vocation éducative Ivan Vladimirovitch Tsvetaïev, section du Musée Pouchkine, abrité par l'édifice de l'Université nationale des lettres et de la littérature, qui a ouvert ses portes le 30 mai 1997 (15, rue Tchaïanova). Son exposition comporte les plâtres de l'ancien musée universitaire qui n'ont pas été retenus pour l'exposition principale du Musée Pouchkine.
À partir de 1981, à l'initiative de Sviatoslav Teofilovitch Richter, le Musée a accueilli le festival de musique international « Soirées de décembre » (depuis 1997 « Soirées de décembre de Sviatoslav Richter »). En 1999, selon la volonté testamentaire du musicien, son appartement sis 2/6 rue Bolchaïa Bronnaïa, № 58 a été rajoutée au musée et transformé en mémorial.
Actuellement, le Musée Pouchkine compte plus de 670 000 toiles, sculptures, dessins, pièces d'art décoratif, archéologiques et numismatiques, photographies artistiques.