Colecţia Cabinetului de arta grafica numara peste 17000 desene şi 40000 gravuri. S-a format prin centralizarea fondurilor de grafica din vechile muzee (cel mai valoros fiind cel al Muzeului Toma Stelian) şi colecţii bucureştene şi din colecţia regala.      Înca din primii ani de existenţa, ea a devenit principalul depozitar al achiziţiilor de grafica contemporana româneasca facute de instituţiile centrale. Au aparut astfel sectoarele de caricatura şi machete de afiş. Propriile achiziţii ale muzeului au marit colecţiile de grafica româneasca din secolul XIX şi prima jumatate a secolului XX şi pe cea de grafica europeana, iar în anul 1973  în muzeu a intrat şi un important fond de stampe japoneze. Din 2006 a fost iniţiata o colecţie de schiţe şi proiecte de arhitectura.      

Din grafica româneasca a secolului XIX, Cabinetul poseda numeroase desene, acuarele şi gravuri de Theodor Aman, Carol Popp de Szathmari şi Nicolae Grigorescu. De la acesta din urma se pastreaza şi câteva caiete de schiţe. Pastelurile şi acuarelele lui Ştefan Luchian constituie cel mai coerent şi valoros ansamblu din grafica artistului existent într-un muzeu. Marii pictori-desenatori ai generaţiei interbelice, ca Theodor Pallady, Gheorghe Petraşcu şi Jean Al. Steriadi, sunt reprezentaţi cu lucrari din întreaga cariera. O menţiune se cuvine desenelor sculptorului Dimitrie Paciurea şi, în special, carnetelor lui de schiţe.      

Dintre şcolile europene, cel mai bine reprezentata este cea franceza. Colecţionarii şi mulţi dintre artiştii români s-au format în ambianţa culturii franceze. De aceea exista la Bucureşti desene de Delacroix, Bourdelle, Matisse, alaturi de o ampla colecţie de gravura franceza din secolele XVIII şi XIX. Dintre celelalte şcoli europene se remarca cea italiana, olandeza şi flamanda.      

În timpul revoluţiei din 1989, depozitul de desen cu caracter documentar a fost distrus de incendiu, 400 de desene disparând atunci în flacari. În anii imediat urmatori, câteva donaţii au compensat generos pierderile cabinetului (Ligia şi Pompiliu Macovei, Elena şi Dr. Aurel Olaru, Vasile Kazar). Alte donaţii au îmbogaţit şi continua sa îmbogaţeasca colecţiile de desen şi gravura româneasca (Jacques Bourcier, Geta Bratescu, Eugenia Iftodi, Lola Schmierer-Roth).                 Din anul 2000, Cabinetul are doua spaţii de expunere în cadrul Galeriei de Arta Europeana şi a celei de Arta Româneasca Moderna, unde organizeaza expoziţii cu lucrari din patrimoniul sau.      

Pe site-ul muzeului sunt prezentate 40 de lucrari de artişti români şi straini din colecţia Cabinetului, organizate pe şcoli.