1826-ban, az MTA Könyvtárának megalapításakor gróf Teleki József (1790–1855), a Tudós Társaság első elnöke felajánlotta 30 ezer kötetes családi könyvtárát. Ennek részeként a Könyvtár tulajdonába került a Telekiek 600 kötetes kéziratgyűjteménye és 409 ősnyomtatványa. A Kézirattár 1861 óta működik önálló osztályként, első vezetője Rómer Flóris (1815–1889) régész és művészettörténész, az MTA rendes tagja volt.

Az ősnyomtatványok mellett kezdettől fogva ide tartozott a régi magyar könyvek gyűjteménye. Az addigi állomány szakrendi felállítása és betűrendes katalógusának elkészítése 1891-ben fejeződött be. A Régi Könyvek Gyűjteménye önálló csoportként, de a Kézirattárral közös szervezeti egységben 1954-ben jött létre, ugyanekkor kezdődött el az 1800 előtti külföldi és az 1850 előtti magyar könyvek kiemelése a nagyraktári állományból. A Kézirattár őrzi az Akadémiának benyújtott kandidátusi és doktori disszertációkat is.

A kézirat- és könyvállomány részben ajándékozás, részben vásárlás révén ma is gyarapodik. A beérkezett könyv- és kéziratanyag feldolgozása folyamatosan történik. A régi könyvek és a kéziratok számítógépes feldolgozása elkezdődött, a disszertációké elkészült és folyamatosan frissül.