Az első ezredforduló táján alapított erdélyi püspökség jelentős szerepet játszott a középkorban. Ennek megfelelően mind a püspökség, mind pedig a káptalan jelentős levéltári anyaggal rendelkezhetett. A hasonló egyházi központok, a többi magyarországi érsekség és püspökség levéltári anyaga is óriási károkat szenvedett az évszázadok során. A párhuzamok alapján biztosan feltételezhető, hogy nagyszámú eredeti oklevél halmozódott fel Gyulafehérváron is. A hiteles helyi tevékenység alapján pedig egész Erdélyre vonatkozó hivatali működéssel kapcsolatos iratok, valamint a magánjogi tevékenységre vonatkozó egyéb iratok és családi letétek is összegyűltek. E közjegyzői jellegű tevékenység mellett a káptalan saját birtokaira és működésére vonatkozó iratokat is itt őrizték.
A káptalani levéltár évszázadokon keresztül a gyulafehérvári székesegyház déli tornyának földszinti helyiségében volt. Az 1940-es állapotok szerint a káptalani levéltár három helyen volt elhelyezve: a Batthyaneumban, a káptalani tanácsteremben és a déli torony alatt. A püspöki levéltárat a második világháború után újra rendezték, de olyan egyházi személyek, akik levéltári ismeretekkel nem rendelkeztek. Így összetartozó iratok teljesen külön helyeken voltak találhatók és külső személy számára gyakorlatilag kutathatatlanná vált az iratanyag.
A romániai rendszerváltást követően a levéltár rendezésének ötletét az 1990-es évek elején Dr. Cicutti Lajos, Rómában élő nyugdíjas jogász vetette fel, amelyhez megnyerte a gyulafehérvári főegyházmegye vezetését és a magyarországi levéltáros szakembereket. 1997-ben kezdeményezték a munka elindítását és egy évvel később sor került az anyag előzetes felmérésére. 1998. október végére elkészítették az első részletes rendezési javaslatot, amely kiterjedt az anyag korszerű elhelyezésére is. A tényleges iratrendezési munka 1999 tavaszán kezdődött el és a Gyulafehérvári Érseki Levéltár ekkor nyitotta meg kapuit a nagyközönség előtt. A rendezés kezdetben lassan haladt, mert az anyag fertőzött részét előbb szakszerűen fertőtleníteni kellett. Erre több lépcsőben 2000 decembere és 2001 áprilisa között került sor a Gyulafehérvári Múzeum papírrestaurátori laboratóriumában. A gyulafehérvári anyag előbb alapszintű, majd többségében középszintű rendezése 2003 elejére befejeződött. Ezen túlmenően, 2002 augusztusában, Kolozsváron, sor került a volt Erdélyi Katolikus Státus levéltári anyagának felmérésére. Az iratanyag rendezéséhez és kutatásához itt is ki kellett alakítani egy megfelelő, korszerűen felszerelt helyiséget, mely a következő év nyarára elkészült.
A Főegyházmegyei Hivatal 2003-ban dr. Jakubinyi György érsek körlevelével levéltári értékmentő programot indított, melynek értelmében a főegyházmegye területén lévő egyházközségek iratanyagait főként magyar állami támogatásból összegyűjtötték és a főesperesi kerületek központjaiban rendszerezték. Ekkortól változott meg a levéltár neve Gyulafehérvári Főegyházmegyei Levéltárra (Archivum Archidioecesanum Albae Juliense). Napjainkig kilenc Gyűjtőlevéltárat sikerült megalapítani a következő városokban: Gyulafehérvár (2003), Szamosújvár (2005), Sepsiszentgyörgy (2005), Marosvásárhely (2005), Gyergyószentmiklós (2007), Székelyudvarhely (2008), Szamosújvár (örmény katolikus 2010), Kolozsvár (2011) és Csíkszereda (2016). Ezekben a levéltárakban az egyházmegyét alkotó plébániák 80 százalékának a levéltári anyagai találhatók rendszerezett, kutatható állapotban.
A Főegyházmegyei Levéltár szerves részét képezi a központi Érseki és Főkáptalani Levéltár mellett, a Hittudományi Főiskola Levéltára Gyulafehérváron – a Papnevelde épületében, melynek anyagaival 2004-ben kezdtek el foglalkozni –, továbbá a már említett Erdélyi Katolikus Státus Levéltára Kolozsváron, mely levéltárak rendezését 2005-ben véglegesítettek. A főegyházmegyei, illetve a státus levéltár rendezésekor, a fond- és állagrendszer kialakításakor kevés példa állt a rendelkezésükre. A hazai katolikus levéltárak rendezése akkoriban még csak kevés helyen jutott odáig, hogy tapasztalataikra támaszkodhattak volna és repertórium jellegű levéltári segédletet még sehol sem jelentettek meg. Nyilvánvaló alapelv volt számukra, hogy helyes lenne igazodni a magyar katolikus egyházi levéltárakban kialakított rendezési elvekhez, de Erdély speciális helyzete miatt ezen elveket nem lehetett maradéktalanul alkalmazni munkájuk során.
A Főegyházmegye területén napjainkig 1800 folyóméter terjedelmű iratállomány került feldolgozásra. Ebből 1000 folyóméter Gyulafehérváron található, és a központi hivatalok irataiból áll, míg 800 folyóméter plébániai eredetű forrásanyag, és mintegy 300 egyházigazgatási egység (főesperesség, plébánia, leányegyházközség) archívumából tevődik össze. A levéltárakban történő kutatást az eddig megjelent öt repertóriumkötet teszi lehetővé, amely az intézményrendszer honlapján elektronikus formában is elérhetőek.
A főegyházmegye gyulafehérvári központi levéltára, a Márton Áron Emlékgyűjteményt is őrző Érseki és Főkáptalani Levéltár, az érseki palota földszintjén hét felújított és szakszerűen felszerelt helyiségben működik. A 200 négyzetméternyi felületen mintegy 1000 iratfolyóméternyi levéltári anyagot őriznek, amely folyamatosan gyarapodik. Itt találhatók a Püspöki Hivatal történeti iratai, az erdélyi püspök tanácsadó testületének, a Főkáptalannak a levéltártöredéke, egyházi iskolai és gazdasági iratok, valamint egyéb értékes gyűjtemények, mint az anyakönyvi másodpéldányok, személyi hagyatékok vagy az oklevéltár. Az iratokat hét fondcsoportban rendezték, melyek a következők: I. Püspöki levéltár II. Káptalani levéltár III. Gazdasági levéltár V. Egyéb szervek iratai VI. Személyi hagyatékok VII. Gyűjtemények. Az itt hiányzó IV. fondcsoport az Erdélyi Katolikus Státus Levéltára, mely Kolozsváron található.
