كانت النواة الأولى للمكتبة الحالية في تونس، عندما أقامت جمعية مرسلي إفريقيا (الآباء البيض) في عام 1926 مؤسسة لتكوين المرسلين الذين كانوا يستعدون للعيش في بيئة إسلامية. ومنذ البداية زودوا المؤسسة بمكتبة متخصصة. في عام 1931، سمي هذا المعهد باسم معهد الآداب العربية (IBLA) .
وفي عام 1949 تقرر فصل التعليم عن الأنشطة الأخرى التي يضطلع بها المعهد. وهكذا ولد في مدينة منوبة بالقرب من تونس، مركز للدراسة حيث تم تعليم اللغة العربية والدراسات الإسلامية.
وفي عام 1960، أنشئ هذا المركز بموجب مرسوم صادر عن مجمع المعاهد والجامعات، في المعهد العالي للدراسات الشرقية، المعروف بالفرنسية بالمعهد البابوي للدراسات الشرقية.
وفي عام 1964، نقل المعهد ومكتبته إلى روما، حيث احتلوا لمدة ثلاث سنوات مبنى في 15 شارع ثلاثين أبريل. في عام 1967 حصل المعهد من البابا القديس بولس السادس على مقر كبير داخل قصر سانت أبوليناري.
وفي عام 1990 انتقل أخيراً إلى موقعه الحالي في 89 شارع تراستيفيري. وكان الانتقال إلى روما، حيث كان هناك بالفعل معهد بابوي شرقي، مما تطلب تغيير الاسم إلى المعهد البابوي للدراسات العربية. وكان الدستور البابوي الرسولي "المعرفة المسيحية"، سابينسا كريستيانا، المؤرخ بتاريخ 15 نيسان/أبريل 1979، هو الذي اعترف بالمعهد بوصفه المعهد البابوي للدراسات العربية والإسلامية.