Рад на сређивању теренске археолошке документације Института практично је започет у првим годинама од његовог оснивања. Према извештајима који су саставили досадашњи документаристи, може се рећи да Документација Института на територији Србије представља најобимнију археолошку грађу ове врсте, сакупљену и каталошки обрађену на једном месту. Данас, централна картотека броји око 1.400 картона са подацима о локалитетима из бивше Југославије (СФРЈ), које су истраживали стручњаци Института.

У читаоници Института смештена је фототека (преко 150.000 фотографија и око 7.000 негатива), док се дијапозитиви чувају у канцеларији Документације (преко 19.000), заједно са регистраторима. У ходнику Института распоређени су метални ормари у чијим фиокама се налази планотека (око 12.000 тех. планова). Током године, сарадници Института подносе документаристи материјал са теренских истраживања који се, према Правилнику, састоји од: дневника, извештаја, фотографија (некада негатива), формулара инвентара, техничких цртежа, итд. Новоприспела документација се оверава печатом, инвентарише и складишти на одговарајућа места.