Le Greffe est l’organe administratif permanent de la Cour. Il ne dépend que d’elle. Il est dirigé par le greffier, assisté du greffier adjoint.
La Cour étant à la fois un tribunal et un organe international, la mission du Greffe est aussi bien celle d’un service auxiliaire de la justice - avec des Etats souverains pour justiciables - que celle d’un secrétariat international. Son activité a donc d’une part un aspect judiciaire et diplomatique, et d’autre part un aspect administratif.
Le Greffe est constitué de trois départements (affaires juridiques ; affaires linguistiques ; information) et d’un certain nombre de services techniques (administration du personnel ; finances ; publication ; bibliothèque ; informatique ; archives, indexage et distribution ; sécurité et affaires générales), sans oublier les secrétaires des membres de la Cour. Il comprend actuellement une centaine de fonctionnaires, permanents ou titulaires d’un contrat à durée déterminée, nommés par la Cour ou par le greffier.
Ces fonctionnaires, tous assermentés, bénéficient d’une manière générale des mêmes privilèges et immunités que les membres des missions diplomatiques à La Haye ayant un rang comparable. Ils sont assujettis à un statut du personnel qui est pratiquement conforme au Statut du personnel des Nations Unies, et à des Instructions pour le Greffe. Leurs conditions d’emploi, leurs émoluments et leurs droits à pension correspondent à ceux des fonctionnaires de l’Organisation des Nations Unies de catégorie ou de grade équivalents ; la charge financière est assurée par les Nations Unies.