Con sede en París, está formada por un equipo profesional, dirigida por un director general y una directora ejecutiva que participan a título consultivo en el Buró Internacional y en el Buró Ejecutivo. Sus equipos se organizan por regiones, por prioridades de acción y delegaciones. El Secretariado Internacional dispone de oficinas de representación en la ONU en Ginebra y en Nueva York, en la Unión Europea en Bruselas, en la Corte Penal Internacional en la Haya, una oficina regional en Túnez y oficinas conjuntas con organizaciones miembros en Conakry, Abijan, Bangui y Bamako. Cuenta asimismo con un departamento de comunicación y relaciones públicas, así como con un departamento administrativo y financiero.
Está en relación permanente con el trabajo en campo, aplica las decisiones de los órganos políticos de la FIDH vinculados con las organizaciones miembros, las personas responsables de misión y los miembros del Buró Internacional y Ejecutivo.