Estudiante solitario y brillante, ingresó en la École normale supérieure de la rue d’Ulm y obtuvo el primer puesto en el concurso de agregación de matemáticas en 1939. Movilizado en septiembre de 1939, fue hecho prisionero de guerra en junio de 1940 y liberado, por motivos de salud, en agosto de 1941.
Gracias a Élie Cartan, Apéry obtuvo un puesto de asistente en la Sorbona. Anticlerical, continuó su actividad política, iniciada en 1937 en el seno del Partido Radical de la época, y se comprometió con la Resistencia, donde desempeñó un papel importante. Intransigente y de carácter fuerte, continuaría su actividad política hasta finales de la década de 1960.
En matemáticas, tras una tesis en geometría algebraica y numerosos trabajos en este campo, fue orientándose paulatinamente hacia la teoría de números, sin seguir la vía de la teoría de esquemas introducida por Alexandre Grothendieck ni la revolución que esta desencadenó. Fue profesor en la Universidad de Caen (Calvados) desde 1949 hasta su jubilación en 1986. Su visión de las matemáticas era individualista y rebelde frente a toda ortodoxia. Era constructivista y consideraba que el formalismo al estilo de Hilbert no se correspondía con el trabajo del matemático. En la década de 1970 atacó la reforma de la enseñanza de las llamadas matemáticas «modernas».