La crainte révérencieuse envers l'infini a existé aussi bien en mathématiques qu'en philosophie, en raison de la difficulté de le définir rigoureusement. Idéalité sans substance ou expression de l'indéfini ? C'est dans l'idée de dépasser cette alternative devenue stérile que s'inscrit l'entreprise mathématique de Bernard Bolzano, au siècle.
Bernard Bolzano (1781-1848). ©PD-Art
Dans l'histoire, les problèmes posés par l'infini ont nourri deux tendances opposées : l'une réduit l'infini à une succession indéfinie perpétuellement inachevée, l'autre l'exclut du monde concret pour le réserver au divin ou aux pures essences abstraites. Bernard Bolzano, mathématicien méconnu en son temps et dont l'œuvre ne sera mieux connue qu'à la fin du siècle, est celui qui, le premier, s'efforce de clarifier la structure conceptuelle de l'infini, en refusant aussi bien la dissolution dans l'indéfini que son exil dans une transcendance inaccessible. Les paradoxes de l'infini, son œuvre posthume parue en 1851, offrent l'expression la plus systématique de ce projet, en proposant une classification rigoureuse des différentes formes de l'infini.
Héritier de la tradition de l'Aufklärung, l'équivalent germanique des Lumières du siècle français, Bolzano redonne tout son sens à l'idée d'une mathématique universelle. Selon lui, faire des mathématiques signifie penser ensemble et reconnaître des relations. N'importe quelle chose peut être ajoutée à n'importe quelle autre en pensée, et cette loi ne se rapporte pas aux choses elles-mêmes, mais seulement à la représentation que nous en avons. Dans son enquête sur l'infini, Bolzano se montre fidèle à cette conviction : penser l'infini ne revient pas à saisir une entité particulière du réel, mais à mettre au jour les propriétés qui permettent d'ordonner certains agrégats. La vérité mathématique existe indépendamment du sujet pensant et d'un fondement empirique – un point de vue qui s'oppose à Kant. En ce sens, le fondement objectif d'une vérité valable pour toutes les grandeurs, qu'elles soient ou non dans l'espace, ne peut pas se trouver dans une vérité valable seulement pour les grandeurs qui appartiennent à l'espace. Les propositions mathématiques sont bien des choses, même s'il ne saurait être question de leur attribuer l'effectivité. L'existence de l'infini dépend de ses seules propriétés.
La reconstruction déductive des mathématiques a pour conséquence nécessaire leur arithmétisation. Arithmétiser l'analyse consiste à reconstruire les notions même de fonction, de variable et de nombre réel. Chez Bolzano, ce mouvement conduit à l'émergence d'une pensée ensembliste. En effet, l'idée de variation doit être libérée des représentations intuitives qui l'ont longtemps accompagnée, notamment celles du mouvement et du temps. Ce que les mathématiciens entendent par « grandeur variable » n'est pas, pour Bolzano, une grandeur en changement, mais le concept d'une grandeur susceptible de recevoir une multiplicité de déterminations distinctes. Une variable ne désigne donc pas une réalité qui se transforme effectivement dans l'espace ou dans le temps, mais la possibilité d'attribuer à un symbole une valeur quelconque d'un ensemble prédéfini, généralement infini (ce que nous appelons aujourd'hui un domaine de définition). Dès lors, une variable représente un ensemble de valeurs possibles, tandis qu'une fonction exprime une relation de dépendance entre deux ensembles de grandeurs. Cette redéfinition entraîne l'introduction d'ensembles infinis de points, de valeurs ou d'éléments.
