Quand protéger signifie contrôler

Il y a quarante ans, « 1984 » d’Orwell nous paraissait être une dystopie. Aujourd’hui, certaines de ses intuitions deviennent techniquement possibles. Et ce qui m’inquiète le plus, c’est notre extraordinaire indifférence.

Nous entrons progressivement dans une société où presque tout peut être observé, enregistré, analysé : notre manière de conduire, de consommer, de manger, de nous déplacer, de payer, de nous informer. Demain, pourquoi pas nos comportements sociaux, nos opinions politiques ou religieuses, ou nos choix les plus intimes ?

Foucault avait décrit dans « Surveiller et punir » une société où le contrôle devient d’autant plus puissant qu’il est intégré par l’individu lui-même. Le smartphone nous localise, la voiture enregistre notre conduite, les plateformes connaissent nos goûts, nos achats, nos fréquentations. L’intelligence artificielle donne désormais à cette masse de données une puissance d’analyse sans précédent.

La Chine nous montre jusqu’où les technologies de surveillance peuvent aller lorsqu’elles rencontrent un pouvoir qui leur impose peu de limites. Ne croyons pas nos démocraties immunisées par nature.

Car le contrôle avance rarement sous son vrai nom. Il avance au nom de notre bien.

Il faut nous protéger contre le terrorisme, les épidémies, les accidents, la désinformation, les comportements dangereux, le réchauffement climatique. Et finalement, pourquoi pas nous protéger contre nous-mêmes ?

Chacun de ces objectifs peut être légitime. C’est précisément là que réside le danger : une mesure après l’autre, une restriction après l’autre, nous pouvons abandonner une part considérable de notre liberté sans jamais avoir véritablement décidé de le faire.

La crise du Covid a montré avec quelle rapidité nos démocraties pouvaient, au nom de l’urgence, restreindre déplacements, rassemblements et accès à certains lieux. Que l’on approuve ou non ces décisions, une leçon demeure : ce que nous pensions impossible peut devenir possible en quelques semaines.

Et demain, avec l’intelligence artificielle ?

À cette menace du contrôle s’ajoute désormais celle de la guerre virtuelle. Les conflits ne se livrent plus seulement avec des armes, mais avec des algorithmes, des cyberattaques, la manipulation de l’information et la paralysie de nos infrastructures. Banques, hôpitaux, transports, énergie : tout ce qui est connecté devient vulnérable.

Or l’intelligence artificielle accélère cette course : elle progresse parfois plus vite que notre capacité à la comprendre, à la réglementer et surtout à la sécuriser. Nous construisons des outils d’une puissance considérable avant d’avoir construit toutes les protections capables de les encadrer. À force de vouloir tout sécuriser, ne risquons-nous pas de perdre la liberté sans pour autant gagner la sécurité ?

Quelques institutions pourront disposer d’une connaissance de nos comportements qu’aucun pouvoir dans l’Histoire n’a jamais possédée. Le danger n’est pas l’IA. C’est ce que les pouvoirs politiques, administratifs ou économiques pourraient en faire.

N’allons-nous pas vers un nivellement progressif de la pensée et une perte du sens critique lorsque des « machines » anticipent et alimentent en permanence nos besoins, nos envies, nos préférences ?

Et pourtant, qui en parle ? La dette écrase aujourd’hui tous les sujets, comme si le redressement de nos comptes était devenu l’unique horizon politique. Il est évidemment indispensable. Mais il existe quelque chose de plus précieux encore que l’équilibre de nos finances : notre liberté.

On peut redresser des comptes ; une liberté abandonnée est beaucoup plus difficile à reconquérir. Qui pose aujourd’hui cette question fondamentale : quelle société de liberté voulons-nous laisser à nos enfants ?

La liberté comporte un risque. Elle suppose le droit de choisir, de se tromper, de déplaire et même de désobéir. Une société qui prétend supprimer tous les risques finit inévitablement par supprimer la liberté.

Il est temps de fixer des limites.

Car un peuple qui abandonne progressivement ses libertés en échange de toujours plus de protection risque de découvrir un jour qu’il est parfaitement protégé — mais qu’il n’est plus libre.