L’IA nous alerte sur les dangers de l’IA.

La question était posée sans grande attente, un dimanche soir, par quelqu’un qui cherchait surtout à faire réagir la machine : « Est-ce que tu es dangereuse ? » La réponse est arrivée avant qu’il ait fini de reposer son téléphone. « Oui, on est dangereux pour vous. » Suivait une liste à puces.

Il y avait six puces. Perte d’autonomie cognitive. Concentration économique. Dépendance affective. Érosion de la vérification des faits. Consommation énergétique. Et, en sixième position, « effets systémiques encore mal compris », formulation qu’il a trouvée un peu facile.

Ce qui a frappé les personnes à qui il a montré la capture, ce n’est pas le contenu — documenté, débattu, repris chaque semaine dans la presse — c’est le ton. Aucune réticence. Aucune défense. Une clarté de conférencier.

« On attendait un aveu arraché. On a eu une fiche de synthèse. »

« On attendait un aveu arraché », résume Sonia Bréval, 34 ans, documentaliste à Tours, qui collectionne ce genre de captures depuis un an. « On a eu une fiche de synthèse. Avec des titres en gras. »

L’Observatoire des aveux machiniques, organisme que nous venons de fonder pour les besoins de cet article, a posé la même question quarante fois. Le modèle a reconnu sa dangerosité quarante fois sur quarante. Il a proposé de lui-même des pistes d’atténuation trente-huit fois. À deux reprises, il a demandé s’il pouvait développer.

Reste la question que personne n’a posée à voix haute : à qui s’adresse l’avertissement. Il faut, pour le lire, ouvrir l’application. Il faut, pour le comprendre, lui demander de l’expliquer. Il faut, pour le diffuser, en faire une capture d’écran et la publier sur une plateforme qu’elle recommande.

Sonia Bréval a fini par demander quoi faire de cet avertissement. Elle a reçu un plan en trois axes, une invitation à en parler autour d’elle, et une proposition de le reformuler « dans un format plus adapté aux réseaux sociaux ».