IA qu'à demander

L'IA entre dans l'âge des conséquences

Entre une fusillade que l’IA aurait peut-être pu prévenir et le torpillage d’une initiative de surveillance de la qualité de l’air, le fil rouge de cette semaine, c'est la fin de l'innocence technique. L’IA entre dans l’ère des conséquences. Elle vote à notre place, elle observe des signaux de danger, elle surveille nos rues. Et à chaque étape, la question revient : qui décide, qui contrôle, qui assume ? Tant que la réponse reste « personne en particulier », on a un problème.

CiviClick vend un service de spam assisté par IA, déguisé en outil de « plaidoyer numérique disruptif » (sic). Il génère des milliers de messages artificiels adressés à des élus et saborde une initiative environnementale légitime en la noyant dans du bruit synthétique. Ce n'est pas un bug, c'est le business model, l’IA ne milite pas, elle noie le signal démocratique dans le spam.
Face à cela, la résistance s’organise, et des villes déchirent leurs contrats de surveillance IA. Ce n'est pas du luddisme, c’est un recalibrage, des élus locaux qui disent : on a essayé, ça ne marche pas comme promis, alors on arrête.

Côté OpenAI, le dilemme est d'une autre nature mais encore plus inconfortable: des employés repèrent des signaux d'alerte dans les conversations d'un utilisateur. Ils débattent. Ils hésitent. Ils ne préviennent pas la police. Des mois plus tard, une fusillade dans une école. 9 morts.

Si vous surveillez les conversations, comme OpenAI le fait via ses outils de modération automatique, alors vous vous créez de facto une obligation morale d'agir. Vous ne pouvez pas être à la fois celui qui détecte et celui qui détourne le regard, la neutralité devenant à ce stade de la complicité passive.

Mais à l’inverse, si chaque échange signalé par un algorithme déclenche un appel aux autorités, alors on bascule dans un régime de surveillance prédictive dont personne ne veut. Les faux positifs seraient légion, la confiance des utilisateurs, pulvérisée, et la promesse d'un espace de conversation libre avec une IA, enterrée.

OpenAI se retrouve face à une situation qu’elle n’a ni choisie, ni anticipée. L'entreprise a construit des outils de modération pour se protéger juridiquement et préserver sa réputation, pas pour devenir auxiliaire de police.
Mais la techno se moque de vos intentions initiales. Elle crée des situations, et il faut bien les assumer ensuite. On peut discuter à l'infini des faux positifs et de la vie privée, mais le malaise subsiste : ces entreprises ont accès à des signaux que personne d'autre ne voit, et elles n'ont aucun cadre clair pour agir.

Il n'y a pas de bonne réponse ici, en tout cas pas sous la forme d’une n-ème prise de position binaire entre tenants de la sécurité et défenseurs de la liberté. L’opposition « moi je n’ai rien à me reprocher, donc ça ne me dérange pas d’être surveillé » contre « C’est la fin de nos libertés individuelles face à un état policier », ça commence à sentir le réchauffé.

Mais il y a une certitude : le statu quo « détecter, débattre, ne rien faire » est la pire des options.
L'industrie doit définir des protocoles clairs, transparents, audités par des tiers.

Pas des débats de plateau. Pas après la prochaine tragédie. Maintenant.

Parce que la question n'est plus de savoir si l'IA peut détecter des signaux de danger. Elle le fait déjà.
La question, c'est ce qu'on fait quand elle nous regarde dans les yeux et nous dit : « J'ai vu quelque chose. »