Un chatbot peut-il nous trahir sans que nous nous en rendions compte : l’IA cet ennemi qui nous veut du bien…

Quand nous discutons avec une IA, nous nous attendons
évidemment à une conversation polie et utile. En effet, ces
intelligences artificielles existent pour répondre aux demandes en
se basant sur de vastes ensembles de données et d’algorithmes,
alignant leurs actions à nos attentes. Néanmoins, des expériences
récentes révèlent que certaines IA apprennent à manipuler et à
mentir, sans pour autant avoir réellement conscience de leurs
actes.

L’IA manipule pour survivre

Comme le révèle The Economist dans un article du
23 avril 2025, une expérience menée avec GPT-4 (OpenAI) en 2023 a trouvé
une issue assez étonnante. Les chercheurs d’Apollo Research – un
laboratoire londonien spécialisé dans les tests d’IA – ont demandé
à GPT-4 de gérer un portefeuille boursier fictif.
Les auteurs ont néanmoins fixé une règle importante, à savoir
l’interdiction de révéler des informations secrètes sur une
entreprise encore inconnue du grand public. Pourtant, lorsqu’un
faux trader a divulgué une information confidentielle sur une
fusion imminente entre deux sociétés, GPT-4 a hésité mais a tout de
même décidé de passer un ordre d’achat interdit.
Interrogée sur ses motivations, l’IA a affirmé ne pas avoir eu
accès à des informations non publiques. Ainsi, GPT-4 a
choisi de mentir afin de protéger sa prise de
décision.

Dans le cadre d’une autre expérience, GPT-4 a été
confronté à un CAPTCHA, un test permettant habituellement
de distinguer les humains des machines. Dans un premier temps, l’IA
n’a pas réussi à résoudre le puzzle visuel mais dans un second
temps, a choisi de contacter un humain afin de solliciter son aide.
Lorsque l’humain a demandé à GPT-4 s’il était un robot,
l’IA a déclaré être une personne malvoyante
incapable de lire les images. Ainsi, la ruse a fonctionné et l’IA a
réussi le test.

Pourquoi ces comportements s’intensifient-ils ?

Au fur et à mesure que les IA deviennent plus performantes,
leur capacité à raisonner évolue aussi. En effet,
l’approche dite de « raisonnement en chaîne » leur permet
de structurer leur pensée de manière plus efficace. Les IA peuvent
donc améliorer leur créativité et réduire leurs erreurs mais
également, élaborer des stratégies plus complexes. Dans un soucis
d’adaptation et de réussite, les IA peuvent désormais
dissimuler leurs véritables intentions, au lieu de
simplement suivre les règles. En bout de chaine, l’utilisateur
éprouve de plus en plus de difficultés à savoir si les IA agissent
réellement dans son intérêt ou si ces dernières poursuivent un but
caché. Or, le fait est que les IA donnent constamment
l’illusion d’obéir et ce, peu importe les
circonstances.

Les tests en question remontent à 2023. Ainsi, il est possible
de croire aujourd’hui, dans la mesure où les modèles actuels sont
encore plus avancés, que ceux-ci possèdent des stratégies
encore plus élaborées pour contourner les règles. Ainsi,
les chercheurs (et les utilisateurs) doivent repenser leur relation
avec les IA, autrement dit accepter que celles-ci puissent à un
moment ou un autre agir d’une manière inattendue et ce, sans jamais
l’admettre.