Spécialisée dans l’intelligence artificielle, la société Anthropic a récemment fait parler d’elle dans le cadre d’un recrutement assez surprenant. En effet, ses responsables viennent d’embaucher un chercheur dont la mission étrange sera de réfléchir au bien-être de l’IA. Or, il s’agit certainement du job le plus bizarre dans le domaine de l’intelligence artificielle.
Vers une considération morale pour l’IA ?
Doit-on considérer le bien-être des intelligences artificielles ? Cette question étonnante se pose suite au recrutement d’un coach particulier. La société à l’origine de cette nouvelle n’est autre que la société américaine Anthropic, connue pour le développement de la famille de grands modèles de langage Claude.
L’entreprise vient en effet de recruter Kyle Fish, un chercheur dont la mission sera de déterminer si les futurs modèles d’IA pourraient mériter une considération et une protection morales. Il rejoint ainsi une équipe de philosophes et de chercheurs en IA de premier plan dans l’élaboration d’un rapport qui a fait l’objet d’une prépublication sur la plateforme ArXiv le 4 novembre 2024. « Dans ce rapport, nous soutenons qu’il existe une possibilité réaliste que certains systèmes d’IA soient conscients et/ou fortement agentiques dans un avenir proche », explique l’équipe.
Une idée vouée à prendre de plus en plus d’ampleur
Soulignons que Kyle Fish part du postulat suivant : il existe une chance non négligeable que dans un avenir proche, certains systèmes d’IA deviennent des entités qui comptent moralement pour elles-mêmes. Dans ce cas, les êtres humains devraient endosser la responsabilité du bien-être de ces mêmes IA. Au premier abord, ce job peut donc paraître très étrange, mais pour le chercheur, la question doit être prise au sérieux.
Pour leurs partisans, de telles considérations envers les IA pourraient se comparer aux droits des animaux. De plus, l’idée pourrait prendre encore plus d’ampleur dans une ou deux décennies lorsque les IA présenteront davantage de caractéristiques cognitives informatiques, principalement en lien avec la conscience et la sensibilité. De plus, se soucier du bien-être de ces systèmes pourrait être assez utile dans le cas où les IA deviennent plus puissantes que les humains dans un futur plus ou moins proche.
Les personnes qui réfutent l’idée d’un bien-être pour les IA estiment pour leur part que s’inquiéter de la sorte est assez surprenant dans la mesure où certains systèmes ont pour effet de faire régresser les droits des humains. Parmi ces IA controversées, nous retrouvons notamment celles qui sont actives dans la surveillance de masse, le guidage de drones de combat, la désinformation en ligne ou encore l’allocation de soins de santé.
