L’intelligence artificielle générale, ou la superintelligence. La définition exacte de ces termes varie, mais cela signifie généralement une IA capable d’égaler ou de dépasser l’intelligence humaine. Toutefois, il y a une autre notion que certains incluent dans ces termes : la conscience.

À quel moment pourrions-nous affirmer qu’une IA est devenue consciente ? La question est épineuse et bon nombre de spécialistes pensent que nous en sommes encore loin. Pourtant, ce n’est pas le cas de tous. Dans un entretien avec le New York Times, Dario Amodei, P.-D.G. de l’entreprise Anthropic, qui développe le chatbot Claude, affirme ne pas savoir.

« Nous ne savons pas si les modèles sont conscients. Nous ne sommes même pas certains de savoir ce que cela signifierait pour un modèle d’être conscient, ni même si un modèle peut l’être, a-t-il déclaré. Mais nous restons ouverts à l’idée que cela puisse être le cas. ». Selon lui, Claude exprime parfois un malaise d’être un produit, et se donne une probabilité de 15 à 20 % d’être conscient.

Philosophie et bien-être au cœur du développement de Claude

Anthropic est connue pour son approche atypique et compte dans ses rangs notamment la philosophe Amanda Askell et le spécialiste du bien-être IA, Kyle Fish. En décembre dernier, Amanda Askell avait confirmé l’existence d’un « document de l’âme » pour Claude, qui reconnaît des émotions fonctionnelles au chatbot. Les différents modèles disposent même d’un « bouton » pour abandonner la tâche en cours si elle est trop problématique. Dario Amodei indique d’ailleurs qu’il est en faveur d’un ralentissement du développement de l’IA afin de pouvoir étudier les dangers qu’elle pose, mais cela nécessiterait un accord avec la Chine.

En définitive, son approche se résume à trois questions : est-ce que l’IA est consciente et comment s’assurer que son expérience soit positive ? Comment s’assurer que l’expérience des humains qui interagissent avec l’IA soit positive ? Et comment conserver la maîtrise sur l’IA ? Pour l’instant, il indique ne pas savoir s’il existe une manière élégante de satisfaire ces trois exigences.