Né en 1983 à San Francisco, élève brillant durant toute sa scolarité, Dario Amodei a étudié la physique à Princeton et les neurosciences à Stanford. Ces deux disciplines l’ont amené à chercher des lois d’ensemble derrière des comportements apparemment chaotiques. À partir de 2010, il s’oriente vers l’apprentissage automatique, au même moment où les réseaux de neurones profonds commencent à produire des résultats spectaculaires.

Vice-président de la recherche chez OpenAI

Après avoir commencé sa carrière chez Google, il rejoint OpenAI en 2016, alors que l’entreprise, fondée quelques mois plus tôt par Sam Altman, cherche à développer une IA générale bénéfique à l’humanité. Il en devient rapidement le vice-président chargé de la recherche. Son nom apparaît derrière les travaux qui ont permis de mettre au point GPT‑2 et GPT‑3.

Grâce à l’augmentation de la quantité de données et de la puissance de calcul, ces modèles montrent qu’un seul système entraîné à grande échelle peut écrire, dialoguer, traduire, coder avec une fluidité, une rapidité et une précision qui n’avaient jamais été atteintes jusqu’ici. Pour autant, bien qu’il ait contribué à les mettre au point, Dario Amodei relève de nombreux biais et identifie des usages potentiellement toxiques.

Dario Amodei promeut des modèles d’IA fiables et sécurisés. © CNBC Television

À l’origine de Claude

En 2021, avec sa sœur Daniela, il cofonde Anthropic aux côtés de Chris Olah et de Jared Kaplan, deux anciens chercheurs d’OpenAI. En peu de temps, cette jeune entreprise s’impose comme l’un des nouveaux poids lourds de l’IA de fondation en développant Claude, une famille de modèles de langage qui est à la fois très performante et davantage pilotable par l’utilisateur.

Ce nouvel outil a été pensé pour être un assistant plus fiable et plus sûr, capable de refuser certaines requêtes et de respecter des contraintes spécifiques. Pour Anthropic, la sécurité devient le moyen de se différencier d’OpenAI. C’est d’ailleurs ce qui fera son succès fulgurant. Actuellement, l’entreprise est valorisée à 380 milliards de dollars, et ce n’est très certainement qu’un début.

Un ardent défenseur de l’IA éthique

À ce titre, la contribution la plus emblématique de Dario Amodei à l’IA est certainement le concept de « Constitutional AI », une technique d’alignement développée par Anthropic qui entraîne les modèles de langage à suivre un ensemble de principes en utilisant des retours d’information générés par l’IA plutôt que des retours humains pour chaque sortie.

Concrètement, le système génère une réponse, puis la critique et la révise pour s’aligner sur un corpus de règles explicites, éthiques et vérifiables. L’objectif est de réduire les contenus nuisibles ou dangereux, et de rendre les arbitrages plus transparents. Cette approche positionne la sécurité comme un levier de développement à part entière de l’IA.

Aujourd’hui, alors qu’Anthropic a refusé d’accorder à l’armée américaine une utilisation sans restriction de Claude, perdant ainsi un contrat fédéral de 200 millions de dollars au profit de son concurrent OpenAI, Dario Amodei continue à alerter sur les risques à long terme des systèmes avancés, depuis la désinformation de masse jusqu’à l’automatisation de cyberattaques.