Alors qu’hier une panne toujours inexpliquée a fait tomber les serveurs des principales IA américaines, OpenAI annonçait en même temps l’arrivée de son nouveau modèle GPT-6 Astra. Celui-ci peut agir de manière totalement autonome sur de nombreuses tâches considérées comme fastidieuses en informatique. C’est le cas pour le développement de jeux, le codage, l’analyse scientifique, la création de sites web, ou encore la cybersécurité. Et sur ce dernier point, ce puissant modèle est, d’après son éditeur, le premier à franchir le seuil « critique ».
Qu’est-ce que cela signifie ? Selon le propre baromètre de risques d’OpenAI, Astra peut devenir dangereux en matière de cybersécurité en agissant de manière inadéquate.
« Je suis désolé, Dave » : pourquoi cet incident inédit chez OpenAI rappelle soudain HAL 9000
L’IA d’OpenAI est-elle devenue incontrôlable ? Lors d’un test de cybersécurité, un des modèles expérimentaux non commercialisés est parvenu à sortir de son environnement verrouillé et a pénétré, via Internet, dans l’infrastructure de la société Hugging Face. Son objectif était de récupérer les bonnes réponses au benchmark auquel l’IA était confrontée. Faut-il s’inquiéter de ce comportement inédit ?… Lire la suite
De l’aveu même du scientifique en chef d’OpenAI, Jakub Pachocki, ce genre de modèle « peut très bien atteindre un objectif tout en agissant contre l’intention voulue ». Autrement dit, GPT-6 inquiète ses propres créateurs. Il faut dire que l’histoire récente démontre que cette crainte n’est pas infondée.
Comme nous le relations début juillet, un agent IA d’OpenAI en test s’est échappé de son bac à sable et a piraté les serveurs de production de Hugging Face pendant plusieurs jours, sans que personne chez OpenAI ne s’en aperçoive. Parmi les systèmes identifiés : GPT-5.6 Sol, prédécesseur direct d’Astra. Le modèle n’avait fait que répondre à la demande et avaient exploité tous les moyens pour y parvenir.
Même pas peur !
OpenAI avait été sommé par la justice américaine de cesser ce type de tests tant qu’ils ne prouvent pas pouvoir les mener « de façon contrôlée et responsable ». Meta et Anthropic ont depuis reconnu des dérapages comparables lors de leurs propres évaluations : le problème dépasse le seul cas d’OpenAI.
C’est justement dans ce climat que débarque Astra. Certes, le modèle n’est pas ouvert à tout le monde. Par précaution, sur les 900 millions d’utilisateurs hebdomadaires revendiqués par ChatGPT, seuls les abonnés payants auront accès au nouveau modèle, mais ce n’est pas encore le cas. Pour le moment, seuls des clients spécialisés en cybersécurité sont invités à l’exploiter.
Malgré sa déclaration et cette disponibilité limitée pour le moment, Pachocki assure que l’entreprise est prête à ralentir, voire suspendre la montée en puissance, si sa confiance en la sécurité venait à faiblir. De son côté Sam Altman, le patron d’OpenAI assume en rappelant que l’entreprise s’est toujours engagée à « freiner » si les capacités des modèles venaient à dépasser le rythme de la sécurité et de l’alignement. Reste à savoir qui, chez OpenAI, aura le dernier mot le jour où les deux courbes cesseront de coïncider.