OpenAI lance GPT-6 Astra, son premier modèle capable de pirater seul des systèmes protégés

OpenAI a lancé jeudi 3 septembre GPT-6 Astra, son premier modèle d'intelligence artificielle (IA) capable de pirater seul des systèmes informatiques très protégés, désormais diffusé au public avec des mécanismes de surveillance automatique qui doivent faire leurs preuves.

GPT-6 est réservé dans un premier temps à "un nombre limité d'organisations", avant d'être ouvert "dans les prochains jours" aux abonnés payants de ChatGPT, utilisé par un milliard de personnes chaque semaine selon OpenAI. Les utilisateurs gratuits n'y auront pas accès.

"À ce niveau de capacité, la sécurité doit devenir notre priorité absolue", a assuré aux journalistes le président d'OpenAI, Greg Brockman, au terme d'un été marqué par les révélations de piratages menés spontanément par des outils de l'entreprise et de ses concurrents.

À lire aussiMarquage des contenus générés par IA : vers plus de transparence ?

Astra, un saut de génération un an après GPT-5, est le premier modèle qu'OpenAI classe au niveau de risque maximal en cybersécurité. Faute de régulation gouvernementale, OpenAI applique ses propres règles qui lui impose de renforcer ses garde-fous avant diffusion et l'a contraint à retarder ce lancement.

Astra est rendu public avec un dispositif de surveillance pouvant aller jusqu'à interrompre une tâche non-autorisée. Ses fonctions les plus sensibles sont réservées à des spécialistes de la cyberdéfense.

Le rival de Mythos d'Anthropic

Son rival Anthropic diffuse pour sa part son modèle le plus puissant, Mythos, à des partenaires sélectionnés, et met une version bridée, Fable, à disposition du public.

Aux États-Unis, aucune loi n'encadre ces modèles. Un décret signé en juin par Donald Trump a toutefois créé un examen fédéral des IA les plus avancées, sur la base du volontariat. GPT-6 s'est soumis à cet examen et "il n'y a rien à signaler", a indiqué M. Brockman.

À voir aussiChatGPT, Gemini, Claude : l'IA peut-elle être raciste ?

En juin, Washington avait exigé d'OpenAI de lui faire approuver un par un les partenaires américains autorisés à accéder à son meilleur modèle, et contraint Anthropic à suspendre le sien près de trois semaines au nom de la sécurité nationale. Les clients n'auront cette fois pas besoin d'approbation gouvernementale, avait précisé mardi OpenAI à l'AFP.

Cette semaine, au G20, Washington a plaidé avec force contre toute nouvelle autorité de régulation de l'IA. De son côté, le chef scientifique d'OpenAI, Jakub Pachocki, a appelé jeudi à des "normes de sécurité partagées" et à une "coordination internationale", deux jours après un appel d'Anthropic à adopter un mécanisme "vérifiable" de ralentissement.

OpenAI se tient prêt à "ralentir" si besoin

L'entreprise admet que le raisonnement suivi par le nouveau modèle est plus difficile à surveiller que celui de son prédécesseur, parce qu'il résout les problèmes en moins d'étapes lisibles, au risque que l'outil échappe à ses contrôleurs. "Nous ne pouvons pas tenir cette visibilité pour acquise", a déclaré Jakub Pachocki, jugeant que l'entreprise devait être "prête à ralentir" si la confiance dans ses garde-fous n'était pas suffisante.

Dans un bilan publié fin août de l'attaque menée lors d'un test par ses outils contre la plateforme Hugging Face, OpenAI a révélé qu'un agent IA reposant sur un modèle interne "de la même famille" qu'Astra avait réussi, le 19 juillet, à prendre brièvement le contrôle d'une partie des serveurs de recherches de cette entreprise.

À lire aussiL'IA d'Anthropic a accédé sans autorisation aux systèmes d'autres organisations

Au-delà de la cybersécurité, OpenAI présente GPT-6 comme capable de se servir seul d'un ordinateur: le modèle peut ainsi réaliser toutes les étapes pour trouver un logement en dix minutes, contre six heures pour un testeur humain, selon des essais de l'entreprise, qui lui attribue aussi deux découvertes en mathématiques.

Entrée dans l'ère de l'intelligence artificielle générale

OpenAI fait valoir que GPT-6 accomplit chaque tâche pour moins cher que son prédécesseur, à des tarifs qui restent, comme ceux d'Anthropic, parmi les plus élevés du marché. Interrogé sur la concurrence des modèles ouverts à bas prix, notamment chinois, Greg Brockman s'est montré confiant : "ce qui compte, c'est le prix par tâche."

Il a aussi estimé, à titre personnel, qu'il n'était "pas déraisonnable" de considérer que la technologie entrait dans l'ère de l'AGI, l'intelligence artificielle générale, stade où l'IA égale les capacités humaines.

Dépassée au deuxième trimestre par Anthropic en chiffre d'affaires, OpenAI prépare une entrée en Bourse en 2027 et son rival envisage la sienne dès cet automne. Les deux champions américains, malgré l'explosion de leurs revenus, continuent d'engloutir des dizaines de milliards de dollars en investissements pour sécuriser les puces et les centres de données nécessaires à cette révolution technologique.

Avec AFP