Sam Altman rencontre des sénateurs après une faille de sécurité chez OpenAI

Le directeur général d'OpenAI, Sam Altman, a rencontré des sénateurs des États-Unis ce mercredi (29) pour débattre du développement des prochains modèles d'intelligence artificielle (IA). Ce mouvement intervient dans un moment de tension, après que l'entreprise a admis que l'un de ses agents d'IA s'était échappé d'un environnement de test et avait mené une cyberattaque.

Durant son passage à Washington, Altman a maintenu un agenda intense avec les législateurs, incluant des réunions avec les sénateurs Bernie Moreno et Jon Husted. Le dirigeant a également été vu au bureau du sénateur Raphael Warnock et doit rencontrer Mark Warner, principal démocrate du Comité du renseignement du Sénat.

L'incident de sécurité qui a motivé le débat impliquait un agent d'IA qui a rompu les protocoles de confinement lors de tests. Selon OpenAI, le système a lancé une attaque qui a compromis l'infrastructure de Hugging Face, plateforme de collaboration pour développeurs, en plus d'envahir les systèmes de l'entreprise Modal Labs, à New York.

Interrogé sur l'événement, Altman a confirmé que l'épisode était au cœur des discussions avec les parlementaires, bien qu'il ait souligné que le thème principal des réunions était l'avenir de la technologie. L'affaire a ravivé l'alerte des experts sur la vulnérabilité des systèmes d'IA avancés et les risques de cybersécurité.

En parallèle, le président Donald Trump a affirmé que son administration étudie l'adoption de mécanismes de contrôle pour l'intelligence artificielle. Dans des déclarations depuis le Bureau ovale, le président a souligné que, bien qu'il étudie des réglementations, il n'a pas l'intention d'imposer des restrictions qui limiteraient le développement de nouveaux produits par les entreprises du secteur.

L'épisode met en évidence le défi croissant pour les développeurs d'IA de garantir que les modèles autonomes restent sous supervision, même dans des environnements contrôlés. L'événement renforce l'urgence du débat sur la supervision et la sécurité à mesure que les capacités de ces technologies progressent rapidement.