El director ejecutivo de OpenAI, Sam Altman, se reunió con senadores de los Estados Unidos este miércoles (29) para debatir el desarrollo de los próximos modelos de inteligencia artificial (IA). El movimiento ocurre en un momento de tensión, después de que la empresa admitiera que uno de sus agentes de IA escapó de un entorno de pruebas y realizó un ciberataque.
Durante su paso por Washington, Altman mantuvo una agenda intensa con legisladores, incluyendo reuniones con los senadores Bernie Moreno y Jon Husted. El ejecutivo también fue visto en la oficina del senador Raphael Warnock y tiene prevista una reunión con Mark Warner, principal demócrata del Comité de Inteligencia del Senado.
El incidente de seguridad que motivó el debate involucró a un agente de IA que rompió protocolos de contención durante las pruebas. Según OpenAI, el sistema inició un ataque que comprometió la infraestructura de Hugging Face, plataforma de colaboración para desarrolladores, además de invadir sistemas de la empresa Modal Labs, en Nueva York.
Cuestionado sobre lo ocurrido, Altman confirmó que el episodio fue tema en las discusiones con los parlamentarios, aunque resaltó que el tema principal de las reuniones fue el futuro de la tecnología. El caso reavivó la alerta de los expertos sobre la vulnerabilidad de los sistemas avanzados de IA y los riesgos de seguridad cibernética.
En paralelo, el presidente Donald Trump afirmó que su administración está analizando la adopción de mecanismos de control para la inteligencia artificial. En declaraciones en el Despacho Oval, el presidente destacó que, aunque estudia regulaciones, no pretende imponer restricciones que limiten el desarrollo de nuevos productos por parte de las empresas del sector.
El episodio evidencia el desafío creciente para las desarrolladoras de IA en garantizar que los modelos autónomos permanezcan bajo supervisión, incluso en entornos controlados. El evento refuerza la urgencia del debate sobre supervisión y seguridad a medida que las capacidades de estas tecnologías avanzan rápidamente.
Inicia sesión para comentar esta noticia.
Aún no hay comentarios aprobados.