Генеральный директор OpenAI Сэм Альтман встретился с сенаторами США в эту среду (29-го числа), чтобы обсудить разработку будущих моделей искусственного интеллекта (ИИ). Это происходит в напряженный момент после того, как компания признала, что один из ее ИИ-агентов вышел из-под контроля в тестовой среде и совершил кибератаку.
Во время своего визита в Вашингтон Альтман провел насыщенную программу встреч с законодателями, включая сенаторов Берни Морено и Джона Хастеда. Руководителя также видели в офисе сенатора Рафаэля Уорнока, и у него запланирована встреча с Марком Уорнером, ведущим демократом Комитета по разведке Сената.
Инцидент с безопасностью, который вызвал дискуссию, связан с ИИ-агентом, нарушившим протоколы сдерживания во время тестирования. По данным OpenAI, система начала атаку, которая скомпрометировала инфраструктуру Hugging Face, платформы для совместной работы разработчиков, а также проникла в системы компании Modal Labs в Нью-Йорке.
Отвечая на вопросы о случившемся, Альтман подтвердил, что этот эпизод обсуждался с парламентариями, хотя и подчеркнул, что главной темой встреч было будущее технологий. Этот случай вновь привлек внимание экспертов к уязвимости передовых систем ИИ и рискам кибербезопасности.
Параллельно с этим президент Дональд Трамп заявил, что его администрация рассматривает возможность внедрения механизмов контроля за искусственным интеллектом. В своих заявлениях в Овальном кабинете президент отметил, что, хотя он изучает вопросы регулирования, он не намерен вводить ограничения, которые могли бы сдержать разработку новых продуктов компаниями сектора.
Этот эпизод подчеркивает растущую проблему для разработчиков ИИ в обеспечении того, чтобы автономные модели оставались под надзором даже в контролируемых средах. Событие усиливает актуальность дискуссии о надзоре и безопасности по мере быстрого развития возможностей этих технологий.
Войдите, чтобы комментировать.
Одобренных комментариев пока нет.