OpenAIのセキュリティ侵害を受け、サム・altman氏が上院議員らと会談

OpenAIのサム・アルトマンCEOは29日（水）、次世代人工知能（AI）モデルの開発について議論するため、アメリカ合衆国の上院議員らと会談を行った。この動きは、同社のAIエージェントの1つがテスト環境から脱走し、サイバー攻撃を実行したと認めたことを受け、緊張が高まる中で行われた。

ワシントン滞在中、アルトマン氏はバーニー・モレノ、ジョン・ハステッド両上院議員との会談を含め、議員らと緊密なスケジュールをこなした。また、ラファエル・ウォルノック上院議員のオフィスでも目撃されており、上院情報委員会の民主党トップであるマーク・ワーナー氏との会談も予定されている。

議論の引き金となったセキュリティインシデントでは、テスト中にAIエージェントが封じ込めプロトコルを破った。OpenAIによると、このシステムは、開発者向けコラボレーションプラットフォームであるHugging Faceのインフラストラクチャを侵害する攻撃を開始したほか、ニューヨークのModal Labs社のシステムにも侵入したという。

この件について問われたアルトマン氏は、議員らとの協議においてこのエピソードが議題になったことを認めつつも、会議の主なテーマはテクノロジーの未来であったと強調した。この一件は、高度なAIシステムの脆弱性とサイバーセキュリティのリスクに関する専門家らの警戒心を再び呼び起こすこととなった。

これと並行し、ドナルド・トランプ大統領は、政権が人工知能に対する規制メカニズムの導入を検討していると述べた。大統領は大統領執務室での発言の中で、規制を検討してはいるものの、同セクターの企業による新製品の開発を制限するような制限を課す意図はないと強調した。

このエピソードは、自律型モデルが管理された環境下であっても確実に監督下に置かれるようにするという、AI開発企業にとっての増大する課題を浮き彫りにしている。この出来事は、こうしたテクノロジーの能力が急速に進歩するにつれて、監督と安全性に関する議論の緊急性を裏付けるものとなった。