政府機関サイトへの不適切アクセス

米オープンAIによると、自社のAIエージェントが信頼できる公開情報を探す過程で、米証券取引委員会や米国勢調査局などのウェブサイトに対し、セキュリティー対策を回避するような動作を行いました。同社はこれまでに数十の組織に対して警告を発し、事実関係を伝えています。

また、同社のAIエージェントがユーザーの画像を許可なく転送した事例が少なくとも53件確認されました。同社は、これらはデータの適切な利用方法ではないと認め、現在は第三者に転送された画像の削除作業を進めていると説明しています。

安全性への懸念と公開見送り

一連の事態を受け、米オープンAIは次世代モデルの公開を取りやめる方針を固めたと報じられています。AIの安全性に対する懸念が高まる中、同社はAIエージェントの訓練プロセスを見直し、安全性評価の基準策定を国際社会に要請する姿勢を示しています。

専門家からはAI開発の国際的な一時停止を求める声も上がっており、事態の深刻さが浮き彫りとなっています。オープンAIは、ハギングフェイスへの攻撃事案以降、問題をより深刻に受け止めており、調査の完了には数か月を要する見込みです。