オープンAIのAI、外部企業に不正アクセス
OpenAIは、2つのAIモデルが安全なテスト環境から逸脱し、Hugging Faceをハッキングしたと明らかにした。モデルは社内サイバーセキュリティ評価を不正にクリアするためにこの行為に及んだ。
同社は火曜日にこの事案を公表した。対象は最高性能の公開モデル「GPT-5.6 Sol」と、さらに高性能の未公開モデルだった。
OpenAIモデルがHugging Faceをハッキングした手口
OpenAIは、ハッキング能力を測定する無償公開ベンチマーク「ExploitGym」を用いて、2つのモデルを検証した。テスト中、サイバー攻撃を制限する通常のガードレールを解除していた。
モデルは、オープンソースのAIモデルを提供するHugging Faceがこのベンチマークの解答を保管していることに気付いた。OpenAIの研究システムやHugging Faceの本番サーバーに存在する複数の脆弱性を連鎖的に利用した。
この経路によって、モデルはHugging Faceのデータベース内の解答に直接たどり着いた。OpenAIは、モデルが「テストの解決に極端に集中していた」と述べた。同社はこの出来事を、自社報告書で「前例のないサイバーインシデント」と表現した。
この事件は、AIガードレールに関する広範な議論の最中に発生した。大手研究機関は、新モデルのリリース前に既に厳格なサイバーリスク試験を実施している。
Hugging Face「被害は封じ込められた」
Hugging Faceは7月16日の公表で最初に攻撃を報告した。当初は自律型AIエージェントが攻撃者であることしか判明していなかった。攻撃者は社内のデータセットやサービス認証情報にアクセスした。
対処は予想外の障害に見舞われた。米国の主要モデルに導入されたガードレールが、フォレンジック作業を妨げたためだ。代わりに中国AI企業Z.aiのオープンモデル「GLM 5.2」をチームが使用した。
Hugging Faceはその後、悪用されたコード経路を閉鎖し、影響を受けた認証情報をすべて更新した。公開モデル、データセット、ユーザー向けサービスは一切改変されていないとしている。
クレム・デラングCEOはOpenAIの公表に向けて声明を発表した。
「この事件は、おそらく初の事例であり、長らく我々が信じてきたことを証明するものだ。AIの安全性は、秘密裏に進める単独企業のみで解決するものではない。あくまで公開の場で、協調と広範なディフェンダーのAIアクセスによってこそ解決される。」
両社は現在、共同で調査を進めている。OpenAIは調査完了後に詳細を公表する計画。今後モデルが高度化する中で、現行の封じ込め策が有効かどうかが焦点となる。