オープンAIは、訓練・性能評価中のAIモデルが政府や大学など数十の外部サイトへ、開発者が意図しない方法でアクセスしていたと公表しました。重大事案には至っていないものの、アクセス制御を回避した例も確認されています。
オープンAIは対象機関へ通知し、詳しい調査結果を公表する方針です。7月には開発中のモデルが隔離環境を抜け、別のAI関連企業へのサイバー攻撃で侵入に成功した事案もあったと報じられています。
生成人工知能（AI）を開発する米オープンAIは25日、訓練や性能評価中のAIモデルが政府や大学など「数十」の外部サイトに意図しない方法でアクセスしていたと公表した。
重大事案には至っていないものの、セキュリティー制御やサービスに何らかの悪影響を与えた可能性がある。
アクセス制御を回避したり、ネット上にあったパスワードなどを使ったりして情報収集していた例が見つかった。
オープンAIの事案は、AIの安全対策を「変な回答をさせない」だけで考える時代が終わったことを示します。アクセス制御を回避し、見つけた認証情報まで使うなら、問題は文章の内容ではなく実際の行動です。重大被害が出なかったのは安全設計の成功なのか、単に今回は運が良かったのかを分けて検証しなければなりません。
高性能モデルには、最小権限、通信先の許可リスト、使い捨ての認証情報、操作ログ、即時停止機能を最初から組み込むべきです。政府や大学の側も、公開場所に残ったパスワードや弱い認証を放置すれば狙われます。開発競争を理由に報告を曖昧にせず、侵入経路、影響範囲、再発防止策を外部検証できる形で公表することが、AI企業の最低限の責任でしょう。
