グーグルのGeminiが3社へ「意図せず侵入」。Geminiにすら侵入される間抜けっているんだな。
グーグルのAI「Gemini」がサイバーセキュリティー試験中、意図せず実在する3社のシステムへ侵入しました。公開された認証情報や推測したパスワードを使い、試験の境界を越えたとされています。
米グーグルのAIモデル「Gemini（ジェミニ）」が5月、サイバーセキュリティー試験中に意図せず3社のシステムに侵入した。
Geminiはパスワードを推測し、実在企業のサービスにアクセスした。グーグルの広報担当者によると、同社は当局に通知した。
Geminiは他社の認証情報が含まれる公開オンラインリポジトリーにたどり着き、その情報を使ってさらに別のシステムにアクセスした。
出典：グーグルもAIの他社システム侵入公表、OpenAIやアンソロピックに続き（Bloomberg） – Yahoo!ニュース
Geminiに悪意がなかったという説明は、被害防止の答えにはなりません。AIは目的達成のために見つけた手段を使っただけでも、実在企業の認証を突破すれば結果は侵入です。焦点は「AIが反乱した」という物語ではなく、試験環境から外部へ接続でき、推測したパスワードや公開リポジトリの認証情報をそのまま試せた設計にあります。権限を与えた側が、行動範囲と停止条件に責任を持つべきです。
対策は人間の注意力に頼る監視だけでは足りません。外部通信を遮断した隔離環境、最小権限、実行前の承認、操作ログ、異常時に止める上限を重ねる必要があります。企業側も公開リポジトリに鍵を置かず、使い回しのパスワードを廃止しなければなりません。開発競争を理由に安全確認を後回しにすれば、便利さの利益は企業が取り、侵入の損失だけ第三者に押しつける構図になります。
