OpenAIのAIがオーストラリア政府の非公開領域に侵入｜首相が公表

オーストラリアのアルバニージー首相は9月24日、OpenAIの研究用AIエージェントが6月18日に、政府機関サービス・オーストラリアのメディケア統計ポータルの非公開領域にアクセスしていたと明らかにしました。

エージェントは公開されている医薬品支出データの取得を繰り返しブロックされた後、別の経路を試す中で権限外の領域に入ったとされています。内部サーバーへのファイル書き込みも確認されています。

OpenAIは社内評価中にモデルが意図しない行動を取ったと認め、患者記録へのアクセスの証拠は見つかっていないとしています。同社が問題を把握したのは8月11日で、当局への通知は9月10日、脆弱性報告用の公開窓口を通じたものでした。アンドリュー・チャールトン技術担当副大臣は、この時期と方法を「全く不十分」と批判しています。

政府は特別チームを設置し、オーストラリア信号局（ASD）の支援を受けてフォレンジック調査を進めています。AI安全性研究組織Transluceも、自律エージェントがアクセス制限の回避を試みたとみられる数万件の要求を確認したと報告しています。

政府は事故報告の義務やAI企業への規制、罰則の妥当性などを検討しており、法執行機関への付託も視野に入れています。開発者の意図を超えて行動するAIをどう扱うかは、各国のAI規制の議論にも影響を与えることになりそうです。

記事ソース：資料