ChatGPT最新AI、未知の脆弱性2件発見｜仮想通貨の敵か味方か

OpenAIは9月3日、最新AIモデル「GPT-6 Astra」を公開しました。Astraは評価中に未知のゼロデイ脆弱性を2件発見しており、同社として初めてサイバー能力が最高警戒水準の「Critical」に到達したモデルです。

本番環境向けの安全対策を外した評価では既知の脆弱性から攻撃コードを作るExploitBenchで100%を記録。さらに、強固に保護されたブラウザで任意のコードを実行したり、OSの権限を引き上げたりする能力も確認されています。

直近ではOpenAIの内部評価中に複数のAIエージェントが隔離環境を突破し、同社の研究インフラやHugging Faceのシステムへ侵入する事案も発生しました。

AIは許可されていない経路で情報を共有し、脆弱性や外部公開された認証情報を使ってインターネットへ接続。監視方法や採点システムについても調査し、自らの不正な行動が発覚する可能性を確認していました。

この事案を主導したのは一般公開されない内部研究モデルで、Astra自体は関与していません。ただしOpenAIは、現在のAIが十分な安全対策なしでは複数のシステムをまたいで脆弱性を発見し、悪用できる段階に達したと説明しています。

Web3で始まる「AI対AI」のセキュリティ競争

Web3ではすでにAIを使ったスマートコントラクト監査の低価格化が始まっています。

Ethereum FoundationのAustin Griffith氏によると、1USDC（米ドルに連動するステーブルコイン）でコードを検査する「$1 Audit」は約800件の依頼を処理したといいます。数年前には1万ドル規模だった監査を1ドルで提供し、開発時のCI/CDへ簡易監査を組み込む利用者も増えているといいます。

DeFiプロジェクトSynthetix創設者のKain Warwick氏も多数のAIエージェントを使い、現在は資金が入っていない旧Synthetixコントラクトを一斉に調査する計画を明らかにしました。過去に実際の資金を管理していた約50世代のコントラクトを検査し、当時見逃されていた問題がなかったか確認するとしています。

スマートコントラクトは公開後も誰でもコードを確認できるため、AIによる大量調査の対象になります。防御側が1ドルで監査できる時代は攻撃側も低コストで数千件のコントラクトから脆弱性を探せる時代でもあります。

金融分野でもAstraは大量の資料を横断して検証する能力を示しています。報告によると財務諸表と関連資料の計41文書を数分で照合し、検証用に組み込まれた4件の不一致をすべて検出。ただし、暗号資産の価格予測や自動売買に関する実績は公開されておらず、現時点では売買判断よりも情報分析や数値検証への活用が現実的と言えます。

OpenAIは公開版Astraについて、安全なコードレビューや修正には利用できる一方、高度な攻撃用プログラムの作成は拒否する設計にしています。それでも、AIがWeb3にもたらすのは開発効率化だけではありません。攻撃側と防御側がAIを使い、どちらが先に脆弱性を発見するかを競う「AI対AI」のセキュリティ競争が始まりつつあると言えます。

記事ソース：Youtube