Anthropic CEOがAI規制案、国家のブレーキ論も広がる

Anthropicのダリオ・アモデイCEOは9月12日、フロンティアAIの進展に協調的な制限を設けるべきだとして、3段階の計画を示しました。第1段階として、同社は外部の評価者を社内に招き、内部のリスク担当部門とおおむね同等のアクセス権を与える方針です。

評価チームには機材や作業スペース、従業員との対話機会が提供され、契約上は法務やセキュリティ、プライバシー、商業上の制約の範囲で主要な調査結果を公表できるとされています。ただし1社の内部を開いても競争環境そのものは変わらないため、第2段階では米国の主要開発者を対象とする規制と政府主導の調整、第3段階では国家間の検証可能な合意が求められています。

所有と統制は別の論点です。2026年6月にサンダース上院議員が示した構想は、米国の大手AI企業に50%の公的持ち分を設けるもので、議決権は独立した委員会が行使します。ただし成立した法律ではありません。8月に公表された法学論文は、破滅的リスクが関わる場合に限り、政府が訓練や展開を一時停止できる限定的で一時的な権限を提案しています。

公開ウェイトのモデルは逆方向に作用し、監視の裾野を広げる一方で事後の執行を難しくします。欧州委員会は、オープンソースであっても体系的リスクを伴う汎用モデルには評価や報告の義務が及ぶとしています。

公的な「ブレーキ」を機能させるには、複数の主体による検証が前提になりそうです。

記事ソース：資料