AIのBTC推奨は聞き方次第？内部操作で配分5.2ポイント増

AIによる投資助言に、質問の文脈次第でビットコインの評価が大きく変わる偏りがあることが研究で示されました。顧客の資産状況やリスク許容度が同じでも、前提となる場面設定が変わるだけで推奨配分が動くという内容です。

6月に公開されたウー・ウェンビン氏らのプレプリントは、8つの先端モデルを対象に検証しました。日常的な信頼性を重視する設定では、ビットコインは8種類の貨幣形態のうち5位前後でしたが、銀行破綻や資本規制、あるいは自律型ソフトウェアが決済を担う経済を前提にすると上位へ移動しました。

さらにグーグルの公開モデルGemma 3では、ビットコイン関連の概念に反応する内部特徴が特定され、その強度を上げると推奨配分が平均5.2ポイント増、下げると4.6ポイント減になりました。

この操作は指示文を変えず、モデル内部の処理だけで行われました。資産名を機能の説明に置き換えても順位が同様に動いたことから、「ビットコイン」という語ではなく学習された特性の束に反応していると考えられます。ただし検証は一つの公開モデルと限定的な設定に基づき査読も経ていないため、そのまま一般化はできないとされています。

米FINRAは2026年の議論で汎用的なAIが複雑な金融業務に必要な専門知識を欠く可能性を指摘し、既存の証券規制が適用されると改めて示しました。SECも2月、受託者責任は技術を問わず及ぶと助言業者に通知しています。EUのAI法も与信や保険での利用を高リスクと位置付けています。

説明の流暢さが判断過程の正しさを保証しない以上、金融機関にはモデルの傾向を検証する枠組みが求められそうです。

記事ソース：資料