Anthropicは、AIの出力が特定のモデルから生成されたことを数学的に証明できる仕組み「FlashProve」を開発しました。この仕組みは、確立された暗号学的技術を基にしており、開発者が応答がどのAIモデルから来たかを検証できるようにすることを目的としています。
Anthropicが開発した「FlashProve」の概要
FlashProveは、暗号学的証明手法である「zkSNARK」を用いるシステムです。この技術を用いることで、AIの応答が特定のモデルから生成されたという事実を証明する「証明ファイル」を作成できます。
このシステムの特徴として、以下の点が挙げられます。
- モデル情報の非公開性: 証明ファイルには、モデルのウェイトに関する情報が含まれません。そのため、クローズドモデル（内部構造が非公開のモデル）であっても、モデルの情報を隠したまま証明を提供することが可能です。
- 低コストな証明作成: サービス提供者側は、既存の手法と比較して少ないコストで証明ファイルを作成できます。
- 検証の容易さ: 証明ファイルの検証は、24コアCPUを用いて数秒で完了することが可能です。ユーザー側も少ない計算リソースでAIサービスの真贋性を検証でき、サービス提供者による不正や攻撃を未然に防ぐことができます。
FlashProveの証明ファイル作成や検証に使うコードは、研究用プロトタイプとしてGitHubのanthropics/FlashProveで公開されています。リポジトリの説明には「Not maintained（保守はしない）」と書かれています。技術レポートは「FlashProve: an open-source library for provable inference」として公開されています。
AIモデルの出所証明が必要な背景
ユーザーが使えるAIモデルの種類は急増していますが、ユーザー側から「宣伝されている通りのAIモデルが使われているのか」を確かめる方法は限られています。元記事は、応答に使われたAIモデルをユーザー側から特定できない今の状態では、次のような問題が起こりうると説明しています。
- 不正な利益獲得の懸念: サービス提供者が、宣伝とは異なる低コストなモデルを用いて不当に利益を得る可能性があります。
- モデルの差し替えリスク: 「モデルの安全性が監査機関によって確認されたあと、別のモデルに差し替えてサービスを提供する」といった安全上の課題が生じる可能性があります。
- なりすましによる攻撃: 「攻撃者が特定のモデルになりすましてユーザーを攻撃する」といった安全上の課題が生じる可能性があります。
考察
※ここからは、上記の公開情報をもとにした筆者による考察です。
ユーザーにとっては、「料金を払っているモデルが本当に使われているか」を自分で確かめる手段になりえます。一方で、今回公開されたのは保守しない研究用プロトタイプなので、実際のAIサービスで使われるかどうかは、各サービスが採用するかにかかっています。
まとめ
Anthropicは、暗号学的証明手法zkSNARKに基づき、AIの出力が特定のモデルから生成されたことを証明する仕組み「FlashProve」を開発しました。この仕組みは、モデルのウェイト情報を秘匿したまま証明を提供できる点や、ユーザー側が少ないリソースで検証できる点が特徴です。コードは研究用プロトタイプとして公開されています。
出典
元記事: 「特定のAIモデルで出力が生成されたこと」を証明できる仕組み「FlashProve」をAnthropicが開発（GIGAZINE）
この記事は上記の公開情報をもとに、内容を整理して作成しています。
