「安全です」を、誰が確かめるのか——Anthropicが第三者の評価者を社内に入れる

要点

• Anthropicが2026年9月18日、アクセンチュアと組んで第三者による評価を行うと発表しました
• 担当はFaculty（アクセンチュアのAI専門部門）。モデルの評価とレッドチーミング、アライメント評価、セーフガードの検証を行います
• 両社はこの体制づくりに、今後5年間でそれぞれ最低10億ドルを投じる見込みとしています
• 従来の外部評価と違い、評価者はAI企業の内部に入ります。権限は「従業員と同等」と記載されています
• 訓練中のモデル、開発と提供をめぐる意思決定、従業員への直接の聞き取り。そこまで見たうえで報告します
• 何をどこまで見せるか、どう報告するかの標準はまだ無いと、発表文自身が認めています
• 資金の出し方も未確立。当面はAnthropicがアクセンチュアの費用を直接負担します
• 提携は非独占。METRなど非営利の評価機関とも協議中で、今後数週間で他の評価者を発表するとしています

何が新しいのか

外から試すのではなく、中に入って見る点です。

これまでの第三者評価は、出来上がったモデルを外部の機関が触って確かめる形でした。入力を与えて、出力を見る。中で何が起きたかは分かりません。

今回は評価者がAI企業の内側で働きます。発表文の表現では、アクセスの範囲は従業員と同等。モデルが訓練の中で形になっていく過程を見て、その作り方と出し方を決めた判断の経緯を追い、従業員に直接聞けます。

検証の対象が、モデルから会社そのものへ広がった。ここが変化の本体です。

発表文は「独立した埋め込み型の評価者は、当社の説明責任を減らすものではなく、それをより検証可能にする助けになる」と書き、モデルの安全性の責任は自社にあると明記しています。

仕組み

1. 何を見るか

モデルの評価とレッドチーミング、アライメント評価、セーフガードの検証。加えて、会社の運営のしかた、安全上の約束が守られているかの検証、見落としの指摘です。

2. 何を報告するか

インシデントの報告と、便益とリスクについて社会に向けた説明。評価者が外へ出す形になります。

3. お金の出どころ

現時点ではAnthropicがアクセンチュアの費用を直接負担します。発表文はこれを、仕組みが無いなかでの当面の措置と位置づけています。長期的には共同基金か公的資金が望ましいという立場で、2026年6月に公開した Advanced AI Framework でも同じことを求めていた、としています。

4. 一社に固めない

非独占の提携です。Anthropicは他の評価者とも組み、アクセンチュアも他のAI開発企業と同様の関係を持つ、と書かれています。評価者が複数並ぶ状態を前提にしています。

企業のAI活用にとっての意味

1. ベンダーに聞く質問が、ひとつ増えます。

これまでは「安全対策は何をしていますか」でした。これからは「誰が、どこまで中を見て、何を報告できる立場にありますか」が聞けます。答えられる会社と答えられない会社の差は、今後はっきり出ます。機密保持で答えられない部分は当然ありますが、体制の有無そのものは答えられるはずです。

2. 「評価する人」が職種になります。

5年で最低10億ドルという規模は、人を集めて育てる前提の数字です。AIを作る側だけの話ではありません。AIを使う企業でも、出力を検証し、想定外の挙動を見つけ、社内に報告する役割が要ります。今そこに誰も座っていない会社が大半です。ツールの使い方研修の次に来るのは、この役割の育成です。

3. 「費用を出す側が、評価される側」という弱点は公開されています。

Anthropicが評価者に費用を払う構図は、発表文の中で当人が認めています。第三者評価の結果を読むときは、誰が費用を出したかを併せて見る。自社が外部監査やコンサルの報告書を読むときと同じ作法です。

4. 同じ構図は、自社のAI利用にも持ち込めます。

AIを使う部署が、自分の使い方を自分で評価する。これが今の多くの会社の状態です。使う部署の外に見る人を置き、何を見せるか・何を報告するかを先に決めておく。規模は違っても、設計の考え方はそのまま使えます。

※ 本記事の内容は、Anthropicが公開した発表文の記述に基づきます。評価の具体的な運用方法、開示の範囲、開始時期は発表文では確定していないと記載されています。最新の状況は一次情報をご確認ください。

※ この記事は海外の一次情報（発表元の公式発信）のみを出典とし、内容を確認のうえ掲載しています。