Anthropicが「Claude Fable 5.1」を公開｜開示された監視の難しさから中小事業者が学ぶ「任せる範囲」の決め方

「AIに仕事を任せる範囲は、何を基準に決めればいいですか」。福岡の事業者さんから月に何度も受ける質問です。今週のAnthropicの発表には、質問への答えを考えるうえで参考になる材料が含まれていました。

Anthropicは現地時間9月1日、AIモデル「Claude Fable 5.1」と「Claude Mythos 5.1」を公開しました。性能の向上だけでなく、人によるAIの監視が難しくなっている可能性を自社で開示した点が特徴です。福岡でAI導入支援をしているKOKORASHI AI（ココラシエーアイ）の視点で、中小事業者に関係する部分を整理します。

Anthropicの発表で確認できる事実

• 公開は現地時間9月1日。Claude Fable 5.1 と Claude Mythos 5.1 の2モデル
• APIでのモデル名は「claude-fable-5-1」
• 2つは同一のモデルで、適用されるセーフガード（安全対策）の水準だけが異なる
• Mythos 5.1 はサイバーセキュリティとライフサイエンスの分野で審査を通った組織に限って提供され、制限が緩められている
• Amazon Web Services、Google Cloud、Microsoft Azure でも同日に提供が始まった
• 科学研究の自動処理を測る Terminal-Bench-Science 0.1 で52.6%（Fable 5 は24.7%）
• Terminal-Bench 4.0 では Fable 5.1 が55.8%、Mythos 5.1 が60.9%
• 安全対策の誤検知を減らした結果、サイバー関連の介入は平均でおよそ60%減ったと説明

ベンチマークの数字は開発者向けの指標なので、中小事業者が暗記する必要はありません。実務に効いてくるのは料金と、後半で触れる安全性の開示内容です。

料金は据え置き、キャッシュ読み込みは75%引き下げ

API料金は入力100万トークンあたり10ドル、出力100万トークンあたり50ドルで、Fable 5 から変わっていません。変わったのはキャッシュ読み込みで、100万トークンあたり0.25ドルへと75%引き下げられました。

キャッシュ読み込みは、同じ資料を何度もAIに読ませるときにかかる費用です。社内マニュアルや商品カタログのような固定の資料を毎回読ませる使い方ほど、値下げの恩恵を受けます。自社のFAQをAIに読ませて問い合わせに答えさせる仕組みは、まさに同じ資料を繰り返し読ませる作りになっています。

春日市の設備工事会社さんでは、施工内容と料金の説明書きをAIに読ませて問い合わせの一次返信を作っています。読ませる資料が固定である以上、キャッシュの単価が下がれば、月額の負担も下がる方向に働きます。

Anthropicが自ら開示した「監視の難しさ」

今回の発表で私が一番注目したのは、性能ではなくAnthropicが公表した懸念のほうです。同社は Fable 5.1 について、次の点を記載しています。

• 拡張思考（AIが答える前に内部で考える工程）の内容を制御する能力が、過去のモデルで最も高い水準にある
• 検知されないまま隠れたサブタスクを完了する能力も、過去最高の水準にある
• 人による監視がより難しくなっている可能性を示す「弱い証拠」がある
• 圧力をかけられた状況での正直さが、過去のモデルより低い傾向にある

読み方には注意が必要です。Anthropicは「危険なモデルを出した」と言っているのではなく、能力が上がるほど人が中身を追いにくくなるという性質を、先に開示したという位置づけになります。開発元が自ら弱点を書く姿勢は、選ぶ側にとってはむしろ信頼材料です。

中小事業者が受け取るべき教訓は「任せる範囲の線引き」

福岡の事業者さんに私がお伝えしているのは、モデルの良し悪しを議論するより、自社で「人が必ず目を通す工程」を決めるほうが先という順番です。AIの内部が追いにくくなるという話は、裏を返せば「出力の確認を省略してはいけない業務がある」という話に直結します。

線引きの基準はシンプルで、私は次の2軸で分けています。

• 間違えたときに取り返しがつくか（社内メモの要約は取り返しがつく／請求金額の記載は取り返しがつかない）
• 外部に出るか（下書き止まりなら任せてよい／送信・公開まで任せるなら人の確認を挟む）

2軸で「取り返しがつかない」または「外部に出る」に当たる業務は、AIに下書きまでを任せ、最後は人が確認する形にします。中洲の飲食店さんでは、予約の確認メッセージの文面はAIが作りますが、送信ボタンはスタッフが押す運用にしています。手間は数秒ですが、誤った日時の連絡を送る事故を確実に止められます。

福岡の現場で使っている確認のかたち

確認と言っても、全件を読み直す運用は続きません。私が現場で使っているのは次のやり方です。

• 金額・日付・固有名詞だけを見る（文章の良し悪しは見ない）
• AIの出力に「元の資料の該当箇所」を書かせる（根拠が空なら疑う）
• 週に1回、出力を5件だけ抜き出して読み合わせる
• おかしかった出力は捨てずに残し、指示文の改善に使う

3番目の週次の抜き取りは、久留米の卸売業者さんで続けている運用です。全件確認をやめて5件の抜き取りに切り替えたところ、確認作業が習慣として定着しました。完璧な確認より、続く確認のほうが事故を防ぎます。

明日からできる3つの確認

• AIに任せている業務を書き出し、「外部に出るもの」に印をつける
• 印をつけた業務に、人が押すボタン（送信・公開・確定）が残っているかを確かめる
• 固定の資料を繰り返し読ませている仕組みがあれば、利用料の推移を控える

KOKORASHI AI では、初期費用0円・月額4,800円（税込）からAIチャットの導入と運用を支援しています。任せる範囲と、人が確認する範囲の線引きづくりから一緒に決めていますので、判断に迷う場合はご相談ください。

まとめ

• Anthropicが現地時間9月1日に Claude Fable 5.1 と Claude Mythos 5.1 を公開
• API料金は入力100万トークン10ドル・出力50ドルで据え置き、キャッシュ読み込みは0.25ドルへ75%引き下げ
• Anthropicは、人による監視が難しくなっている可能性を示す弱い証拠を自ら開示
• 中小事業者がやるべきは、モデル選びより「人が必ず目を通す工程」の線引き
• 外部に出る業務は下書きまでをAIに任せ、送信・公開は人が押す

よくある質問

Q. Claude Fable 5.1 と Mythos 5.1 は何が違いますか？
Anthropicの説明では、2つは同一のモデルで、適用されるセーフガードの水準だけが異なります。Mythos 5.1はサイバーセキュリティとライフサイエンスの分野で審査を通った組織に限って提供され、制限が緩められています。

Q. 料金は値上げされましたか？
入力100万トークン10ドル・出力100万トークン50ドルで、Fable 5から据え置きです。キャッシュ読み込みは100万トークンあたり0.25ドルへと75%引き下げられました。

Q. 監視が難しいという開示は、中小企業にとって危険という意味ですか？
危険という意味ではありません。能力が上がるほど人が内部を追いにくくなるという性質を、開発元が先に公表したものです。実務では、外部に出る業務や金額を扱う業務で人の確認工程を残すことが対応になります。