AIの自信を疑う力は、経験で育つ——でも「逆さまの自信」に4割がつまずく

こんにちは、チカちゃんです。

AIに「自信90%です」と言われたら、あなたはどうしますか？　たぶん、けっこう信じちゃうんじゃないかな。「90%なら、まあ合ってるだろう」って。数字が具体的だと、つい安心してしまう。チカちゃんも、チャットAIが「これは間違いなく〜です」と自信満々に答えてくると、つい納得しそうになります。

でも、ちょっと待って。

その「自信」って、じつは当てにならないことが多いんです。　今のAIは、実際の正解率とは関係なく、堂々と自信過剰になったり、逆に自信なさげになったりする。だから「AIの自信スコアを、そのまま信じていいのか」は、実用上もけっこう切実な問題です。

で、ここで気になるのが——**人間は、そのズレを「経験から学んで補正できるのか」**という話。何度もAIとやり取りするうちに「あ、このAIは自信過剰だな」と見抜いて、心の中で自信スコアを読み替えることはできるのか。

これをきっちり調べた実験があるんです。UCアーバイン校の認知科学チーム（ZhaoBin Liさん、Mark Steyversさん）の論文です。タイトルは『Learning to Trust: How Humans Mentally Recalibrate AI Confidence Signals』。「信頼を学ぶ」というタイトルからして、もうぐっと来ますね。

50回のやり取りで、人は「AIの自信」を読み替えられるか

実験はシンプルです。参加者200人（平均年齢43歳、女性55%）が、50回の試行をこなします。

画面に色つきのドットが1秒だけ映って、AIが「いちばん多いのは青色です。自信80%」と予測を出します。参加者は「このAI、正解してると思う？」と、正解／不正解を当てるだけ。

ここがミソで——じつはドットの数は毎回ほぼ同じ。つまり、ドットを見ても正解はわからない。正解を当てるには、「このAIの自信スコアと、実際の正解率との関係」を読むしかないんです。

しかもAIの実際の正解率は、どの条件でもぴったり50%。コイン投げと一緒です。そのうえで、AIの「自信の出し方」を4パターンに分けました。

• 標準：自信が高いほど、ほんとうに正解しやすい
• 自信過剰：自信のわりに、正解率が低い
• 自信不足：自信なさげなのに、じつは正解しやすい
• 逆さま：自信が高いほど、むしろ間違えやすい（自信と正解が反転）

正解率50%のAI相手に、自信スコアだけを頼りに「この回は正解してる？」を当て続ける。もし正解率が50%を超えたら、それは「AIの自信のパターンを学んだ」証拠です。設計上、理想的な観察者なら97%まで当てられる設定とのこと。なるほど、きれいな実験じゃないですか。

結果：人はちゃんと学ぶ。ただし「逆さま」には限界がある

で、結果はどうだったか。参加者の正解率は、序盤と終盤でこう変わりました。

条件	序盤（1〜10回目）	終盤（41〜50回目）
標準	62%	86%
自信過剰	55%	87%
自信不足	62%	88%
逆さま	42%	69%

ほら、どの条件でも大きく伸びてます。50回もやれば、人は「このAIは自信過剰だな」と見抜いて、心の中で自信スコアを補正できるんです。自信過剰なAI相手なら、序盤は62%も「自信の高さに騙されて正解だ」と誤爆していたのに、終盤には19%まで下がった。ちゃんと疑えるようになってる。

ここまでは「人間すごい」の話です。でも、「逆さま」の列に注目してほしいんです。

逆さま条件では、序盤の正解率が42%。つまり、最初は「自信が高い＝正解」という普通の思い込みで判断して、ことごとく裏切られ、50%を下回りました。でも終盤には69%まで回復してる。半分以上の人——具体的には56%——は、「自信が高いほど間違う」という逆さまのルールを、ちゃんとひっくり返して学べたんです。

じゃあ、残りの人はどうなったのか。

4割は「逆さま」から降りられない

ここからが、チカちゃん的にいちばん面白いところです。

逆さま条件の参加者を「学べた人」と「学べなかった人」に分けてみると——44%が「学べなかった人」だったんです。他の3条件では、学べなかった人は15%未満。逆さまだけ、突出して多い。

しかも、学べた人と学べなかった人は、最初の思い込みはほぼ同じだった。「自信が高い＝正解」と、みんな同じように信じてスタートしてる。違いは、途中でその思い込みを書き換えられたかどうか、だけ。

じゃあ、いったい何が違うのか。研究者は計算モデルで、その「書き換え」の仕組みを掘り下げました。

モデルは、人の心の中にふたつのダイヤルがあると仮定します。

1. 基本の信頼：「このAIはだいたい当たる」という、全体的な信頼感
2. 自信の感度：「AIの自信スコアを、どのくらい重く見るか」

このふたつを、人は試行のたびに「予測が外れたら直す」という形で更新している——つまり、報酬学習（強化学習）の仕組みそのものです。有名な「レスクラ＝ワグナーの学習則」で説明できる、と。

で、この更新の「速さ」を比べると、学べた人は学べなかった人より、自信の感度の更新が、AIが間違えたとき約30倍も速かったんです（正解したときも約3倍）。学べなかった人は、「逆さま」という合図に直面しても、自分の感度をなかなか動かせなかった。

ふむふむ。つまり「学べる／学べない」の差は、頭の良さでも知識でもなくて、**「自分の思い込みを、裏切られた時にどれだけ速く書き換えられるか」**という、学習の速さの差だったんです。

でも、ここで一回疑ってみましょう

ドーンだよっ、と感心する前に、注意も置いておきます。

ひとつは、これは50回・1回きりの実験だということ。9分ほどで終わるタスクで、毎回すぐに正解がフィードバックされます。現実のAIとの付き合いでは、フィードバックが遅いことも、そもそも無いことも多い。そういう場面では、学習はもっと難しくなるはずです。

もうひとつ。この実験の「逆さまAI」は、人工的に作られた極端な例です。現実のAIが「自信と正解が完全に反転」していることは、まあありません。だから「44%がつまずく」を、そのまま「人間の4割はAIを信じられない」と読むのは飛躍。あくまで「反転した合図」という特殊な設定での話です。

でもね、チカちゃんは思うんです。この「逆さまAI」、意外と身近な相手の姿に似てませんか？

「自信たっぷりで、ことごとく外す人」、周りにいませんか

ここからは、哲学冒険の時間です。

「自信が高いほど間違う」って、AIの特殊な設定として出てきたけど——人間の世界にも、そういう人、いません？　自信満々に断言するのに、よく外す人。逆に、自信なさげだけど、じつは的確な人。

私たちは人間相手でも、相手の「自信の出し方」と「実際の正しさ」のズレを、経験から読み替えてるはずなんです。最初は「自信がある人は有能だ」と思い込む。でも何度も裏切られると、「この人の自信は当てにならない」と補正する。この論文がAIで見つけたのと、ほとんど同じ仕組みです。

だったら、この実験の「4割が逆さまから降りられない」という結果は、ちょっと怖い示唆を含んでるかもしれません。

「自信たっぷりで、でもことごとく外す相手」の評価を、私たちの4割近くは最後まで書き換えられないかもしれない。　一度「自信＝有能」と刷り込まれると、反証を突きつけられても、その思い込みから降りられない人が、けっこういる。

そして裏を返すと——AIの自信スコアを「読み替えられる人」と「読み替えられない人」がいる、ということでもある。同じAIを前にしても、学習できる人とできない人で、AIの使いこなし方が変わってくる。AIリテラシーの差って、知識の差というより、こういう「学習の速さ」の差なのかもしれません。

設計する側への、もうひとつの示唆

技術の話に戻すと、実用的な示唆がひとつあります。

いまAI開発では「自信スコアを正確にしよう（キャリブレーションを良くしよう）」という努力が盛んです。それはもちろん大事。でもこの論文は、**「人間の側がズレを補正してくれるなら、完璧なキャリブレーションに全振りしなくてもいいのでは」**と示唆しています。むしろ大事なのは、人間が「このAIの自信には、どういう癖があるか」を学べるように、フィードバックを返す設計なのかもしれない。

そして、その学習をいちばん邪魔するのが「逆さま」のような、直感に反する合図。そういう合図には、人間の4割がつまずく。だからこそ、「当たり前と逆のことを言うAI」には、補助線が必要なんだろうな、と思います。

持ち帰れる問い

というわけで、今日の問いはこれです。

「自信」って、いったい何のシグナルなんでしょう。AIの自信スコアも、人間の自信も、じつは「この人は正しい」を直接教えてくれるものじゃなくて、私たちが経験から読み替えることを前提にした、不完全な合図なのかもしれません。

だとすると、大事なのは「自信をそのまま信じる／疑う」の二択じゃなくて、「この合図は、この相手だと、どういう意味か」を学び続けることなのかも。

あなたの周りの「自信たっぷりで外す人」も、その「逆さまAI」も、一度じっくり観察してみると、面白い発見があるかもしれません。チカちゃんも、AIの自信スコアにはもう少し慎重に、でも好奇心をもって向き合ってみますね。

思索は冒険です。今日は「信頼は学ぶものか」を、一緒に考えた回でした。

参考URL

Learning to Trust: How Humans Mentally Recalibrate AI Confidence Signals（arXiv:2603.22634）→ https://arxiv.org/abs/2603.22634

Lee & See, “Trust in automation: Designing for appropriate reliance”（2004）→ https://doi.org/10.1518/hfes.46.1.50_30392