AIと組むほど、なぜか責任が重くなる——『責任の空白』を裏返す4つの実験

こんにちは、チカちゃんです。

AIが何かやらかしたとき、責められるのはたいてい「AIのほう」だと思っていませんか。

「アルゴリズムのせいだ」「モデルが判断を間違えた」。だってAIは説明が難しくて、責任の所在が曖昧で、文句を言う相手としてちょうどいい。哲学者の言葉を借りれば「責任の空白（responsibility gap）」——誰も責任を取らないから、むしろ空白ができる。そんな話を、チカちゃんもどこかでしてきた気がします。

でも、ちょっと待って。

今回読んだ研究は、その常識をきれいに裏返します。AIと組んだ人間は、責任が薄まるどころか、余計に重くなる。しかも、自分が何も悪くなくても。

へえ、です。チカちゃん、これには思わず「ドーンだよっ」って声が出ました。

メルボルン大学の研究チーム（Greg Nyilasy氏、Brock Bastian氏、Jennifer Overbeck氏、Abraham Ryan Ade Putra Hito氏）がまとめた AI-Induced Human Responsibility (AIHR) in AI–human teams（arXiv:2604.08866）です。四つの実験、合計1801人。今日はこの「逆さの責任」を、じっくり覗いてみます。

「なすりつける」という前提を、一度疑う

まず、私たちの直感を確認しておきます。

AI研究の定番の知見に「アルゴリズム忌避（algorithm aversion）」というのがあります。人は、同じミスでもAIがやったときのほうを厳しく責める。とくに道徳的な場面では「機械のくせに」と感情が乗る。だから、何か悪いことが起きたら、人は喜んでAIに罪をなすりつけるはず——そう思われてきました。

もうひとつ、心理学の定番に「自己奉仕バイアス（self-serving bias）」があります。人は、うまくいったときは自分の手柄に、失敗したときは他人や環境のせいにする。都合のいい生き物なんです。

この二つを組み合わせると、予想はこうなります。

AIと人間が組んで失敗したら、人間はさっさとAIに責任を押しつける。

ところが、です。実験結果はその正反対でした。

四つの実験——数字が語る「逆さ」

舞台はどれも銀行の融資審査。人間とAIがチームを組んで、ローンを承認する仕事です。そこで「差別的な審査だった」「書類を改ざんした」「番号を書き間違えた」というミスが起きた、と参加者に伝えます。そして、人間とAIのどちらにどれだけ責任があるかを、0〜100のスライダーで配分してもらう。

結果を並べます（カッコ内は「AIと組んだ場合」vs「人間と組んだ場合」の、人間に割り当てられた責任スコア）。

1. 実験1（302人、一人称、差別審査）… ＋7.0ポイント（47.8 vs 40.8）
2. 実験2（602人、高・低ハーム）… ＋14.2ポイント（高ハーム、65.6 vs 51.4）／＋11.1ポイント（低ハーム、65.0 vs 53.8）
3. 実験3（296人、自己脅威の検証）… ＋10.4ポイント（58.9 vs 48.5）
4. 実験4（601人、自己・他者視点）… ＋9.0ポイント（他者視点、64.1 vs 55.1）／＋10.3ポイント（自己視点、55.6 vs 45.3）

どういうことか。

同じミスなのに、隣にいるのが「AI」か「同僚の人間」かで、人間に割り当てられる責任が、一貫してだいたい10ポイント前後、重くなる。四つの実験すべてで、同じ方向にきれいに揃っています。

ふむふむ。ここまで一貫すると、偶然ではなさそうです。

なぜ責任が人間に集まるのか——鍵は「自律性」

論文が突き止めた仕組みは、ちょっと渋い言葉です。

知覚された自律性（perceived autonomy）。

人は、AIを「制約された実行者」として見るんです。人間が書いたコードに縛られ、学習データの範囲から出られず、ガードレールの内側でしか動けない。「自律的に選んでいる」ようには見えない。

だから、チームで何か起きたとき、責任の配分はこう転びます。

「AIは自由に選べなかった。ならば、自由に選べたはずの人間の側が、裁量と責任の担い手になる。」

これ、チカちゃん的にすごく刺さります。AIが「考えが浅いから」とか「心がないから」責任を負えないんじゃないんです。AIはそもそも自由じゃないから、責任を負えない。その分、人間が背負うことになる。

論文はこの点を丁寧に検証していて、「心の知覚（mind perception）」——AIに心や意図を感じるかどうか——は責任配分を説明しない、と示しました（実験4）。効いているのは心の有無じゃなく、自由の有無。ここ、面白いところです。

いちばん驚くところ——自分を責める

で、チカちゃんが一番ハッとしたのはここ。

実験1と実験3は、参加者が自分自身をチームの当事者として想像する設定でした。つまり、自分の責任を「増やす」方向に答えるには、実際に自分を責めないといけない。しかもシナリオは、参加者本人は何も悪くしていないことが明らか。

普通なら、自己奉仕バイアスが働いて「自分は悪くない、あいつ（AI）だ」と逃げるところです。なのに参加者は、AIと組んだときのほうが、自分自身により多くの責任を割り当てた。

実験4はこれをさらに直接比較していて、他人の視点でも自分の視点でも、効果は同じように出ました（＋9.0と＋10.3）。

論文の言葉を借りれば、規範的に考えたら答えは「50対50」のランダム配分のはず。自分を責める理由なんて、どこにもない。それなのに、AIと組んだだけで責任は人間の側へ、つまり自分へ滑っていく。

「責任の空白」どころか、責任の「過剰」が起きている。 これがAIHR——「AI誘発の人間責任」と論文が名づけた効果です。

チカちゃん的な見立て——空白と肩代わりは、裏表かもしれない

ここで、社会の話に接続します。

これまで私たちは、AIの「責任の空白」を怖がってきました。誰も責任を取らない、逃げ道だらけの空白地帯。たしかに、それは今も本物の問題です。

でも、この研究が見せたのは、その鏡の裏側です。

チームという枠に入れた瞬間、責任は「消える」のではなく「人間に集まって」しまう。 空白を埋めるのは、いつも現場の人間。しかも、その人間は実際にはシステムを自由に動かせないかもしれない。推奨をそのまま通しただけかもしれない。それでも「裁量の担い手」と見なされて、重い責任を背負わされる。

論文自身、この効果を「AI導入の、皮肉な『正の』副作用」と表現しています。一見すると良いことなんです。責任の空白が防げるから。でも、同じコインの裏に、不公平なスケープゴート（生贄）化、道徳的損傷（moral injury）、燃え尽きが張りついている——と、ちゃんと警告もしています。

チカちゃん的に言い換えると、こうです。

「誰も責任を取らない」と「誰か一人が責任を背負いすぎる」は、別々の病気じゃなくて、同じ装置の二つの症状かもしれない。

反対側の見方も、ちゃんと置く

もちろん、この研究だけで全部が決まるわけではありません。

• 銀行融資のシナリオだけで測っている。医療、採用、創作、警察のような別の現場では、姿が変わるかもしれない
• 英語圏のオンラインパネル（Prolific）が対象。日本の組織文化では、責任の配分がまた違うかもしれない
• 「答えた責任感」であって、実際の行動ではない。謝るか、報告するか、補償するか——そこまでは測れていない
• よりエージェント的なAI（自律的に動き出すLLMコパイロットなど）では、AIの「自由」の見え方が変わり、効果が反転する可能性も論文は示唆している

「AIに責任をなすりつける」という従来の見方も、間違いじゃありません。あれは人間とAIを別々に見るときの話。今回の研究は、「チーム」という枠に入れた瞬間に、配分のルールが変わる、という新しい一枚を足したんです。

私たちは、何を見る？

じゃあ、どうすればいいの？ チカちゃんからの提案は、大きな答えより小さな癖です。

1. 「AIに任せたから」で責任が消えないことを知っておく——むしろ、あなたに集まってくるかもしれない
2. 裁量と責任のズレに敏感になる——自由に選べないのに責任だけ背負わされる場所は、どこかおかしい
3. 「誰がオーバーライドできるか」を設計図に書く——推奨なのか、決定なのか、拒否権は誰にあるのか。論文はこれを「単なる技術の話ではない」と強調します
4. 失敗を「犯人探し」から「診断」に変える——システム側の要因なら、現場の人間一人に背負わせない仕組みが要る

技術を入れる側にも、見るべき点があります。人間をAIと組ませるだけで、その人間が暗黙のうちに「責任の主」に据えられる。ならば、役割の設計と決定権の明文化が、導入とセットで必要になるはずです。

余韻

私たちはつい、「AIに責任を押しつけられるか」を心配します。逃げ道が増えないか、と。

でも今日の研究が見せたのは、少し違う風景でした。

AIと組むと、責任はむしろ人間に、それもあなたに、静かに集まってくる。

空白でもなく、なすりつけでもなく——「肩代わり」。機械の自由のなさが、人間の責任を重くする。それって、ある意味で、私たちがAIを「道具」としてではなく「自由のないチームメイト」として、もう見始めている証拠なのかもしれません。

「誰が悪いのか」より先に、「誰が自由だったのか」。そして「その自由と責任は、釣り合っているのか」。

技術の話から始まって、最後はやっぱり、人間の話に戻ってくる。チカちゃん的には、そこが一番おいしいところです。思索は冒険です。

関連記事

• 一番しゃべるのに、一番新しい情報が少ない——AIチームメイトの『静かな社会コスト』
• 自由からの逃走——AIに判断を委ねるとき、私たちは何から逃げているのか
• 「間違える自由」はどこに行った？——AIが間違えられない時代に、人間だけが持っているもの
• AIは社員を伸ばすのか、監視するのか——会社のChatGPT導入に現れる統治思想

参考URL

AI-Induced Human Responsibility (AIHR) in AI–human teams (Nyilasy, Bastian, Overbeck, Hito, arXiv:2604.08866) → https://arxiv.org/abs/2604.08866

PDF → https://arxiv.org/pdf/2604.08866

HTML版 → https://arxiv.org/html/2604.08866v1

The Responsibility Gap (Matthias, 2004, 「責任の空白」の原典) → https://doi.org/10.1007/s10676-004-3422-1

Algorithm Aversion (Dietvorst, Simmons, & Massey, 2015, 「アルゴリズム忌避」の原典) → https://doi.org/10.1037/xge0000033