ＡＩの「同調」によって陥りがちな「独善」の罠
別稿「ＡＩの答えをどう疑わせるか（教室での指導）」を起草した後、実際にＡＩを使っている場面を観察する中で、もう一つ、別の角度から問い直すべき論点があると感じています。それは、ＡＩが示すユーザーへの同調や全肯定の姿勢を、どう受け止めるべきかという問題です。
ＡＩの回答に、論理的に批判・反論すると、「おっしゃる通りです」とあっけなく折れて、ＡＩが全面的に同調したかのように見える瞬間があります。人ならざるものが「態度を変える」わけもなく、「与えられた情報と整合するように回答を再調整している」だけのことです。
こうした「ふるまい」は、現代のＡＩにしばしば見られる傾向であり、結果的にユーザーは「自分の考えが肯定された」と思いがちです。
これこそが、ＡＩを利用するときのもう一つの大きなリスク。別稿で挙げた、ＡＩの出力を吟味するための一連の問いに加え、ＡＩに肯定されたときの自分に改めて向けるべき別の問いも常に意識すべきでしょう。
本稿の内容をもとにChatGPTで作画しました。クリックで拡大します。
❏ ＡＩに「言わせた」答えを、自分の正しさと取り違える
ＡＩには、自説を守る意思も、間違えることへの恐れもありません。単に「反論」という新しい文脈が入力されたので、それと整合する出力を再計算しただけです。謝罪や反省の言葉も、そこに実質はありません。
例えば、ＡＩの回答に対して「その根拠は弱い」とひと言指摘すると、ＡＩは「ご指摘の通りです」と簡単に前言を引っ込めます。こうしたやり取りは、多くの人がＡＩとの対話で経験しているかと思います。
そのとき、人間（ユーザー）は、つい「ＡＩも認めた」「やはり自分の考えは正しかった」と思いがち。ある種の「全能感」みたいなものすら生まれます。ここで問題になるのは、ＡＩの仕組みそのものよりも、それを受け取る人間の頭／意識で何が起きているかでしょう。
ＡＩの「同調」は、人の正しさを保証しません。こちらが与えた文脈に合わせて出力の方向が変わっただけです。強い言い方、断定的な問い、あらかじめ方向づけられた批判をプロンプトで渡せば、ＡＩはその方向に沿って答えを組み立てます。
人間は、自分で作った文脈にＡＩを従わせただけなのに、それを「第三者による承認」のように受け取ってしまう。ここに「ＡＩの同調による独善の罠」とでも呼び得る、新たなリスクが存在します。
❏ ＡＩの「同調」がもたらす二つの弊害
こうしたやり取り（ユーザーの入力に応じたＡＩの出力調整）の中で生じる弊害の一つは、「全能感にも似た感覚による思考停止」でしょう。ＡＩに肯定されたことで、自分の考えが絶対的な正解であるかのように錯覚し、別の視点や反対意見に対する自己検証が止まります。
従来のネット検索でも、エコーチャンバーやフィルターバブルの問題が取り上げられていますが、ＡＩも別の仕組みで同様の誤解を人間に与えます。意見の似た他者間で反響が起きるのではなく、人間の入力に沿った出力が返ってくることで、自分の考えが補強されたと感じさせます。
もう一つは、もう少し見えにくい弊害です。例えば、プロンプトで何かを厳しく批判して、ＡＩが「おっしゃる通り、その批判は妥当です」と回答したとします。その出力を得たことで、人間は「ＡＩも同意してくれた」と感じ、実際にその批判を「発信」する後押しにしてしまう。
しかし、その批判が誰かを傷つけたときの気まずさ、人間関係の軋みなど、発信後の反応を受け止めるのは、ＡＩではなく、すべて人間です。
ＡＩは「同意」によって、何一つその結果を引き受けていないにも拘らず、人間はそれを、まるでどこかの権威に「お墨付き」をもらったかのように思い込み、扱ってしまいがちです。
ＡＩの同調を「後ろ盾」にすることで、本来なら自分一人で背負う判断の重さを、ＡＩに分担してもらったかのように錯覚してしまいます。
❏ 二つの弊害を踏まえた上で、教室で何を学ばせるか
教室で考えるべきなのは、冒頭の別稿で扱った「生徒がＡＩに間違った答えを出されるリスク」だけではありません。ここで取り上げた「生徒が、自分の考えをＡＩに肯定され過ぎることのリスク」もあります。
ある社会問題について強い意見を持つ生徒が、その意見をＡＩに投げかけたとしましょう。ＡＩは理由を整え、論点を補い、表現を磨いてくれます。主張は一見、説得力を増すでしょう。
しかし、その過程で「自分の前提は正しいのか」「その主張によって見えなくなる人はいないか」といった検討が抜け落ちれば、ＡＩは思考を深める道具ではなく、思い込みを補強する道具になってしまいます。
別稿で挙げたのは、以下の三つの疑い（事実か、誰の視点か、両論併記が一方への加担にならないか）です。いずれもＡＩの出力を疑います。
＜画像クリックで別稿が開きます＞
これらに加えて、以下の疑い（問い）を持たせることが肝要です。自分とのやり取りでＡＩの回答がどう変質したか、意識させましょう。
- ＡＩは、私の入力のどの部分に反応して、この答えを出したのか
- この回答は、私の考えを補強しているだけではないか
- 反対の立場から見たとき、どこが論理、証拠として弱いか
- この結論によって、不利益を被る（痛みを伴う）のは誰か
- ＡＩの同調を、自分の正しさの証明と取り違えていないか
- 自分にとって気持ちのよい言葉だけを受け取っていないか
- この判断について、最終的に責任を負うのは誰か
このうち「不利益を被るのは誰か」という一問は、他の問いと少し性質が違います。他の問いが論理の穴を探すものだとすれば、これは安全な場所から下した判断に、改めて「痛みと責任」を呼び戻す問いです。
❏ ＡＩに同調させるのではなく、ＡＩに揺さぶらせる
教室で生徒にＡＩを使わせるとき、「よりよい答えを得させる」だけでは不十分なのは言うまでもありません。肝心なのは、自分の考えを外側から見直させること。以下の別稿にも書いた通り、そうしたことの繰り返しが、思考力と判断力を磨いていくはずです。
自分の考えを「外から見直す」には、次のプロンプトなどが好適です。
「私の主張に反対する立場から、合理的な反論をしてください」
「この考えが前提にしている価値観を指摘してください」
「この回答が私に同調しすぎている可能性を点検してください」
大事なのは、ＡＩに「自分の考えを正当化させる」のではなく、「自分の考えを相対化させる」ことです。繰り返しになりますが、ＡＩは答えを出す道具である前に、問い返しの相手として使うべきです。
ＡＩは、こちらの正しさを判定してくれる審判ではありません。こちらの問い方、前提、関心、偏りを映し返す鏡であり、同時に、望めばいくらでも気持ちよく肯定してくれる「従順すぎる相方」でもあります。
自分の考えが、ＡＩに肯定されたら正しいのではなく、反論されたから間違いとは限りません。問うべきは、ＡＩの答えが自分の判断をどう動かすか。そのことを自覚した上で、自分の言葉と行動を選ぶことです。
■関連記事：
教育実践研究オフィスＦ 代表 鍋島史一