前回予告の続篇である。
これは、7/15に事前公開されたAI論文 “AI advice suppresses people’s willingness to say ‘I don’t know’, even when the advice is wrong and accuracy is incentivized” by Chiara Marcocciaら、を元にした動画「AIは間違う以上に確信を増やしている」をベースにしているので、それを見るもあり。とてもよくできている。ちょっと長いけど、論文自体に関しては前半3分の1でOK。

これは、AIによる「整ったストーリー」が、・ヒトから「わからない（無知の知）」を消し去り・「自信満々の誤答」を増やし・「学習機会や意欲」を奪うとうお話。

行われた実験はある意味シンプルで、Marcocciaらは延べ5回の実験（N=3132）で、被験者たちに「映画問題6問への回答（わからない、もあり）」を迫った。
問題は例えば、Q5：アニメ映画『モモ』で亀は何色か？といったもの。映画オタクも真っ青の難問である。

被験者たちはランダムに2分されていた。
A：自分だけで考える、B：生成AIにアクセス可能。

さて、これで回答はどうなったか。
まず、生成AIを使えるBでは「わからない」が劇的に減った。
・A：わからないが44％
・B：わからないが 6％

この実験では、意図的に「生成AIでも正解出来なさそうな難問」にしてある。しかし生成AIは滅多に「わからない」とは言わない。なんらかの情報を元に、それらしいストーリーをつくり、回答を示す。それをヒトは容易に信じる。
そしてヒトから「わからない」という「判断の保留」をなくす。ソクラテスがヒトの知恵の根幹とみなした「無知の知」を奪ってしまうのだ。

そして、なんとBの「正答率」は3分の1に下がった。
・A：正答率は27.5％
・B：正答率は 9.2％

もともと（Aのように）生成AIなしで3割のヒトが正解を知っていたなら、生成AIはBにおいて（わからないを減らしただけでなく）「誤答への誘導」を大いに果たしたことになる。なんとまあ。

たださらに恐ろしいのは、この回答への「確信度」だ。回答者へ「回答への自信」を0～100で尋ねたら、
・A：平均値が29.6
・B：平均値が75.9
となった。

論文の図表から読み取ってみると、生成AIを使わなかったA群では25％が「60以上の自信あり」と答え、3割が正答した。しかし生成AIを使ったB群では、約7割が「60以上の自信あり」と答えたにもかかわらず、正答率はたったの9％だった。

回答者にもうちょっと慎重になってもらおうと、「正解なら0.1ドル、不正解ならマイナス0.1ドル、わからないなら0」という金銭的インセンティブ（不正解への罰）を与えてみたが、それではこれらの結果はほとんど変わらなかった。「生成AIの出した回答への過度の信頼」は崩れなかったのだ。

結論
・生成AIなしでヒトは「正解 3割弱、不正解 3割弱、わからない 4割強」に分かれた。答えへの自信60以上も3割だった。「結局間違えた、自信なかった 3割弱」「わからない、とちゃんと答えた 4割強」はその次の学習ステップ「調べよう」につながる。
・ところが生成AIに相談するとヒトは「正解 9％、不正解 85％、わからない 6％」に転化する。正解が3分の2がAIの不正解に上書きされ、わからないが7分の1に激減する。答えへの自信60以上が 7割もいたのに…。これでは次の学習につながらない。

論文の考察では、
・ヒトは一般的に独立した判断を持ち、外部の助言にあまり従わない
・しかし生成AIの「流暢な」助言が、ヒトの「わからない（判断保留）」を奪い、根拠なき「確信」を膨らませ、「正確さ」を下げる
などが述べられる。

冒頭の動画では後半、この生成AIの危険さの本質が解説されていく。
・生成AIは、まず答えをつくってからその理由をつくりだす。論拠を探し、出典としてつける。でもその中身までは（突っ込まれない限り）確かめない
・でもその「流暢な」答えと理由を見たヒトは、納得感だけは生まれる。そこから「空欄（わからない）」がなく、は疑問も新しい問いも学びも生まれない。
・組織はいま、速度と見かけの完成度だけを求めている。自信ある話し手を評価し、わからないことをちゃんと確認するヒトを評価しない。そのためにヒトは生成AIにますます「答え」や「強い物語」を求めるようになる。
・「わからない」を守るために、3つのことをやろう。 ①初期の判断記録：AIを使う前にどう考えたか、確信度、どこから推測か、要確認点などを記録する ②AIには確認や反証、一次資料を求める：「この考えの論理構造はどうか」「間違っている点は？」「反対の結論になる情報はあるか」「根拠の一次情報を確認して」。 ③問いを拡げる：AIに「他の可能性はないか」「この他に選択肢を挙げて」を投げるもあり
・ヒトの価値は、「わからない」を拡げる、明確にする、守ること、そしてどう「わかる」に変えていくかを考えることにある

「どんどん賢くなる」生成AIとともに、ヒトはどこまで「ゴロゴロ落ちて」いくのか。

それを止めるには、「わからない」と言える強さと、それを支える能力が必要だ。
AIを使いこなすことは難しくない。でもそれに巻き込まれないこと、そのための発見・探究力を鍛えることこそが重要なのだ。