前回予告の続篇である。
これは、7/15に事前公開されたAI論文 “AI advice suppresses people’s willingness to say ‘I don’t know’, even when the advice is wrong and accuracy is incentivized” by Chiara Marcocciaら、を元にした動画「AIは間違う以上に確信を増やしている」をベースにしているので、それを見るもあり。とてもよくできている。ちょっと長いけど、論文自体に関しては前半3分の1でOK。

これは、AIによる「整ったストーリー」が、・ヒトから「わからない（無知の知）」を消し去り・「自信満々の誤答」を増やし・「学習機会や意欲」を奪うとうお話。

行われた実験はある意味シンプルで、Marcocciaらは延べ5回の実験（N=3132）で、被験者たちに「映画問題6問への回答（わからない、もあり）」を迫った。
問題は例えば、Q5：アニメ映画『モモ』で亀は何色か？といったもの。映画オタクも真っ青の難問である。

被験者たちはランダムに2分されていた。
A：自分だけで考える、B：生成AIにアクセス可能。

さて、これで回答はどうなったか。
まず、生成AIを使えるBでは「わからない」が劇的に減った。
・A：わからないが44％
・B：わからないが 6％

この実験では、意図的に「生成AIでも正解出来なさそうな難問」にしてある。しかし生成AIは滅多に「わからない」とは言わない。なんらかの情報を元に、それらしいストーリーをつくり、回答を示す。それをヒトは容易に信じる。
そしてヒトから「わからない」という「判断の保留」をなくす。ソクラテスがヒトの知恵の根幹とみなした「無知の知」を奪ってしまうのだ。

そして、なんとBの「正答率」は3分の1に下がった。
・A：正答率は27.5％
・B：正答率は 9.2％

もともと（Aのように）生成AIなしで3割のヒトが正解を知っていたなら、生成AIはBにおいて（わからないを減らしただけでなく）「誤答への誘導」を大いに果たしたことになる。なんとまあ。

たださらに恐ろしいのは、この回答への「確信度」だ。回答者へ「回答への自信」を0～100で尋ねたら、
・A：平均値が29.6
・B：平均値が75.9
となった。

論文の図表から読み取ってみると、生成AIを使わなかったA群では25％が「60以上の自信あり」と答え、3割が正答した。しかし生成AIを使ったB群では、約7割が「60以上の自信あり」と答えたにもかかわらず、正答率はたったの9％だった。

回答者にもうちょっと慎重になってもらおうと、「正解なら0.1ドル、不正解ならマイナス0.1ドル、わからないなら0」という金銭的インセンティブ（不正解への罰）を与えてみたが、それではこれらの結果はほとんど変わらなかった。「生成AIの出した回答への過度の信頼」は崩れなかったのだ。

結論
・生成AIなしでヒトは「正解 3割弱、不正解 3割弱、わからない 4割強」に分かれた。答えへの自信60以上も3割だった。「結局間違えた、自信なかった 3割弱」「わからない、とちゃんと答えた 4割強」はその次の学習ステップ「調べよう」につながる。
・ところが生成AIに相談するとヒトは「正解 9％、不正解 85％、わからない 6％」に転化する。正解が3分の2がAIの不正解に上書きされ、わからないが7分の1に激減する。答えへの自信60以上が 7割もいたのに…。これでは次の学習につながらない。

論文の考察では、
・ヒトは一般的に独立した判断を持ち、外部の助言にあまり従わない
・しかし生成AIの「流暢な」助言が、ヒトの「わからない（判断保留）」を奪い、根拠なき「確信」を膨らませ、「正確さ」を下げる
などが述べられる。

冒頭の動画では後半、この生成AIの危険さの本質が解説されていく。
・生成AIは、まず答えをつくってからその理由をつくりだす。論拠を探し、出典としてつける。でもその中身までは（突っ込まれない限り）確かめない
・でもその「流暢な」答えと理由を見たヒトは、納得感だけは生まれる。そこから「空欄（わからない）」がなく、は疑問も新しい問いも学びも生まれない。
・組織はいま、速度と見かけの完成度だけを求めている。自信ある話し手を評価し、わからないことをちゃんと確認するヒトを評価しない。そのためにヒトは生成AIにますます「答え」や「強い物語」を求めるようになる。
・「わからない」を守るために、3つのことをやろう。 ①初期の判断記録：AIを使う前にどう考えたか、確信度、どこから推測か、要確認点などを記録する ②AIには確認や反証、一次資料を求める：「この考えの論理構造はどうか」「間違っている点は？」「反対の結論になる情報はあるか」「根拠の一次情報を確認して」。 ③問いを拡げる：AIに「他の可能性はないか」「この他に選択肢を挙げて」を投げるもあり
・ヒトの価値は、「わからない」を拡げる、明確にする、守ること、そしてどう「わかる」に変えていくかを考えることにある

「どんどん賢くなる」生成AIとともに、ヒトはどこまで「ゴロゴロ落ちて」いくのか。

それを止めるには、「わからない」と言える強さと、それを支える能力が必要だ。
AIを使いこなすことは難しくない。でもそれに巻き込まれないこと、そのための発見・探究力を鍛えることこそが重要なのだ。

最近、動画（YouTube）で「企業モノ」「AIモノ」を良く見ている。そして（一部の）企業モノの出来が妙に良くなっていると感じる。ちゃんと構成が出来ているし、史実やデータに基づいた表現をしている。ゆっくりさんによる掛け合いも定番の安定感。

昨日はたまたま「ヨドバシカメラ」のを見た。動画のタイトルは「顧客満足度11年連続1位…ヨドバシカメラの最強戦略【ゆっくり解説】」サムネには「Amazonに勝った家電店」とある。



確かにヨドバシ･ドット･コムは、EC（eCommerce：ネット販売）では12年連続 顧客満足度No.1なのだ。講義や研修でもたまに取り上げることがある事例なので、ちょっと見てみた。
なかなか勉強になった。

冒頭で「ヨドバシは実は西新宿の昔の地名」と知ってビックリ。てっきり大阪かと思っていた。後半の配送の話でも、「送料は一個から。全部無料」は「ひとりの客が一生で使う金額を見る」という創業者 藤沢昭和（てるかず）の経営思想から来ているとか。LTV（Life Time Value：顧客生涯価値）というコンセプトを独自につくり出していたんだね。

さてここからが本論。
10:00辺りで「駅前巨大店は町の真ん中の倉庫でもある」「都市部で配送が速いのは、一番近い駅前巨大店から届けられるから」と言っている。「郊外の倉庫から運ぶより断然近いわね」の合いの手も入る。
違和感があった。これはおかしい。
ヨドバシの駅前巨大店はとんでもなく土地代の高いところに存在するから、そもそも倉庫機能や配送機能は持てないし持っていない。それを代行するのがYACという巨大物流センターであり南関東では川崎と千葉に（だけ）ある。ECもこれを使っての配送だ。ヨドバシのECは、実店舗によるYACからの直送を共有しているからこそ、競争力がある。
ECにおいて「実店舗からの配送」をやってたのはヤマダ電機で、それも郊外型店舗でのはずだけどなあ…

でももしかしたら、最近変えたのかもしれない。と思ってClaude（Opus4.8）に尋ねてみた。
「ヨドバシカメラの通販の配送は店舗から来ているのか？基本は配送センターからのはずだが」
そしたらあっさり、「駅前の大型店舗は販売場所であると同時に物流デポ（中継拠点）を兼ねる設計になっています。出所はJBpressのこの記事」等と返してきた。

おいおい、YouTube動画と同じ答えかね。もうちょっと突っ込んでみた。
「ヨドバシの旗艦店は駅前立地であり、在庫機能もなく配送拠点としては不適と感じる。具体的にどういう風に使っているのか？」
そしたら「which is a fair point I should investigate more carefully.」とか呟きながら、しばらくして「ご指摘はかなり正確で…「店舗が物流デポ」という一般的な説明は、やや盛った比喩です。実態は、駅前店は在庫引き当てプールの末端ノード＋受取窓口であって、出荷の主役はあくまで川崎の巨大センターと都市部のDC/TC網」と。

「やや盛った比喩」ってなんだそれ（笑）。比喩になってないよ。それと盛るなよ。ちゃんと「間違いだった」となぜ言わない？

ということでClaude Opus4.8と反省会。

私「ブログひとつや記事ひとつで判断することのないように。それではOpus の価値がない」
Claude「反省点は明確です。一次情報（ヨドバシ自身の発表、社長インタビュー、物流専門誌の取材記事）と、それを二次加工した解説ブログを同列に扱ったこと。しかも「店舗を物流デポとして活用」という、いかにも綺麗な戦略ストーリーになる主張ほど、二次記事では実態から離れて盛られやすい。そこを疑わずに引用したのが失敗でした。」
「さらに悪いのは、あなたが「駅前立地に在庫機能はない、配送拠点として不適」と指摘した時点で、それが実務感覚として筋が通っていることは明らかだったのに、一度目の回答では自分の出した記述と突き合わせて検証せず、二度目の検索で裏が取れて初めて修正したことです。」
「順序が逆でした。今後は、断定する前に主張の出所の階層を分けて示します。一次で確認できたこと、複数の独立した情報源で一致していること、一つの二次記事にしかない話、を区別して書きます。後者は書かないか、「この記事はこう言っているが裏が取れていない」と明示します。」

そう、わからないことはわからないとちゃんと言わないとダメだよ。それらしい話で流すと大失敗する。

私「ではもう一度、回答を再構成してみて」
Claude「決定的な発見がありました。あの記事が脚注「*1」でImpress Watchの藤沢社長インタビューを挙げ、「店舗を在庫拠点として活用するエリア拡大の構造を確認」と書いていた件ですが、実際に当該記事を全文取得したところ、藤沢社長は店舗を在庫拠点として使うという話を一言もしていません。出典の捏造です」

そんなとこだろうと思ったよ。多分、その記事そのものが生成AIで書かれたものなのだろう。だって出典を読まないなんて、ヒトとしては変だよね。
出典付きAI記事に、生成AIが騙され、そこに人が巻き込まれて転げ落ちる、という雪だるま構造だな、こりゃ。
ゴロゴロゴロゴロ。
「どんどん賢くなる」生成AIとともに、ヒトはどこまで「ゴロゴロ落ちて」いくのか。

ここで一旦この論考は、終了。
この話、まだ続くんだよ。次は最新のAI系論文から。