跳轉到主要內容
類別: 效應
類型: 高估自己對因果機制的理解,一要求寫出來就露餡
來源: Leonid Rozenblit 與 Frank Keil,《The misunderstood limits of folk science: an illusion of explanatory depth》,《Cognitive Science》26 卷,2002 年,第 521–562 頁,DOI 10.1207/s15516709cog2605_1。收稿日期 2001 年 8 月 20 日,修回 2002 年 4 月 26 日,接受 2002 年 5 月 3 日。該 PDF 已讀
別名: 該文中的 IOED。它不是把過度自信效應收成一個總分,也不是 Dunning-Kruger Effect
快速回答 — 解釋深度錯覺(Illusion of Explanatory Depth)是人以為自己把一套因果機制理解得很深,真要解釋時卻寫不出來的落差。Rozenblit 與 Keil 於 2002 年在耶魯給它命名。參與者寫下熟悉裝置如何運作之後,自評下降。程序和電影情節沒有出現同樣的下降,國家首都這類事實的下降更小。

什麼是解釋深度錯覺?

解釋深度錯覺是這樣一種傾向:人覺得自己對一個複雜因果系統的理解,比自己真正寫得出來的解釋更精確、更連貫、也更深。
人們覺得自己對複雜現象的理解,遠比實際更精確、更連貫、也更深;他們處於一種錯覺之中,即解釋深度錯覺。
這句話是 Rozenblit 與 Keil(2002)摘要的開頭,此處按原文譯出。他們測量的是解釋性知識:一件東西如何一步一步、一個原因接一個原因地運作。這不是在說人不會使用它。人可以每天沖馬桶,對機制卻只有一張草圖。草圖在必須把步驟寫下來之前,感覺就像一份完整說明。 一個可用的圖像是折著的地圖。從外面看,一疊很厚,你會以為街道都畫好了。打開之後,大塊是空白,只標了幾條路。熟悉、幾個零件名字,以及腦子裡會動的畫面,提供了那一疊的厚度。空白要等到你給人指路時才出現。 作者把它和「對自己能力的籠統吹噓」分開。他們把 Kruger 與 Dunning(1999)引為「把自己的能力和別人比」的過度自信,並論證深度錯覺是另一件事,因為它的大小取決於知識的結構。Dunning-Kruger Effect講的是那種能力比較。本頁不把兩個名字當成別名。知識的詛咒是另一個近親:難以放下自己已經知道的事實。這裡的困難是,沒有察覺自己手裡的機制有多薄。

解釋深度錯覺的三層理解

  • 入門: 留意熟悉物件忽然顯得「我懂」的那一刻:拉鍊、馬桶、彩虹。把下一步因果說出來。卡住的地方才是尺度,感覺不是。
  • 實踐: 在設計評審、講課或家裡動手修之前,按順序寫下機制。在第一個接不下去的環節停下。那個環節,本來會靠物件本身、靠一個標籤,或靠不在房間裡的人補上。
  • 進階: 2002 年論文在物品層面最強的線索,不是「這個裝置很複雜」。在 40 件裝置上,看得見的零件與藏著的零件之比,預測了下降有多大。能在腦子裡畫出的機制,更容易被誤當成已經記住的機制。熟悉程度和評定的複雜度則沒有。

起源

Leonid Rozenblit 與 Frank Keil 當時在耶魯大學心理學系,十二項研究於 2002 年發表在《Cognitive Science》。標題裡的說法是他們的。文中的縮寫是 IOED。 裝置研究的程序是 1 到 7 的五次評分,1 最淺,7 最深。參與者先用兩個例子學會這把尺子:弩,被當作多數成年人講得清的例子;全球定位接收器,被當作多數人講不清的例子。然後他們給 48 個項目打分(時間 1)。接著對少數測試項目寫下逐步的因果解釋,再打分(時間 2)。然後回答一個要害問題,例如如何撬開彈子鎖,或直升機如何從懸停改為向前飛,再打分(時間 3)。讀過一段專家說明後,重新評定自己先前的理解(時間 4)。最後評定讀完之後現在理解得如何(時間 5)。時間 5 是論文用來核對的:人並不是隨著這一小時不斷失去信心。 前幾項研究的八件測試裝置是:速度表、拉鍊、鋼琴鍵、抽水馬桶、彈子鎖、直升機、石英錶、縫紉機。專家文本來自 David Macaulay 的光碟《The Way Things Work 2.0》(Kindersley,1996)。論文把姓寫成了 McCauley。
參與者試圖解釋這些裝置之後,他們對自身知識的估計出現了大而顯著的下降。
這句話來自研究 4 的討論。同一篇論文接著表明,這種下降並不是對一切知識課稅。首都這類事實下降得更少。程序,例如從頭烘焙巧克力豆餅乾,或打領結,沒有下降。參與者看過的電影情節,從第一次評分到寫完情節後再評,沒有下降。自然現象,例如潮汐和彩虹,則以和裝置大體相同的方式下降。

核心要點

四個區分,讓解釋深度錯覺不至於變成「人什麼都不懂」,也不至於變成一個永久的謙遜分數。
1

感覺針對的是機制,不是會用

Rozenblit 與 Keil 把「知道裝置是幹什麼的、知道怎麼操作」和「知道因果鏈」分開。他們點名的第二層混淆是層次:知道變速器改變了傳到輪子上的動力,並不等於知道齒輪如何做到。第三層是名字。知道「硬碟」「CPU」「記憶體」「PCI 匯流排」這些標籤,可以讓人覺得自己知道這些部件如何互相作用。在後來的物品分析裡,一個人叫得出的零件比例,預測的是第一次信心,不是下降的幅度。不要把一份零件清單要麼當成理解的合格證,要麼當成測到的錯覺本身。
2

看得見的東西會被誤存進腦子

作者的環境支持說是:人當著系統的面解釋它,事後把當場讀出來的東西當成自己隨身攜帶的知識。研究 12b 在 40 件裝置上檢驗這一點。每件裝置的過度自信,是時間 1 的平均分減去時間 3 的平均分,取自研究 2 和研究 4 的耶魯本科生。另外 54 名評分者給這些裝置的屬性打分。用看得見與藏著的零件之比做簡單迴歸,調整後 R 方為 .472,p < .001,標準化係數為 .687。再加入其他預測變數,擬合並沒有可靠地變好。作者還報告,熟悉程度和複雜度都沒有預測這次下降。這是對 40 件物品的分析,不是給一個人打的分。
3

原因上的下降大,腳本上則不然

研究 7 到 10 保持「先評分、再產出」的設計,換的是知識種類。52 名本科生評定自己對 48 個國家首都的了解,然後寫出其中 24 個。下降是真的,而且小於裝置:時間與領域的交互,F(1, 147) = 15.471,p < .001,對照的是合併後 97 人的裝置樣本。37 人寫下程序,沒有可靠的下降,F(2, 70) = 1.598,p = .210。39 人寫下自己看過的電影情節,時間 1 與時間 2 沒有可靠差異,與裝置的對照是 F(1, 134) = 6.146,p < .014。31 名耶魯本科生解釋自然現象,下降很大,F(4, 112) = 73.698,p < .001,與裝置沒有可靠差別。效度錯覺是另一種過度自信,說的是一個判斷看上去站得住。它不是這裡的領域分裂。
4

預先警告壓不下第一次評分

研究 6 在任何評分之前告訴 31 名耶魯本科生:他們必須寫下解釋並回答診斷問題。下降仍然可靠,F(4, 116) = 44.11,p < .001。與研究 1 和研究 2 相比,時間與研究的交互顯著,F(3, 234) = 4.119,p = .007。作者說,錯覺變小是因為後來的評分更高,不是因為第一次評分下降。在這項研究裡,被告知「要考試了」並不是開頭那份信心的解藥。

應用場景

下面四步把 2002 年的方法用在一條機制上。它們不是在說:寫一段解釋會改變一次投票、一門課的分數或一張維修帳單。Philip Fernbach、Todd Rogers、Craig Fox 與 Steven Sloman 2013 年發表在《Psychological Science》24 卷第 6 期、第 939–946 頁的論文,常被引來說明「請人解釋一項政策」。那份 PDF 沒有打開,因此這裡不用它的設計和數字。

評審之前先把鏈寫出來

在設計評審或你即將講的一課之前,按一個原因接著一個原因,寫下系統如何產出結果。在第一個無法說明的環節停下。把那個環節當作問題帶進會場。2002 年的裝置任務是限時做這件事,不是請人列舉裝置好在哪裡。

把會用和講得清分開

在課堂上、學徒期或入職第一個月,請學習者解釋自己已經會操作的機制。拉鍊和馬桶是故意選成熟悉的。會用,正是錯覺出現的場景,不是反證。如果目標是學會,解釋失敗之後接上專家文本。在裝置研究裡,讀完之後的理解評分上升了。

指出家裡看不見的那一步

一家人確信自己懂供暖、管道,或孩子的用藥安排時,問那個不在表面上的步驟:扳下手柄之後發生了什麼,或者怎樣才看得出一次劑量沒有起作用。Rozenblit 與 Keil 的診斷問題就是這一類。看得見的手柄,正是他們後來的分析裡容易和「已經記住的知識」搞混的那種零件。這是一個問題,不是關於家庭的發現。

不要把價值評成機制

在公共場合,把「我出於公平而堅持這一點」和「我能說出槓桿如何產出結果」分開。2002 年的研究沒有檢驗政策。它們確實表明,像電影情節這樣的故事式敘述,沒有產生機制所產生的下降。鏈若卡住,卡住的是機制上的缺口。它不為價值打分,也不為人打分。

經典案例

2002 年,Rozenblit 與 Keil 報告了前兩項裝置研究,以及後來由別人給書面解釋打分的核對。 研究 1 用了耶魯若干學系的十六名研究生。每人給 48 個項目打分,大約十分鐘,然後解釋四件裝置。八人解釋速度表、拉鍊、鋼琴鍵和抽水馬桶。八人解釋彈子鎖、直升機、石英錶和縫紉機。幾乎所有人在必須解釋、回答診斷問題、並把自己的說明與專家文本對照之後,都降低了估計。對五次評分的重複測量檢驗給出 F(4, 56) = 16.195,p < .001,eta 方 = .536。時間 1 對時間 2、時間 3、時間 4 的計畫比較,各自在 p < .002 上顯著。時間 2 與時間 3、時間 2 與時間 4 沒有可靠差異。專家文本之後,時間 5 上升:它與時間 4、3、2 的比較各自在 p < .003 上顯著。這次上升是論文的證據:人並不是在一條越來越沒信心的滑坡上。事後訪談裡,許多人說自己感到意外。有幾人堅持,換另一組項目自己會好得多。兩組總體並無差異。 研究 2 用 33 名耶魯本科生重複了程序。時間效應再次顯著,F(4, 124) = 38.9,p < .001。與研究 1 的時間乘研究交互不顯著,F(4, 188) = .462。作者說,方向上本科生的錯覺如果有差別,是略強一些,而這一差別並不顯著。 研究 5 問的是:下降到底是更準了,還是僅僅更謹慎了。十二名與研究 2 同一來源的耶魯本科生,為全部 33 份書面解釋打分,讀專家文本之前一次,之後一次。這些獨立評分顯著低於寫作者本人在時間 1 和時間 2 的評分,兩處都是 p < .001,並且與寫作者在時間 3 和時間 4 的評分沒有顯著差別。相關與較晚的自評排得更齊,而不是與第一次。論文的讀法是:人變得更校準了,不是僅僅更不願意顯得有把握。 教訓在於這次校準的形狀。熟悉裝置的第一次評分,發生在任何解釋之前,既高於寫作者後來的評分,也高於陌生人對這段文字的評分。讀過專家說明,並沒有把「先前知識」的第一次評分救回來,卻提高了「讀完之後自己知道多少」的評分。這些 F 檢驗屬於那些耶魯樣本和那些項目。它們不是職場、學校、家庭或另一年的錯誤率。

邊界與失效場景

解釋深度錯覺作為口號,會在三處失效。 第一,它不是知識的普遍屬性。程序沒有下降。電影情節從時間 1 到時間 2 沒有下降。首都的下降小於裝置。把這個名字用在一道冷知識、一份忘掉的菜譜,或一段含糊的電影複述上,就越過了研究 7 到 9。自然現象確實下降了。論文裡「裝置比這些現象下降更大」的趨勢只是邊緣顯著,F(3, 279) = 2.612,p < .07。不要把這個趨勢變成「只有機器才產生錯覺」的規則。 第二,樣本又小又局部,而且有一處對比和「精英更自負」的常見故事相反。研究 3 在一所地區性、非選拔性的州立大學測試了十六名研究生和本科生,刺激與研究 1、研究 2 相同。論文用來表示選拔程度的指標,是數學加語言的 SAT 大約平均 1500(耶魯)對大約 960(該校)。這些數字是論文自己的,不是後來的官方表。時間效應顯著,F(3, 42) = 23.557,p < .001。對照合併後的 49 名耶魯參與者,校園的主效應不顯著,F(1, 63) = .750,p = .390,校園與時間的交互顯著,F(4, 252) = 3.874,p = .005。論文說,交互主要落在後面的步驟,而且地區校園的錯覺更大,主要因為那些學生的第一次評分高出將近一分。「將近一分」是論文對其圖的描述。圖上的均值沒有印在正文裡,所以這裡也不印。不要把這個差距、SAT 的約數,或本頁任何一個 F,外推到一所學校、一個招聘池或另一年。 第三,常見的誤用是把卡住的解釋當成判決。研究 11 問 24 名耶魯本科生:若不得不承認自己不懂,會有多難堪。裝置的難堪最低,過度自信最高。電影情節的難堪最高,時間 1 到時間 2 沒有下降。這個次序不利於「人會吹噓任何顯得有面子的知識」。拉鍊解釋卡住,不是智力的度量,也不是跳過專家文本的理由。時間 5 在那段文本之後上升了。作者也沒有檢驗他們文末的預測:經常做解釋的人,例如教師,錯覺會更小。那句話是預測,不是結果。

常見誤區

三個捷徑,把一次特定的評分下降變成了對人的評判。
天天在用,正是這些刺激的用意。拉鍊、馬桶和手錶被選中,是因為解釋它們不需要專門訓練。參與者寫下步驟之後,評分仍然下降。知道功能,或知道操作它的那一串動作,是作者列出的混淆之一。會操作,說明你能使喚這件裝置。它不是他們證明已經校準的那次評分。
2002 年的論文把 Kruger 與 Dunning(1999)引為相對他人的能力過度自信,把 Fischhoff 一脈引為年鑑題目上的過度自信。然後它論證,深度錯覺是分開的,因為下降隨知識種類而變。程序和敘述沒有出現。事實出現得更小。一個籠統的過度自信效應分數裝不下這個分裂。說錯覺只屬於低技能的人,也裝不下。研究 3 的方向,在十六人的樣本裡,與「自負的是精英」相反,而這個樣本也小到不足以立一條新規則。
研究 6 在第一次評分之前加上了這句警告。第一次評分並沒有下降。下降變小,是因為後來的評分維持得更高。課綱上寫一句「你必須解釋這個」,在這份證據上不能代替解釋本身。研究 5 的獨立評分者,才把下降繫到寫出來的文字上,而不是繫到實驗者面前的謹慎心情上。

相關概念

這六頁挨著解釋深度錯覺。每一頁都是另一種錯。

過度自信效應

一大類發現:信心跑在命中率前面。2002 年的論文把解釋深度看作這一類裡的一片,而且在不同知識上大小不同。

Dunning-Kruger Effect

相對別人高估自己的能力,也就是 Kruger 與 Dunning 測量的那種比較。2002 年導言把它當作鄰居,不是這項評分任務。

知識的詛咒

難以放下自己已經知道的事實。解釋深度是相反的失誤:沒有察覺自己以為知道的機制有多薄。

效度錯覺

因為一小撮線索湊在一起,就確信一個判斷站得住。對象不同於一條你還沒寫下來的因果鏈。

谷歌效應

當人預期資訊會留在頭腦之外,就記得更少。這與借來的知識有關,但不是 2002 年那個發現:把看得見的機制誤當成已經儲存的機制。

功能固著

卡在物件的一種熟悉用途上。這是看不見另一種功能,不是講不出通常功能的機制。

一句話總結

在說自己知道它如何運作之前,先把因果步驟寫下來,並把第一個接不上的環節當作錯覺的大小,而不是對人或對目標的判決。