Skip to main content
類別: 效應
類型: 強化物出現在次數不固定的反應之後,這些次數圍繞一個寫明的平均數。固定次數、等待時間、每一次都有固定機率,是旁邊的安排
來源: C. B. Ferster 與 B. F. Skinner,《Schedules of Reinforcement》(Appleton-Century-Crofts,紐約,1957),可變比率那一章。此處的賭博句子來自 B. F. Skinner 基金會摘錄的《Cumulative Record》(第138頁)、《About Behaviorism》(第67頁)和《Science and Human Behavior》(第104頁)。這三本書沒有重讀
別名: 可變比率程序。間歇強化是並不每次都給回報的那一類程序的總稱,不是本頁的第二個題名
快速回答 — 間歇性強化效應(Variable Ratio Reinforcement)是指,強化物出現在次數不固定的反應之後,次數圍繞一個寫明的平均數變動。Ferster 與 Skinner 在1957年寫明了這個程序,實驗大多是鴿子啄鍵。固定次數往往在得手後留下停頓。2018年的盲盒式戰利品箱調查把花費檔和問題賭博的等級連在一起,並沒有說明相關朝哪一邊走。

什麼是間歇性強化效應?

間歇性強化效應在本頁是指一種程序:強化物出現在次數不固定的反應之後,這個次數圍繞一個寫明的平均數變動。
強化取決於一定的平均反應次數,但各次的數目可以大致隨機地變動。
這句話是 B. F. Skinner 的,見於 B. F. Skinner 基金會對《Cumulative Record》第10章第138頁的摘錄。原書沒有重讀。強化物是跟在行為後面、並讓這種行為以後更可能出現的事件。被計數的是距上一次強化物的反應次數,不是鐘面上的分鐘。1957年那本書裡的 VR 100 標出的是平均數。它並不保證第一百次反應才會得到回報。 每一次都有獎,是另一種程序。一次獎都沒有,也是另一種情況。獎還在每次到達時,反應會被維持住。較快的下降出現在獎停止之後。控制錯覺是:機會任務上一旦放了技巧線索,人估計的成功率會高過客觀機會。夾娃娃機可以加上這種線索。本頁計的是變動的嘗試次數。

間歇性強化效應的三層理解

  • 入門: 下一次獎取決於嘗試了多少次,而這個次數會變。先寫下那一次嘗試,再決定心情、等待或“差一點”是不是同一件事。
  • 實踐: 寫三行。回報跟的是反應次數,還是一段等待?平均數有沒有寫明?回報停止後,接下來的嘗試會怎樣?只有第一行是這個程序。
  • 進階: 平均數相同的時候,固定次數和變動次數可以有相近的總反應率,得手後的停頓仍然不同。盲盒花費上的相關,沒有指定因果方向。

起源

間歇性強化效應的程序寫在 C. B. Ferster 與 B. F. Skinner 的《Schedules of Reinforcement》裡,1957年由紐約的 Appleton-Century-Crofts 出版。扉頁上 Ferster 在印第安納大學醫學中心,Skinner 在哈佛。致謝寫明,大部分工作是在與哈佛簽訂的海軍研究辦公室合同 N5ori-07631 和 N5ori-07656 下完成的,時間從1949年9月1日到1955年6月30日。實驗大多是鴿子啄鍵。後來的印本並沒有為可變比率那一章共用一個頁碼,所以本頁不印頁碼。 這本書用兩個選擇給程序分類。強化物可以取決於上一次強化以來的反應次數,也可以取決於上一次強化以來的時間。要求可以固定,也可以變動。這樣就有四種基本程序:固定比率、可變比率、固定時距、可變時距。固定比率裡,湊滿設定次數的那一次反應得到強化。FR 100 就是上一次強化之後的第一百次反應。可變比率與此相似,只是書裡把強化安排成一系列比率,有一個寫明的平均數,並落在任意設定的上下界之間。平均數用一個數字寫出,例如 VR 100。 Skinner 後來的句子把賭博裝置說成這個程序。同一則《Cumulative Record》摘錄說,這個程序是一切賭博裝置和賭法的核心;所謂確診的或病理性的賭徒表現了它的結果:相對輕微的淨強化,引出很高的活動率。那是他的舉例。它不是賭徒人數,也不是一臺機器的返還率。基金會對《About Behaviorism》第67頁的摘錄說,一切賭博系統都建立在可變比率程序上,雖然人們通常把效果歸到感受。摘錄隨後用省略號跳過一段,本頁不補這段空缺,然後是第二句:同一種程序也作用在探索、勘探、發明、做科學研究,以及創作藝術、音樂或文學的人身上;在這些領域,高水準的活動通常被說成投入,而不是被說成強迫。基金會對《Science and Human Behavior》第104頁的摘錄說,長期的淨賺或淨虧,對於說明這個程序為何有效幾乎無關。摘錄用方括號把這個程序標成可變比率。方括號屬於摘錄,1953年的原書沒有重讀。 更早、而且程序不同的一項工作,是 Lloyd G. Humphreys,《Journal of Experimental Psychology》25卷2期,1939年8月,第141–158頁。讀過的是摘要,文章本身沒有重讀。66名大學生對一道光形成條件反應,光後面跟著吹向角膜的一股氣。一組在96次試驗裡每次都有氣。一組在96次試驗裡一半有氣。一組在48次試驗裡每次都有氣,並插入48段休息,休息的位置對應一半有氣那一組裡沒有氣的試驗。然後每組做24次消退試驗:只有光,沒有氣。摘要報告,獲得階段的頻率和幅度沒有差別;在這24次消退試驗上,一半有氣的那一組反應水準顯著更高。摘要沒有印出 p 值,也沒有印出各格的均值。這是光和氣,按試驗的比例出現。它不是鴿子去完成一張寫好的比率表。

核心要點

四種讀法把計數器、停頓、消退程序和花費調查分開。驚訝的心情本身不是一種程序。
1

數的是距上次強化的反應

1957年的程序,在一系列有平均數的比率之後給予強化。VR 100 標出的是這個平均數,不是下一次。如果計時器讓下一次回報在一段變動的等待之後到期,那是可變時距。把安靜的一段時間等過去,可以讓這種時距回報到期。等待完不成一個比率。通知若是隨著時間到來,在有人寫下檢視次數之前,它屬於計時器這一邊。
2

看固定次數得手後的停頓

猶他州立大學的 Edward K. Crossman、Elliott J. Bonem 與 Brady J. Phelps 比較了鴿子的固定比率、可變比率和隨機比率。《Journal of the Experimental Analysis of Behavior》48卷3期,1987年11月,第395–406頁。讀過的是摘要,文中的表沒有重讀。每一種類型內部,比率大小不規則地經過5、10、40和80。總反應率,也就是強化後停頓加上進行中的反應率,在這些大小上並不因類型而不同。強化後的停頓在固定比率上相對更長。他們把比率的大小讀成總反應率的控制因素,把比率的類型讀成停頓的控制因素。Skinner 在《Cumulative Record》第137頁的摘錄裡,把固定比率稱為計件。他描述賭博時的那種高進行速率,挨著這個停頓結果。它不是第二張總反應率的表。
3

把部分強化後的消退留在原程序裡

Humphreys 那一組一半有氣的人,在24次消退試驗上的反應水準高於每次都有氣的組。獲得階段沒有差別。流行的說法認為,每次都有回報人就會放棄。這個說法把仍在給付的階段和停止給付混在了一起。給付還在繼續時,每一次反應都有強化物,反應會被維持。較快的下降,是摘要所報告的、強化物撤掉之後的情形。賭徒謬誤是相信一次不中會讓下一次更該中。有平均數的系列仍然允許一長串不中。信念和程序,是對同一段乾旱的兩種讀法。
4

把花費等級留在按鍵之外

調查可以顯示,問題賭博等級更高的人,報告的戰利品箱花費檔也更高。這個等級不是一張寫好的比率表,也不是一條消退曲線。賭場資金效應是:一筆收益之後,人更願意接受自己本來會拒絕的賭局。先前的贏,不是到下一次強化物的平均反應次數。

應用場景

寫下反應、強化物和次數。然後再判斷眼前這份記錄是一種程序、一個調查檔,還是一個故事。

先標計數器,再談計時器

把一個習慣叫成這個效應之前,先寫清數的是什麼。檢視信箱可以是反應。如果訊息是因為時間過去才變得可取,按 Skinner 的劃分,程序在計時器一邊。比率需要的是距上一次強化物的反應次數;若知道平均數,把平均數寫上。

人聽得見時,寫明平均數

一組練習可以每答對一次就確認,也可以在變動的答題次數之後再確認。家裡可以每做完一件家務就致謝,也可以在變動的件數之後再致謝。任務裡的人聽得見時,把平均數說出來。把次數藏起來,好讓對方停不下來,是把對程序的描述變成了壓力。本頁不推薦這種壓力。

把花費檔讀成檔,不讀成金額

下面2018年的均值,是每月戰利品箱花費的類別代碼,從從未購買到超過300美元。6.47不是6.47美元。它不是一家店的一週,也不是一張盲盒小票。付了錢、內容又隨機的盒子,形狀上就是調查裡的那個對象。這個代碼仍然不給出平均比率。

把差一點和次數拆開

夾娃娃機可以按變動的付費次數出獎,同時給出“差一點”,或一次看起來像技術的抓取。差一點是額外線索。沉沒成本謬誤是因為已經花掉的部分而留下。下一次不可預計的獎是另一種繼續的理由。兩者都在,就兩條都寫。哪一條都不是對一段關係的診斷。

經典案例

被計數的案例是 David Zendle 與 Paul Cairns,《PLOS ONE》13卷11期,2018年11月21日,文章編號 e0206767。Zendle 在約克聖約翰大學電腦科學系。Cairns 在約克大學電腦科學系。他們問的是:花在戰利品箱上的錢,是否與問題賭博的嚴重程度排在一起。他們論文裡的戰利品箱,是可以用真錢購買、內容隨機的虛擬物品。 調查在網上進行,只有英文,沒有報酬,年齡限於18歲及以上。招募用了 Reddit 遊戲版塊上的29個連結。邀請說明,研究關心戰利品箱和賭博之間的聯絡,沒買過也可以參加。他們收到14,182份回答。去掉3,173份沒有年齡的、872份年齡寫成18歲以下的、2份年齡超過120的、2份月賭博花費超過1,000,000美元的、9份賭博花費為負數的,以及2,702份不完整的。分析集是7,422人。其中5,793人(78%)買過戰利品箱,1,629人沒有。與此分開,6,441人(87%)曾用真錢買過其他遊戲內物品,981人沒有。 嚴重程度用的是問題賭博嚴重指數:針對過去12個月的九個問題,每題0到3分,總分0到27。Zendle 與 Cairns 使用的分段是0、1到4、5到7、8及以上,並分別稱為無問題、低風險、中等風險和問題賭博。他們引用的計分論文沒有重讀。戰利品箱花費先問有沒有買過。買過的人再回答論文中的原話:大約每個月在戰利品箱上花多少美元。選項從不到1美元到超過300美元,共13檔。從未購買記為0。問題沒有印出日期範圍。下面的均值是類別代碼的均值。論文自己這樣說。 對戰利品箱花費做 Kruskal-Wallis 檢驗,χ²(3) = 284.255,p < 0.001,η² = 0.054。類別均值是:無問題 2.41,低風險 3.67,中等風險 4.96,問題賭博 6.47。論文把 2.41 放在1–5美元和5–10美元兩檔之間,把 3.67 放在5–10美元和10–15美元之間,把 4.96 放在10–15美元和15–20美元之間,把 6.47 放在20–30美元和30–40美元之間。對其他微交易花費做同一個檢驗,χ²(3) = 38.622,p < 0.001,η² = 0.004。作者說,嚴重程度每上一個檔,戰利品箱花費就更高。兩兩比較用的 Bonferroni 閾值是0.008。那六格不在本頁重印。他們還說,無問題檔和問題檔之間,其他花費的差距是 d = 0.046,比同樣兩檔之間的戰利品箱差距小五倍以上。那一對的戰利品箱 d 沒有印在本頁。 教訓是這個 Reddit 樣本裡的一條分級花費代碼。嚴重程度更高的人,報告的戰利品箱類別更高,而且這條坡度陡於其他遊戲內購買。Zendle 與 Cairns 寫明,這個設計看不出是購買箱子把人引向問題賭博,還是已經以有害方式賭博的人在箱子上花得更多。沒有人編排比率。6.47不是到一次獎為止的嘗試次數。

邊界與失效場景

三種複述會把間歇性強化效應用錯。每一種驚喜都叫比率。平均數相同時,固定次數被說成總反應率更低。一份調查、一臺夾娃娃機,或一段捉摸不定的關係,被當成實驗室裡最令人上癮的機制的證據。 第一道邊界是程序本身。Humphreys 變動的是有氣的試驗比例。他沒有列出圍繞平均數的比率。摘要裡更高的消退水準,是那些學生在24次試驗上的眨眼反應。它不是課堂測驗,不是家務表,也不是一段關係。Crossman 的摘要在比率大小為5、10、40和80時,沒有發現固定、可變和隨機三種比率的總反應率差異。他們報告的差異,是固定比率上更長的強化後停頓。在那項比較裡,隨機比率是單獨的一類。每一次嘗試都有固定機率,例如一個盒子以設定機率開出稀有物品,更接近這種隨機比率,而不是一張預先寫好、帶有平均數和上下界的表。Ferster 與 Skinner 的可變比率是那張表。用一個名字叫這兩種安排,會把停頓結果藏起來。停頓把固定次數和另外兩種分開了。 第二道邊界是作為編碼對象的戰利品箱,以及作為收據的戰利品箱。Aaron Drummond 與 James D. Sauer,《Nature Human Behaviour》第2卷,2018年8月,第530–532頁,沒有重讀。Zendle 與 Cairns 引用了他們的結論:戰利品箱系統在鼓勵並維持參與的方式上,與賭博有結構和心理上的相似。Drummond 與 Sauer 自己的說明,寫在2018年6月28日的《The Conversation》和他們的議會書面證據裡:他們檢視了2016年和2017年出版的22款主機與電腦遊戲。其中10款,他們也寫成45%,滿足他們所使用的 Mark Griffiths 的全部五條標準:金錢或有價值的東西轉手,未知的未來事件決定這次交換,機會參與其中,不參加就能避免損失,贏家的所得以輸家的所失為代價。第五條他們按隨後對局裡的競爭優勢來判斷,並把稀缺外觀的主觀價值放在一邊。按他們的規則,一個純外觀的盒子可以通不過第五條,而在他們的說明裡,貴重物品仍然可以在變動的次數上出現。他們把這種變動的次數稱為可變比率程序。他們舉的10%的例子,平均每十個箱子成功一次、確切次數會變,是一個說明。它不是某一款有名字的遊戲的掉落率。10/22是編碼計數。它不是 η² = 0.054,也不是反應率。 第三道邊界,是把程序用在看不見平均數的人身上。一堂課或一個家庭可以把平均數說出來,這仍然可以是這個程序。把平均數藏起來,好讓學生、員工或伴侶繼續下去,是把程序用作壓力。本頁沒有任何研究去數一段關係裡的親近和冷淡,並對照一個平均比率。留下並不是那個次數。離開也不需要先給程序起名。過度理由效應是:一件人本來就會做的事,若事先答應用獎勵來交換,事後的自由選擇會下降。習得性無助是:在人改變不了的結果之後,後來的行動下降。這兩行都不是到下一次強化物的變動次數。 Zendle 與 Cairns 的一則更正,《PLOS ONE》,2019年3月14日,文章編號 e0214167,刪掉了結論裡的一句話。那句話說,無問題與問題賭博的劃分解釋了戰利品箱花費變異數的37.7%。他們說,這句話指的是預印本裡的一種參數檢驗,發表稿沒有使用。這個百分比不是本頁的結果。發表稿上的 η²,0.054 和 0.004,仍然保留。樣本知道題目,從 Reddit 招募,用英文作答。嚴重程度的時段是12個月。花費問題寫的是“每個月”,沒有印出日期。這兩段不是同一個時段。

常見誤區

三種說法跟著這個名字一起流傳。一種說,穩定的回報會讓人放棄。一種把每一種驚喜都叫成比率。一種把花費上的相關,或一段捉摸不定的關係,讀成最令人上癮的機制已經得到證明。
每一次反應都有強化物,只要它還在到達,反應就會被維持。Humphreys 的摘要發現,每次都有氣和一半有氣,在獲得階段沒有差別。更高的水準出現在消退裡:訓練時只有一半有氣的人,在隨後24次沒有氣的試驗上更高。給付的階段和停止的階段是兩段。每次做完家務都得到一聲謝謝,這時還沒有進入消退。
Skinner 的劃分是計數器或計時器。下一次回報要等一段變動的時間才到期,那是可變時距。變動的是反應次數,那才是可變比率。每一次都有固定機率,是 Crossman 那項比較裡的隨機比率鄰居。在那篇摘要的大小上,總反應率並不按類型分開。更長的停頓落在固定次數上。一個隨時間更新的資訊流,還沒有被寫成比率。
2018年的類別均值隨嚴重程度的檔上升,作者拒絕指定方向。一則更正刪掉了37.7%那句話。Drummond 與 Sauer 的10/22,是滿足五條標準的遊戲數量,不是遊戲率。每個箱子裡都有一件物品,與稀有物品出現在變動次數上,可以同時成立。Zendle 與 Cairns 引用了 ESRB 的比較:戰利品箱更像棒球卡,其中有驚喜,而且你總會得到一點東西。這句話不是一個比率。本頁沒有任何一段關係有被數過的平均數。

相關概念

間歇性強化效應旁邊,是機會任務上的技巧線索、關於下一次不中的信念、事先答應的獎勵、先前的一筆收益、已經花掉的錢,以及在改變不了的結果之後出現的行動下降。

控制錯覺

機會任務上放了技巧線索之後,估計的成功率高過客觀機會。一次看起來像技術的抓取是那條線索。變動的次數是另一行。

賭徒謬誤

相信一次不中會讓下一次更該中。有平均數的系列仍然允許一長串不中。

過度理由效應

一件人本來就會選的活動,事先答應給獎勵之後,後來的自由選擇下降。那一行不是變動的次數。

賭場資金效應

一筆收益之後更願意接受賭局。收益是先前的。它不是到下一次強化物的平均反應次數。

沉沒成本謬誤

因為已經花掉的部分而留下。下一次不可預計的獎是另一種繼續的理由。

習得性無助

在人改變不了的結果之後,後來的行動下降。到強化物為止的變動次數是另一個方向。

一句話總結

把一個習慣叫成間歇性強化效應之前,先寫下反應、強化物和變動的次數,不要把盲盒花費的類別均值讀成次數導致了花費的證據。