體驗科普 |「順序效應」會影響NPS得分嗎?
認知失調(Cognitive Dissonance)闡述了人的態度變化過程,認為個體對事物的態度和行為間應該是一致的,如果不一致就會產生認知失調,并會導致心里緊張,人就會通過改變認知或行為來重新達到平衡。
為了更深入地了解問卷中的順序效應,我們可以先了解它的一種表現形式——總體-具體順序效應(General-Specific Order Effect),即總體問題(如“你對你生活的總體滿意度如何?”)與具體問題(如“你對你的婚姻/工作滿意度如何?”)之間的先后順序會對題目的相關性和平均得分產生影響。
相關性是指2道題目之間的關聯程度;而平均得分是指該道題目分數的平均值。
2012年,在美國心理學教授塞斯·卡普蘭的研究中,通過在兩組調查中(分別為美國6000名軍人的總體滿意度分析和88位普通職工的工作滿意度分析)將總體問題和具體問題的順序進行調換,他發現,當總體問題排在具體問題的前面時,題目的平均得分較低,但相關性較高。
上述調查的總體問題為“你對你工作的總體滿意度如何”;具體問題為“請給你的工作時長進行滿意度打分”。
而在另一項由市場研究教授Seigyoung Auh負責的研究(針對191名客戶對他們理發師的滿意度調研)中,他們發現,當把詢問總體滿意度的題目放在問卷最前面時,題目的平均得分會更低(約6%)。
但是,如果把具體題目(如“您在多大程度上同意‘我的理發師技藝非常高超’這句話?”)放在總體題目(如“您在多大程度上同意‘總體來說我對我的理發師很滿意’這句話?”)的前面時,總體題目的得分會更高,因為這樣的排序可能會使題目具備更高的相關性。如果調查領域是涉及電腦或者一些昂貴的家用電器,建議先問具體題目,再問總體題目,這樣的話會讓答題者感到更自然流暢。
雖然上述兩項研究得出的結果不盡相同,但都證明了順序效應是確實存在的。
現在,針對“客戶體驗的順序效應”的研究還不是很多,例如哲學教授詹姆斯·劉易斯早前研究了順序效應對可用性態度的影響,但在SUS、UMUX和CSUQ這三類問卷當中并沒有發現明顯的順序效應。
SUS ——系統可用性量表
UMUX ——用戶體驗的可用性指標
CSUQ ——電腦系統可用性問卷
在NPS方面,至少有CX專家Adam Ramshaw的一份研究報告可以證明,相較于在問卷后期提出NPS的相關問題,當NPS問題出現在問卷前期時,分數會更高。但該報告并沒有給出具體數據表明,會造成多大程度的影響。
同時,在包含NPS問題的SUPR-Q問卷中, UX專家赫弗南發現,如果在完成其他7道SUPR-Q題目后,再向受訪者提問NPS的相關問題,最終得到的NPS分數會下降。但目前還不清楚,這種影響是一頁一題的呈現模式導致,還是網絡調查的高流失率引起的。
SUPR-Q問卷,即Standardized Universal Percentile Rank Questionnaire(標準化用戶體驗百分等級問卷),用于評估網站的感知可用性,考察維度包括可用性、可信度、外觀及忠誠度。一般包括以下7道題目:
1.網站使用起來很簡單
2.網站內導航清晰
3.我感覺從該網站上購買東西很放心
4.我有信心從該網站發展自己的業務
5.網站設計非常吸引人
6.網站介紹簡潔明了
7.我未來還會再次登陸這個網站
因此,關于NPS是否會受到順序效應的影響,我們還需要進一步探究:
• 研究1:NPS問題的先后位置會影響其最終得分嗎?
2018年11月,杰夫·索羅博士(以下簡稱博士)對2674名受訪者進行了在線調查。博士先讓受訪者回想最近推薦過的產品或服務,接著又詢問了他們向朋友或同事推薦這一產品或服務的可能性有多大。下面,我們將這類與“推薦可能性”相關的問題統稱為NPS問題。
博士將NPS問題出現的位置設置為研究的自變量,出現的位置分別在問卷的前期(在40道題目之后)或后期(在72道題目之后)。為此,博士創建了多組問卷,每批受訪者將交替看到在不同位置出現的NPS問題。
結果發現,調整NPS問題出現的先后位置并不會產生順序效應:
1. 通過計算兩組的NPS平均得分,得出兩組的分數分別為8.8和8.9,兩組之間僅有0.1分的差異,且無統計學意義(P=9)。
P值代表概率,反映某一事件發生的可能性大小。統計學根據顯著性檢驗方法得到P值,P值越小,統計學差異越顯著,一般認為P<0.05 有統計學差異。
2. 在統計受訪者每個選項得分的數據時,各個選項的NPS得分的百分比也非常接近(如下圖所示),這表明其他選項的得分也沒有受到影響。
圖:兩組的NPS選項得分統計表
圖:各公司的NPS得分統計表
• 研究2:在SUPR-Q問卷中,NPS問題的先后位置會影響其得分嗎?
在另一研究中,博士探究了SUPR-Q問卷中NPS問題的先后位置對其分數的影響。
研究收集了501名受訪者的數據(2018年10-11月),受訪者被要求先在6個財經網頁和6個餐飲網頁中隨機瀏覽一個,然后完成7道SUPR-Q類型的問題和1道NPS問題。
8道問題會同時出現在同一頁面上(如下圖),但在12個網站中,接近一半的受訪者看到的題目順序會被調換。也就是說,有一半的受訪者看到NPS問題出現在問卷的前面,另一半的受訪者會看到NPS問題出現在問卷的后面。
該圖片由體驗家XMPlus翻譯
• NPS問題的順序對相關性的影響
在某些情況下,研究人員希望從SUPR-Q題目中預測用戶的NPS得分(例如從網站的可用性和可信性分數來預測NPS得分),以此來觀察相關性是否會因為問卷題目的不同呈現順序而產生不同的影響。在這次研究中,博士得出了一個新發現:
當NPS問題在問卷的前面(開頭的位置)時,比它跟在7道SUPR-Q題目的后面具有更高的相關性。數據顯示,在5道題目中,當NPS問題在其余4道題目的前面時,調整后的R方為40.2%;而如果NPS問題跟在其余4道題目的后面,調整后的R方就下降為32.6%。
R方(R-squared)是一種衡量相關性的指標,一般用于回歸模型中來評估預測值和實際值的符合程度。調整后的R方(Adjusted R-squared)同時考慮了樣本量和回歸中自變量的個數的影響,較R方的測算更為準確。調整后的R方越大,表示模型擬合度越好,可解釋程度越高。
這個數據表明,當態度更加寬泛的總體題目首先出現在問卷時,其相關性更高。
在本期文章中,我們回顧了一些問卷中的順序效應的相關文獻,還就杰夫·索羅博士的兩項針對NPS題目順序的在線實驗進行了探討,經過總結,我們發現:
01|NPS得分不受順序效應的影響
在不同的網頁、產品或服務的問卷調查中,無論NPS題目是在問卷的前面還是后面,它們的NPS平均得分以及分數的分布幾乎是相同的。
02|順序效應使相關性存在差異
當NPS題目放在了SUPR-Q題目的前面時,調整后的R方可以增加約7%,即相關性更高。但博士認為,這些SUPR-Q題目并沒有指明具體的屬性(如定價或某項具體功能),態度更加廣泛,因此可以解釋結果的部分差異性。
03|順序效應真實存在,但很難預測
很多研究已經表明,順序效應是真實存在的,但尚未清楚順序效應什么時候會出現、以及會造成多大程度的影響。
04|順序效應受到多因素影響
根據一些已發表的文獻,問卷主題、上下文語境及題目順序的調整都可能產生不同類型的順序效應。
在博士的第一項研究中,第一組將40道題目放在了NPS問題的前面,第二組更是將72道題目放在了NPS問題的前面。這樣一來,順序效應有可能因為題目的數量較多而被削弱影響,又或者是被其他問題所掩蓋,也可能是受訪者對推薦的態度不太容易受到題目順序的影響。
未來在開展順序效應的研究時,需要盡量分離出這些影響,同時也需要更多的研究數據去判斷是否存在這些影響。
參考資料:
1、Does Changing the Order of the NPS Item Affect Results?
2、什么是順序效應(order effect)?
3、順序效應(A+醫學百科 )
4、問卷設計|問題選項的順序效應
5、[科普中國]認知失調理論
6、Net Promoter Score Benchmarks: Don’t Waste Your Time On External Data
7、15 種國際可用性測試經典量表(一)
8、統計學中的“P”值是什么意思
9、R方(R-squared)
10、【回歸分析】R、R平方與調整后的R平方