從保證統計數據質量的統計工作過程看,統計數據質量可以被劃分為統計設計質量、統計調查質量、統計整理質量、統計分析質量以及數據發布傳輸質量等。統計設計質量是保證統計數據質量的首要環節,在統計數據質量保證體系中起著關鍵性作用。統計設計質量一般包括調查問卷設計質量與調查方案設計質量,其中調查問卷設計質量指的是:通過問卷測量得到的,反映調查對象客觀現象的統計數據的準確性和有效性,即調查問卷設計質量的好壞,需要通過問卷測量能力的高低來檢驗。
在市場調查中,為了深入地研究一些本質的或理論性的現象,問卷調查法被廣泛運用,除了調查時采用的抽樣方法以及所抽取的調查對象是否具有代表性之外,調查者最關心的就是調查問卷的測量能力。問卷測量能力包含了兩個方面的內容,即問卷測量結果的準確性和有效性。準確性和有效性是統計數據質量蘊涵的最主要的兩個特性,一個好的調查問卷設計不僅可以保證在多次重復使用下得到可靠的數據結果,即準確性;也可以保證所得測量結果能夠反映它所應該反映的客觀現實,即有效性。
所以我們可以通過對問卷測量能力的分析來檢驗問卷的設計質量,對問卷設計進行質量控制,進而發現問卷設計中應注意的問題。在此基礎上,通過不斷改進問卷設計,提高其測量能力,最終將有助于我們得到高質量的調查數據。
二、調查問卷的設計質量檢驗
信度和效度的概念來源于心理測試中關于測驗的可靠性和有效性研究,當建構和評估測量時,通常使用信度和效度這兩個技術性指標。因此我們采用問卷的信度和效度分析來評估其測量能力,進而實現對問卷設計質量的檢驗。
1.問卷設計質量的信度檢驗
所謂問卷設計質量的信度檢驗,指的是對問卷測量結果準確性的分析,即對設計的問卷在多次重復使用下得到的數據結果的可靠性的檢驗。在實際應用中,信度檢驗多以相關系數表示,常用的方法有:重測信度,復本信度,折半信度,克朗巴哈 信度,評分者信度等。國內外已經有很多關于這些信度分析方法介紹的文獻,在這里,筆者不再一一詳述,僅列出相關公式作為參考。
(1)重測信度,也叫穩定系數,對同一組調查對象采用同一調查問卷進行先后兩次調查,采用檢驗公式 ,其中 為兩次調查結果的協方差,為第一次調查結果的協方差, 為第二次調查結果的協方差。系數值越大說明信度越高。
(2)復本信度,也叫等值系數,對同一組調查對象進行兩種相等或相近的調查,要求兩份問卷的題數、形式、內容及難度和鑒別度等方面都要盡可能的一致。檢驗公式同穩定系數公式,系數越大,說明兩份問卷的信度越高,具體調查時使用哪一份都可以。
(3)折半信度,也叫內在一致性系數,將調查的項目按前后分成兩等份或按奇偶題號分成兩部分,通過計算這兩部分調查結果的相關系數來衡量信度。當假定兩部分調查結果得分的方差相等時,檢驗用Spearman-Brown公式來表示: , 其中 表示折半信度系數;當假定方差不相等時,采用Flanagan 公式: ,其中、 分別表示兩部分調查結果的方差, 表示整個問卷調查結果的方差。如果折半信度很高,則說明這份問卷的各項題之間難度相當,調查結果信度高。
(4)克朗巴哈 信度,是對折半信度的改進,檢驗公式是: ,其中K表示問卷中的題目數, 為第i題的調查結果方差, 為全部調查結果的方差。 信度系數是目前最常用的信度分析法。
(5)評分者信度,包括 信度和 信度,將問卷中的每道題看作是一個變量,然后通過調查的結果得分對所有問題做因子分析。得到 , ,其中 是最大特征值,N是問題數, 是因子分析法的第i個問題的共同度。
2.問卷設計質量的效度檢驗
所謂問卷設計質量的效度檢驗,指的是問卷測量結果有效性的分析,即對設計問卷的測量結果反映它所應該反映的客觀現實的程度的檢驗。具體來說,效度檢驗必須針對其特定的目的功能及適用范圍,從不同的角度收集各方面的資料分別進行。常用的效度檢驗有內容效度、結構效度、難易效度、準則效度等。有關效度分析方法的詳細內容,筆者也不在一一贅述。
(1)內容效度,也叫單項和總和的相關效度分析,指的是調查問卷所采用的題項能否代表所反映的內容或主題。通常是用單個問題的得分與總得分的相關系數來反映,如果相關系數不顯著,表示該題的鑒別力低,就不應該再將該題納入調查問卷。
(2)難易效度,在調查反映觀念、態度的問題中采用檢驗公式:難易效度= ,其中 、 分別代表高分組和低分組樣本數, 、 分別代表高分組和低分組通過該題的樣本數。計算結果越大,表示該題越容易,反之該題難度較大。
(3)鑒別效度,在對觀念、態度問卷單個題的評價中采用公式:鑒別效度=,符號含義同難易效度公式。一般我們總是希望調查問卷的每道題的鑒別效度高一些,這樣可以很好的反映被調查者對問題看法的差異性。
(4)準則效度,又叫獨立標準效度分析。采用的是先根據已經掌握的理論,選擇一個與調查問卷直接相關的獨立標準,把它當作自變量。然后再分析調查結果的特性與該自變量的關系,如果對于自變量的不同取值,調查結果的特性表現出顯著差異與我們掌握的理論有很強的相關性,則說明調查問卷是有效的。
(5)結構效度,該檢驗主要就是將問卷中的每道題看作是一個變量,然后通過調查的結果得分對所有問題做因子分析,提取一些較為顯著的因子,通過各個問題在每個因子上的載荷將問題分類。其目的就是為了檢驗問卷中的屬于相同理論概念的不同問題是否能落在同一因子上,如果能夠做到符合理論,即屬于相同概念的題都歸為同一因子,則說明問卷有著很好的結構效度。
三、問卷設計質量信度、效度檢驗間的關系
如果以X表示測量值,T表示真實值,E表示隨機誤差,則他們之間的關系為X=T+E,測量值總方差 可分解為 ,信度可用真實值的方差占測量值的總方差來表示,即信度= 。如果將T進一步分解為想要測量的目標真值 ,與測量目標無關的系統偏差 ,效度可用想要測量目標真值的方差占測量值總方
差的比重來表示,即效度= 。很明顯, 大并不一定保證也大,也就是說信度高時效度不一定高。反過來,在 一定時,大則保證 也一定大,也即效度高時信度一定高。所以信度檢驗是效度檢驗的必要條件,但不是充分條件。效度檢驗結果的好壞直接決定了整個調查研究的價值,如果設計的問卷不能充分表示所要研究的對象,那么整個研究也就失去了意義。高效度一定隱含著高信度,如果問卷設計是有效的,那么一定是可信的。如果調查問卷有信度而沒有效度,其測量結果則可能并不是理論上想要研究的結論。
四、如何提高調查問卷設計質量
1.問卷設計信度、效度檢驗中的啟示
(1)信度檢驗的啟示
調查對象的范圍與信度的關系。由于信度檢驗采用的是相關系數的形式,因此受調查對象范圍的影響。如果調查對象的特征分布范圍較大,則變異性越大,信度系數就會越小;相反調查對象的特征分布較集中,則變異性較小,信度系數就會越大。
調查問卷設計長度與信度的關系。通常來說,采用折半信度分析方法時,由于同一份問卷不太容易分為等同的兩部分,所以折半信度分析的效果不如采用整體分析的效果,這可以通過Spearman-Brown公式觀察出,整體的信度系數是折半信度系數的兩倍還多。因此如果對于同一目的和同一調查對象所設計的兩份調查問卷,其中一份是在另一份問題的基礎上增加若干道同類型的問題,那么問題多的問卷的信度一定會較高。同時,問卷的信度會隨著問卷同質問題的增多而增大。
調查問卷的設計與信度的關系。由于信度檢驗是在對調查問題答案編碼打分的基礎上進行的,如果調查問卷設計過程中存在偏差,例如正向問題偏多或逆向問題偏多、備選答案易讓被調查者打高分或低分的問題偏多等都有可能造成認為信度分析的偏差。所以問卷的設計是保證信度的一個前提條件。
影響信度檢驗的其他因素:調查對象的持久性、合作態度等影響;調查實施者是否按規定實施調查;調查環境與條件是否適當;調查內容是否恰當、問題數目是否適中等這些也都是影響調查問卷設計信度檢驗的主要因素。
(2)效度檢驗的啟示
調查問卷的問題設計與效度的關系。問題是構成調查的要素,調查問題的性能就成為影響調查問卷效度的因素之一。從前面的效度檢驗可以看出問題的取材、長度、鑒別力、難度及編排方式都和效度有關。如果調查的問題設計合理,即如果問題的取材合理、長度適中、有相當的鑒別力且難度分布適當、編排也較合理,那么調查結果的檢驗就會有很高的效度。
調查的實施和效度的關系。問卷調查的效度檢驗要得到保證,調查督導員應該適當控制調查情況,而調查員應當嚴格按照訪問手冊的規定實施調查。在調查過程中,如果場地的選擇、調查材料的準備、調查方式的說明、調查時間限制等,如不按照調查手冊程序進行,則必然降低問卷調查測量的效度。
被調查者的態度和效度的關系。被調查者的興趣、動機、情緒、及是否合作以及合作程度等都影響到問卷結果的可靠性和正確性。無論是什么調查內容,只有借助調查對象的真實反映,才能了解到真正的調查情況。
關聯效度準則的選取與效度的關系。適當地選擇關聯準則是關聯效度分析的先決條件,如果選擇的準則不當,就會導致效度分析的錯誤,問卷調查的真實效度就有可能被掩蓋。一個問卷準則效度分析時,選擇的準則不同,其效度分析的結果會相差很大。從統計分析的觀點來看,一個準則關聯效度受以下三個因素的影響作用最大:問卷的信度、準則變量的信度、準則變量和調查變量之間真正的相關程度。
調查對象的選取和效度的關系。在調查中,最注重的是選取樣本的代表性。好的樣本代表性能夠提高問卷調查的效度。一個調查應用與不同的調查對象,由于對象在性別、年齡、教育程度、背景上的差異,效度也隨之變異。
3.改善問卷設計質量,提高調查數據的質量
通過以上得到的信度和效度檢驗的啟示,可以很明確的是,一個問卷調查測量能力的好壞,最關鍵的還在于整個調查問卷的設計階段。通過分析具體調查指標的特性,正確設計有針對性的調查問題;問題的措辭恰當、長度安排合理;問題對于所要了解的調查內容有相當的鑒別力和適當的難度;并分別給予每一個問題適當的答案選項;問題的前后順序編排合理等這些設計要求的滿足,有助于明顯提高問卷的信度和效度,使得我們能夠用一份完善的調查問卷去收集所要調查的數據內容,從而為得到高質量數據創造了前提條件。
在實施調查過程中,嚴格的按照調查方案選擇調查對象,確定合理的調查時間、地點、環境;以及在調查過程中積極爭取調查對象的合作;訪問過程中嚴格按照計劃實施等是我們對收集高質量調查數據的保證。
通過以上的分析和論述,可以看到能否通過問卷調查收集到準確的、有效的高質量數據,完善的問卷設計是前提,而周密的按照調查方案實施數據收集是保證。此外,對調查結果的正確匯總、整理、分析,以及選用適當的信度和效度檢驗方法也是我們提高問卷調查數據質量不可或缺的條件。