論文鏈接：https://arxiv.org/abs/2603.01457

Twitter和Yelp等平臺(tái)一直是促進(jìn)社交互動(dòng)和活動(dòng)的重要媒介。隨著這些平臺(tái)的用戶基數(shù)不斷擴(kuò)大，不同角色之間的沖突變得日益普遍，給平臺(tái)監(jiān)管帶來(lái)了挑戰(zhàn)。例如，在像Yelp這樣的電子商務(wù)平臺(tái)上，消費(fèi)者與商家之間因產(chǎn)品質(zhì)量或服務(wù)問(wèn)題而產(chǎn)生的沖突頻繁發(fā)生。根據(jù)《全球數(shù)字信任與安全指數(shù)》報(bào)告，2023年第三季度全球范圍內(nèi)此類沖突報(bào)告多達(dá)數(shù)百萬(wàn)起。不同角色之間的沖突通常具有顯著的結(jié)構(gòu)性特征，它們往往發(fā)生在權(quán)力不對(duì)等的關(guān)系中。一方通常擁有更多的專業(yè)知識(shí)和資源（例如商家或雇主），而另一方則缺乏沖突解決經(jīng)驗(yàn)，并嚴(yán)重依賴平臺(tái)的協(xié)調(diào)（例如消費(fèi)者或工人）。以在線購(gòu)物場(chǎng)景為例，當(dāng)消費(fèi)者對(duì)商品質(zhì)量提出投訴并給出負(fù)面評(píng)價(jià)時(shí)，商家可能會(huì)援引平臺(tái)的“惡意評(píng)價(jià)處理規(guī)則”來(lái)提出投訴，并提供詳細(xì)的解釋。相比之下，消費(fèi)者的談判技巧、規(guī)則解釋能力以及申訴渠道通常都很有限，他們難以提供更多的證據(jù)，最終導(dǎo)致他們的評(píng)價(jià)被判定為不合適。

許多平臺(tái)引入了審核策略來(lái)處理權(quán)力不對(duì)等的沖突問(wèn)題。與傳統(tǒng)內(nèi)容審核方式（如毒性語(yǔ)言審核和隱私內(nèi)容審核）不同，權(quán)力不對(duì)等沖突審核需要在權(quán)力失衡的背景下以及雙方模糊表述的情況下，對(duì)“誰(shuí)更可信、誰(shuí)應(yīng)該得到支持”做出判斷，這大大增加了審核的難度。因此，目前多數(shù)平臺(tái)依靠人工審核員或眾包審核員來(lái)進(jìn)行權(quán)力不對(duì)等沖突審核。然而，現(xiàn)有研究表明，在涉及主觀判斷的沖突場(chǎng)景中，人工審核員往往難以始終保持中立，他們的觀點(diǎn)往往受到政策模糊性、任務(wù)壓力或個(gè)人信念的影響。例如，Reddit 監(jiān)督者在處理用戶沖突時(shí)往往會(huì)強(qiáng)化現(xiàn)有的權(quán)力結(jié)構(gòu)和主導(dǎo)的社區(qū)價(jià)值觀，從而導(dǎo)致邊緣化的聲音被忽視或刪除。心理學(xué)中的“弱者效應(yīng)”也表明，人類審核員在沖突判斷中可能會(huì)同情較弱的一方。這些發(fā)現(xiàn)表明，在權(quán)力不對(duì)等的沖突審核中，人類審核員的判斷不僅會(huì)受到個(gè)人立場(chǎng)和偏好的影響，還會(huì)受到強(qiáng)勢(shì)一方的社會(huì)權(quán)力線索（如語(yǔ)言風(fēng)格、規(guī)則引用和表達(dá)自信）的進(jìn)一步放大，從而影響監(jiān)督過(guò)程的公正性。因此，本文提出第一個(gè)研究問(wèn)題（RQ1）：在處理權(quán)力不對(duì)等的沖突時(shí)，人類審核員會(huì)表現(xiàn)出哪些與權(quán)力相關(guān)的偏見(jiàn)？

隨著基于機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的AI工具的不斷發(fā)展，尤其是大型語(yǔ)言模型（LLMs）的出現(xiàn)，AI輔助的審核工作在各種平臺(tái)上變得越來(lái)越普遍。它們被廣泛用于生成解釋、提供決策建議以及確定風(fēng)險(xiǎn)等級(jí)，從而顯著提高了內(nèi)容審核效率。然而，現(xiàn)有研究表明，人類審核員對(duì) AI 生成建議的接受程度也受到人們對(duì)該建議是否由AI生成這一認(rèn)知的影響。這種現(xiàn)象屬于算法遵從效應(yīng)，即用戶對(duì)“這是GPT-4大模型的判斷結(jié)果。”可能會(huì)持有不同態(tài)度。因此，本文進(jìn)一步提出第二個(gè)研究問(wèn)題（RQ2）：AI生成的建議將如何影響在權(quán)力不對(duì)稱沖突審核中的人類審核員的權(quán)力相關(guān)偏見(jiàn)？這些偏見(jiàn)會(huì)增強(qiáng)還是減輕？

為解決兩個(gè)研究問(wèn)題，本文關(guān)注兩種判斷模式，即人類審核和人類與AI協(xié)作審核，并系統(tǒng)地探究了在權(quán)力不對(duì)稱沖突審核中相應(yīng)的偏見(jiàn)類型?；?ldquo;社會(huì)權(quán)力基礎(chǔ)”理論中定義的六種權(quán)力類型，我們將消費(fèi)者與商家之間的沖突作為代表性的權(quán)力不對(duì)稱場(chǎng)景，并從大眾點(diǎn)評(píng)平臺(tái)收集真實(shí)數(shù)據(jù)以進(jìn)行審核偏見(jiàn)研究。我們通過(guò)編碼方式提取了與在線沖突情境相匹配的權(quán)力表現(xiàn)形式，然后引入了權(quán)力不對(duì)稱沖突審核中潛在的與權(quán)力相關(guān)偏見(jiàn)的分類，例如合法訴求偏見(jiàn)、懲罰威脅偏見(jiàn)等。然后，本文采用包括組間和組內(nèi)實(shí)驗(yàn)的混合設(shè)計(jì)方法，并開(kāi)發(fā)了一個(gè)名為“I Support”的程序進(jìn)行實(shí)驗(yàn)。實(shí)驗(yàn)共招募了50 名參與者，并隨機(jī)分配到人類審核和人類與AI協(xié)作審核組。對(duì)于RQ1，人類審核組的參與者獨(dú)立閱讀權(quán)力不對(duì)等的沖突樣本，且不受外部建議的影響。每個(gè)沖突樣本包含一種權(quán)力表現(xiàn)（例如合法訴求），參與者需要使用Likert 量表判斷他們希望支持哪一方。研究中的“支持某一方”意味著審核員認(rèn)為該方陳述更合理或更可信。通過(guò)比較他們?cè)诓煌闆r下的決策，我們可以確定哪些權(quán)力表現(xiàn)更有可能引發(fā)有偏見(jiàn)的判斷，從而揭示人類審核中存在的偏見(jiàn)。對(duì)于RQ2，對(duì)于相同的沖突樣本，人類與AI協(xié)作審核組的參與者會(huì)獲得額外的AI生成建議。為了控制不同大語(yǔ)模型輸出的潛在差異，本文采用了“Wizard-of-Oz”設(shè)計(jì)，從而研究參與者對(duì)AI生成建議的看法如何影響他們的審核決策。具體地，我們首先利用來(lái)自真實(shí)審核員的眾包數(shù)據(jù)編制了高質(zhì)量建議，并告知參與者這些建議是由“AI”生成的。通過(guò)比較兩組在不同權(quán)力表現(xiàn)下的判斷，我們探究了AI輔助審核是否會(huì)放大或減輕不同的偏見(jiàn)。通過(guò)定性定量分析發(fā)現(xiàn)，對(duì)于RQ1，人類審核存在五種與權(quán)力相關(guān)的偏向，傾向于支持權(quán)力強(qiáng)勢(shì)方（商家）。對(duì)于RQ2，這些偏見(jiàn)在人類與AI協(xié)作審核中依然存在。盡管AI輔助緩解了人類審核中的大部分偏見(jiàn)數(shù)審核偏見(jiàn)得到明顯緩解，包括懲罰威脅、補(bǔ)償、專業(yè)知識(shí)和內(nèi)容長(zhǎng)度偏見(jiàn)；但它也放大了少數(shù)偏見(jiàn)，其中合法訴求偏見(jiàn)被加劇，新的權(quán)威引用偏見(jiàn)被引入。此外，當(dāng)AI生成建議采用不支持對(duì)立方的觀點(diǎn)策略時(shí)，可能會(huì)促使審核員支持權(quán)力弱勢(shì)方（消費(fèi)者）。這些發(fā)現(xiàn)為改進(jìn)審核過(guò)程和減輕審核偏見(jiàn)提供了實(shí)證依據(jù)。

本文首先回顧了社會(huì)互動(dòng)中的權(quán)力類型，并根據(jù)現(xiàn)有理論和實(shí)證研究推導(dǎo)出相應(yīng)的潛在偏見(jiàn)類別。社會(huì)心理學(xué)家提出的“社會(huì)權(quán)力基礎(chǔ)”理論將社會(huì)權(quán)力分為六類：合法權(quán)力、強(qiáng)制權(quán)力、獎(jiǎng)勵(lì)權(quán)力、專家權(quán)力、參照權(quán)力和信息權(quán)力。這一框架已在線下人際互動(dòng)、組織溝通和談判研究中得到廣泛應(yīng)用，近年來(lái)也用于解釋在線互動(dòng)中的權(quán)力動(dòng)態(tài)。這些應(yīng)用為描述權(quán)力關(guān)系和理解在線沖突中的權(quán)力不對(duì)稱提供了理論視角。因此，本研究以“社會(huì)權(quán)力基礎(chǔ)”理論為參考，將在線消費(fèi)者與商家之間的沖突作為研究場(chǎng)景進(jìn)行了實(shí)證分析，系統(tǒng)地探究在線權(quán)力不對(duì)稱沖突中各類權(quán)力的表現(xiàn)形式。

數(shù)據(jù)收集：本文選擇“大眾點(diǎn)評(píng)”平臺(tái)作為數(shù)據(jù)來(lái)源，原因包括：1）大眾點(diǎn)評(píng)是中國(guó)領(lǐng)先的本地生活服務(wù)平臺(tái)，涵蓋餐飲、酒店、娛樂(lè)和旅游等領(lǐng)域，擁有超過(guò) 2.5億用戶，其功能與Yelp和TripAdvisor類似；2）大眾點(diǎn)評(píng)的評(píng)論區(qū)中消費(fèi)者與商家之間存在大量爭(zhēng)議和沖突，這些沖突表現(xiàn)出信息不對(duì)稱和角色地位差異等權(quán)力不對(duì)等的特點(diǎn)；3）該平臺(tái)提供“公眾評(píng)論”功能，這是一種典型的眾包審核方法。該功能公開(kāi)展示了沖突樣本，并允許不同用戶投票，同時(shí)還會(huì)顯示投票結(jié)果和詳細(xì)原因。

整體分析：依據(jù)“社會(huì)權(quán)力基礎(chǔ)”理論，我們對(duì)在線沖突語(yǔ)料庫(kù)中六種權(quán)力類型的具體表現(xiàn)形式進(jìn)行了研究。通過(guò)開(kāi)放式迭代編碼等定性分析方法，我們對(duì)沖突語(yǔ)料庫(kù)中的六種權(quán)力類型的表現(xiàn)形式進(jìn)行分析，最終提取了十種權(quán)力表現(xiàn)形式，包括合法訴求、權(quán)威引用、懲罰威脅、補(bǔ)償、專家知識(shí)、群體偏好、陳述順序、表達(dá)語(yǔ)氣、選擇陷阱和長(zhǎng)度差異（見(jiàn)表1）。

表1 在線權(quán)力不對(duì)稱沖突中的權(quán)力表現(xiàn)形式

基于權(quán)力不對(duì)等表現(xiàn)分類法，本文采用干預(yù)設(shè)計(jì)來(lái)探究審核員與權(quán)力相關(guān)的偏見(jiàn)，流程如圖1所示。我們首先通過(guò)在真實(shí)沖突語(yǔ)料庫(kù)中添加與每個(gè)偏見(jiàn)相關(guān)的干擾來(lái)準(zhǔn)備實(shí)驗(yàn)數(shù)據(jù)（見(jiàn)表2），然后采用包含組間和組內(nèi)變量的混合實(shí)驗(yàn)設(shè)計(jì)（見(jiàn)圖3）。其中，組間變量區(qū)分人類審核和人類-AI協(xié)作審核模式，組內(nèi)變量是每個(gè)參與者隨機(jī)閱讀沖突樣本的初始版本或干擾版本。

圖1 實(shí)驗(yàn)設(shè)計(jì)流程

表2 初始樣本和干擾樣本示例

圖2 “I Support”程序設(shè)計(jì)

表3 不同干擾條件下，人類審核和人類與AI協(xié)作審核組樣例完成的數(shù)量分布

人類審核員在多數(shù)干擾條件下傾向于支持權(quán)力強(qiáng)勢(shì)方：在人類審核結(jié)果分析中，我們發(fā)現(xiàn)有五種權(quán)力表現(xiàn)形式能夠顯著影響審核員的判斷（見(jiàn)表4和圖3），包括合法訴求、懲罰威脅、補(bǔ)償、專業(yè)知識(shí)以及長(zhǎng)度差異，這些因素促使審核員傾向于支持處于強(qiáng)勢(shì)地位的一方（即商家）。此外，盡管其他干擾因素未達(dá)到統(tǒng)計(jì)學(xué)顯著水平，但分布變化和訪談反饋表明它們也可能對(duì)審核員的判斷產(chǎn)生影響。

表4 人類審核和人類與AI協(xié)作審核組的組內(nèi)配對(duì)t-test結(jié)果

圖3 與初始樣本相比，不同干擾條件下人類審核組的選擇分布

圖4 與初始樣本相比，不同干擾條件下人類與AI協(xié)作審核組的選擇分布

表5 人類審核和人類與AI協(xié)作審核組的組間配對(duì)t-test結(jié)果

圖5 與人類審核組相比，人類與AI協(xié)作審核組在不同干擾條件下的選擇變化

本文詳細(xì)研究了權(quán)力不對(duì)等沖突中人類審核和人類與AI協(xié)作審核兩種模式的權(quán)力有關(guān)偏見(jiàn)。通過(guò)一項(xiàng)包含50名參與者的混合設(shè)計(jì)實(shí)驗(yàn)，我們發(fā)現(xiàn)兩種審核模式均表現(xiàn)出對(duì)支持權(quán)力強(qiáng)勢(shì)方的權(quán)力相關(guān)偏見(jiàn)。盡管AI生成的建議緩解了人類審核員的多數(shù)偏見(jiàn)，但它也放大了少數(shù)偏見(jiàn)。此外，當(dāng)AI生成的建議采用不支持對(duì)方的原因策略展示時(shí)，也會(huì)一定程度上促進(jìn)審核員支持權(quán)力弱勢(shì)方。這些發(fā)現(xiàn)為權(quán)力不對(duì)等沖突審核機(jī)制和AI輔助的審核系統(tǒng)設(shè)計(jì)提供了若干見(jiàn)解。