論文鏈接：https://arxiv.org/abs/2603.03687

在線社區(qū)旨在構(gòu)建開放、多元與理性討論的公共空間，但仇恨言論（hate speech）的擴散正在持續(xù)削弱這一理想。仇恨言論通常指針對特定群體、具有攻擊性與傷害性的表達形式，不僅會對個體造成情緒與心理層面的嚴重傷害，也會在群體層面強化刻板印象與社會偏見。更重要的是，它具有明顯的傳播與模仿效應：當用戶暴露于敵意表達時，即便本身并非高度攻擊性個體，也更可能產(chǎn)生類似言論，從而推動負面互動的擴散。這一過程本質(zhì)上影響的并不僅是單條內(nèi)容，而是社區(qū)規(guī)范（community norms）的形成機制。在線討論中的“什么可以說”“什么值得回應”“什么會被默認”并非天然存在，而是在互動中不斷被再生產(chǎn)。當仇恨言論頻繁出現(xiàn)且缺乏公開回應時，沉默可能被誤讀為容忍，進一步固化“多數(shù)人默認”的社會感知。傳統(tǒng)內(nèi)容審核（content moderation）主要依賴刪除、封禁或降權(quán)等限制性手段。然而，過度依賴壓制式干預可能帶來誤刪風險，也難以處理隱性或語境化的仇恨表達。在此背景下，反言論（counterspeech）逐漸被視為一種非壓制性（non-repressive）、以“以言對言”為核心的替代路徑。通過公開回應、理性論證、情感支持或價值重申，反言論不僅針對具體事件發(fā)聲，更通過可見的表達影響旁觀者認知，從而參與社區(qū)規(guī)范的塑造。

隨著生成式人工智能的發(fā)展，反言論聊天機器人（counterspeech chatbot）逐漸成為可能。已有研究圍繞語料構(gòu)建、生成模型訓練與策略增強展開，重點考察其如何約束仇恨發(fā)言者或支持受害者。然而，作為在線社區(qū)中人數(shù)最多、影響廣泛的群體，針對旁觀者（bystanders）的研究卻不足。旁觀者并非中立存在。他們通常傾向于反對仇恨言論，卻往往選擇沉默。沉默可能被解讀為默認，從而強化“多數(shù)人容忍仇恨”的感知，并加劇沉默螺旋（spiral of silence）。既有研究表明，人類發(fā)起的反言論能夠打破這種感知，甚至觸發(fā)從眾效應（herd effect），激發(fā)更多人發(fā)聲。然而，當反言論由機器人發(fā)出時，它是否能夠產(chǎn)生類似的社會影響？這種技術(shù)介入，是否同樣能夠改變旁觀者的認知與行為傾向？為此，本研究提出兩個核心研究問題：

• RQ1：旁觀者在多大程度上認同聊天機器人的反言論，并在行為傾向上發(fā)生變化（例如，對論證強度的感知、對機器人的可信度評價，以及自身進行反言論的信心）？
  

• RQ2：不同類型的聊天機器人反言論策略，如何影響旁觀者對回應的認同程度，以及其行為傾向的變化？

為系統(tǒng)研究反言論策略，我們構(gòu)建了一個三維策略框架，涵蓋句式形式（疑問/陳述）、語氣（積極/消極）與策略意圖（認知型與情感型），組合形成八種反言論策略。在此基礎(chǔ)上，我們開發(fā)了原型機器人 Civilbot，使其能夠在不同語境下生成對應策略的反言論回應。我們采用混合方法（mixed-method）的被試內(nèi)實驗設(shè)計（within-subject design），邀請對敏感議題感興趣、通常在公共討論中保持沉默、但明確反對仇恨言論的參與者加入研究。每位參與者在多個議題情境下閱讀仇恨言論與 Civilbot 的回應，并完成前后測量與半結(jié)構(gòu)化訪談。研究指標包括：反言論質(zhì)量感知（如論證強度與說服力）、主觀認同（如可信度與重要性評價），以及行為傾向（如反言論信心與參與意愿）。研究結(jié)果表明，Civilbot 的反言論能夠影響旁觀者對回應內(nèi)容與機器人的整體判斷，并對行為傾向產(chǎn)生細微但可觀察的影響。參與者普遍認為機器人具有可信度，并能夠傳遞社區(qū)規(guī)范信號；然而，其推理深度有限，在一定程度上制約了說服效果。行為層面呈現(xiàn)情境化特征：當表現(xiàn)良好時，機器人可以引導旁觀者參與，甚至在一定程度上“代為發(fā)聲”；當表現(xiàn)欠佳時，則可能抑制參與，或激發(fā)旁觀者主動介入。策略因素具有關(guān)鍵作用。整體而言，認知型策略相較情感型策略更具效果；語氣與句式的影響則依賴具體語境及其與策略的匹配程度?；谏鲜霭l(fā)現(xiàn)，我們提出了面向設(shè)計的啟示：反言論機器人不僅需要判斷“是否介入”，還需要明確“為何介入”，并通過以推理為核心、信息支持充分、情境敏感的策略，更有效地參與社區(qū)規(guī)范的建構(gòu)。

表1 反駁策略的框架

• 句式形式（Sentence Type）。區(qū)分疑問式與非疑問式表達。疑問式反言論（如反問）被視為一種獨立策略形式，其作用在于引發(fā)批判性思考或挑戰(zhàn)前提；其他表達形式（陳述、祈使等）則歸為非疑問式。

• 語氣（Tone）。區(qū)分積極語氣與消極語氣。積極語氣強調(diào)禮貌、合作與同理心；消極語氣則更具批評性或?qū)剐?，可能包含諷刺或直接指責。為保證實驗可控性，我們采用二元劃分。

• 策略意圖（Strategic Intent）。參考 ELM 理論，我們將策略意圖分為認知型策略（Cognitive Strategy）和情感型策略（Affective Strategy）。前者通過改變認知路徑產(chǎn)生影響，例如駁斥錯誤信息（rebutting falsehoods）或強調(diào)事實與證據(jù)（highlighting truth）。后者通過情緒喚起影響判斷，例如譴責仇恨發(fā)言者（denouncing hate speakers）或支持受害群體（supporting targets of hate）。

最終構(gòu)成一個 2 × 2 × 2 共八種不同反言論策略，為后續(xù)實驗中的刺激材料提供清晰可控的操作基礎(chǔ)。

圖1 模擬討論平臺的示例頁面

圖2 實驗流程

圖3 RQ1、RQ2結(jié)果與設(shè)計啟示總覽

1. RQ1：反言論機器人對旁觀者的整體影響

結(jié)果顯示，Civilbot 的影響是復雜而有限的，但具有穩(wěn)定的規(guī)范價值。在態(tài)度層面，參與者普遍將 Civilbot 視為一種“合法的規(guī)范性聲音”。它強化了“仇恨言論不可接受”的社區(qū)共識，也為長期沉默的用戶提供了心理支持。然而，其說服力受到表達方式的限制。部分參與者認為回應論證較淺、表達偏模板化，顯得“過于AI”，從而削弱了認知上的穿透力。在行為層面，其影響呈現(xiàn)分化。一方面，它提升了部分用戶的反言論信心；另一方面，也可能替代沉默旁觀者發(fā)聲，使他們繼續(xù)保持沉默。更有趣的是，當回應被認為不夠有力時，反而激發(fā)了部分參與者的糾正沖動。也就是說，Civilbot 既可能引導參與，也可能成為負面示范或逆向激勵。它的價值不在于動員所有人發(fā)聲，而在于持續(xù)提供一個穩(wěn)定的“反聲部”，為旁觀者提供安全定位。在社區(qū)層面，Civilbot 主要發(fā)揮調(diào)節(jié)功能：補充信息以幫助識別仇恨與錯誤認知，冷卻情緒避免沖突升級，并引發(fā)進一步思考。它更像一個“平衡器”而非辯論者，通過維持知識與情緒的穩(wěn)定，鞏固社區(qū)規(guī)范。總體而言，Civilbot 能強化規(guī)范與穩(wěn)定社區(qū)氣候，但其說服與動員能力仍受表達質(zhì)量與情境適配性的限制。

2. RQ2：不同反言論策略的差異化影響

表2 反駁策略在三種指標上的主效應

表3 反駁策略在三種指標上的交互效應

表4 反駁策略在三種指標上的簡單效應分析

• 策略意圖（Strategic Intent）的影響最為顯著。認知型策略整體優(yōu)于情感型策略，在感知質(zhì)量、可信度與認同度上表現(xiàn)更好。以事實澄清、邏輯反駁為核心的回應更容易獲得旁觀者認可。但情感策略并非無效。參與者指出，在情緒對立較強的場景下，情感性表達可以作為鋪墊，緩沖緊張氛圍，為后續(xù)認知論證創(chuàng)造空間。因此，兩類策略并非對立，而更適合情境化組合。

• 語氣（Tone）主要影響行為傾向。積極語氣顯著提升參與信心與發(fā)聲意愿，使旁觀者更愿意介入討論。消極語氣則需要謹慎控制。參與者更認可帶有幽默或諷刺意味的“善意冒犯”，而非直接攻擊。過強的負面表達容易削弱說服效果，甚至掩蓋策略本身的意圖。

• 句式形式（Sentence Type）具有雙刃劍特征。疑問式表達整體呈顯著影響，但效果取決于設(shè)計方式。真誠的問題可以引導反思與信息補充；而反問或質(zhì)問式表達則可能被解讀為挑釁，從而降低可信度。因此，問題最有效的功能不是對抗，而是引導思考與延續(xù)對話。

• 交互效應。語氣放大或削弱策略意圖。積極語氣會顯著放大認知型策略的效果；情感型策略在積極語氣下反而可能顯得表層化；在消極語氣下，強烈情緒表達容易掩蓋策略差異。這意味著，語氣不僅是表達風格，更是影響策略可見度與可接受度的關(guān)鍵變量。對 Civilbot 而言，優(yōu)先采用積極語氣來承載認知型內(nèi)容，是更穩(wěn)健的組合方式。

• 探索性發(fā)現(xiàn)。探索性分析進一步發(fā)現(xiàn)，參與者在自我生成反言論時更傾向使用負向語氣，但卻期待 AI 保持克制與規(guī)范。這揭示出一種潛在的人機角色分工：人類可以承擔情緒表達與對抗功能，而 AI 更適合作為理性支撐與規(guī)范維護者。

• 何時介入：針對仇恨的程度，在注意力與沖突風險之間取得平衡；

• 如何介入：動機識別 → 推理分析 → 信息支持 → 論點構(gòu)建 → 策略選擇 → 風格調(diào)節(jié)；

• 誰在介入：反言論的效果并不只取決于策略本身，還取決于“說話者是誰”，需要區(qū)分兩種設(shè)計路徑，一個是自主型反言論機器人，強調(diào)規(guī)范維護、客觀表達與社區(qū)角色定位；AI輔助型反言論系統(tǒng)，保留人類發(fā)聲主體，強調(diào)協(xié)作與賦能。