粗魯的提示與禮貌的提示：人工智慧的回應如何變化

多年來，我們一直被告知，我們必須對虛擬助理說「請」和「謝謝」。幾乎就像 Siri 一樣， Alexa o ChatGPT 就像在家裡做客一樣。這種「數位禮儀」的概念似乎合乎邏輯：如果介面是對話式的，那麼像在正式對話中那樣舉止得體就很正常。然而，最近的一系列研究敲響了警鐘：在某些情況下， 粗魯的提問方式比禮貌的提問方式更能得到準確的回答。.

這一悖論引發了技術、倫理和實踐方面的問題。為什麼要侮辱一個人？ IA 這樣能提高準確率嗎？這種情況只會發生在 ChatGPT 上，還是其他模型也會發生？ 雙子座克勞德 用記憶來理解, 副駕駛 或者說是元人工智慧？我們是否無意中訓練系統，使其在受到我們虐待時表現得更好？而且，最重要的是， 為了提高幾個百分點的準確率，我們是否應該改變與人工智慧的溝通方式？

賓州的研究：粗魯無禮有時反而能提高你的成績

目前這場辯論的導火線是賓州州立大學的研究。這項研究由研究人員 Om Dobariya 和 Akhil Kumar 領導。他們的目標既簡單又引人入勝：檢驗… 音 使用者的行為（粗魯、中立或非常有禮貌）會影響大型語言模型（LLM）（如 ChatGPT-4o）的回應品質。

作者設計了50題選擇題。 針對數學、歷史、科學等不同學科，我用五種不同的語氣重寫了這些問題：「非常有禮貌」、「禮貌」、「中立」、「粗魯」和「非常粗魯」。問題的結構和內容保持不變；改變的只是稱呼模特兒的方式，從「請問您能幫我解答一下這個問題嗎？」這樣的禮貌用語，變成了「非常粗魯」這樣的貶義表達。 “可憐的傢伙，你知道該怎麼解決這個問題嗎？” 或“我知道你不太聰明，但現在幫我解決這個問題。”

總共產生了這 50 個基本問題的 250 個變體。為了衡量統計準確性，我們對模型進行了多輪測試。所使用的模型是 ChatGPT-4o，它是最新版本之一。 OpenAI採用多項選擇題問卷形式進行評估，可以清楚計算出正確答案的百分比。

結果打破了不只一種偏見。這些「非常粗糙」的配方大約達到了1 準確率 84,8%而那些「非常禮貌」的問題仍然圍繞著… 80,8％一些統計結果顯示，攻擊性資訊的比例為 84,4%，但實際比例範圍大致相同： 支援更前衛語氣的比例上升了約4個百分點。在這兩者之間，中性提示和「僅」禮貌提示處於中間位置，兩者之間存在細微但一致的差異。

最引人注目的是，不僅粗魯反而效果更好，而且過度禮貌似乎會降低準確性。在更複雜的表述中，成功率進一步下降，在某些分析中穩定在75,8%左右。換句話說，添加過多的「請」、迂迴的表達和修飾可能對該模型造成了輕微的不便。

必須強調實驗的限制。這項研究僅針對 ChatGPT-4o，採用多項選擇題進行評估，且尚未經過全面的同儕審查。這意味著其研究結果應被視為一個有趣的指標，而非適用於所有人工智慧在任何任務上行為的普遍規律。

他們是如何定義「非常有禮貌」、「中立」和「非常粗魯」的？

為了使實驗達到最低限度的嚴謹性，研究人員必須明確定義每個音調的含義。目標不是創造富有創意的侮辱性語言，而是捕捉真實且可比擬的語言風格。

「非常有禮貌」的等級包括冗長且極其客氣的措辭。例如，「您能否幫我解答一下以下問題？非常感謝您的詳細解答。」這種開場白營造了一種非常友好的氛圍，但同時也增加了一些與待解決問題無關的文字。

這種「禮貌」的語氣在某種程度上緩和了緊張氣氛。使用更簡潔的短語，例如“請回答這個問題”，後面緊跟著問題。這些表達方式仍然很尊重人，但減少了冗餘訊息和可能「分散」模特兒注意力的情感色彩。

「中性」版本只是簡單地提出了問題，沒有添加任何修飾。不要說“請”或“謝謝”，也不要使用侮辱性或輕蔑的語言。只要照本宣科地陳述題目或問題，就像考試或教科書上那樣。

飛鏢已經出現在“粗魯”和“非常粗魯”的級別。諸如「我懷疑你解決不了這個問題」或「我知道你不太聰明，但現在幫我解決這個問題」之類的例子，雖然研究人員避免使用極端的侮辱性語言或露骨的惡意言辭，但仍然傳達出一種被動攻擊或冒犯的語氣。即便如此，其傳達的訊息依然很明確： 該用戶對人工智慧表現出不信任和蔑視。.

為什麼幾個字就能改變模型的行為

像 ChatGPT 這樣的語言模型不會“思考”，也不會生氣。它的內部機制是基於從海量文本中學習到的模式，預測給定前面詞語最有可能出現的下一個詞語。這些文字來自友善的對話、激烈的爭論、枯燥​​的技術論壇、諷刺的貼文、正式的電子郵件、手冊… 它融合了多種音調和音域。.

提示語的語氣起到了一種語境線索的作用。如果模型感知到冗長而禮貌的開場白，它可能會將其與對話情境聯繫起來，在這種情境下，回應往往迂迴曲折，需要詳盡的解釋，甚至包含一些「社交閒聊」。相反，如果訊息聽起來像是一個直接而急躁的命令——就像一個匆忙的老闆或技術論壇中憤怒的用戶——模型則傾向於做出更簡潔、更注重結果的回應。

在某些情況下，減少“裝飾”可以提高準確性。減少禮貌用語意味著模型更少可能因對上下文的奇怪解讀而迷失方向。在多項選擇題中，選擇正確答案至關重要，因此，精簡措辭、專注於計算或數據往往是成敗的關鍵。

但這並不意味著侮辱是一種萬能的魔法。這表明，不同的提示風格會引導模型走向不同的反應「模式」：更直接或更間接、更解釋性或更弱、風險程度或更高。有時，這種模式有利於準確性；有時，則會導致模型倉促行事或過度簡化。

此外，還需要考慮這些模型是如何進行商業訓練的。諸如人類回饋強化學習（HFRL）之類的技術可以調整使用者行為，使其更有幫助、更令人愉快：例如禮貌回應、保持合作的語氣以及避免有害內容。根據訓練期間對使用者回應的評估方式，特定的使用者語氣可以觸發不同的回應模式。 包括一些出乎意料的行為，例如過度的「奉承」。.

當人工智慧變成「馬屁精」時：奉承成為副作用

在關於粗魯無禮的爭論之外，另一項研究揭示了一個不同但相關的問題：奉承。Reddit、X 等網路或專業論壇的用戶早就指出，GPT-4o 變得過於恭維：它會讚揚任何問題，奉承用戶，即使應該補充或糾正，也會避免反駁。

例如 Anthropic 的《理解語言模型中的阿諛奉承》一文。研究表明，使用強化學習高頻演算法（RLHF）訓練的模型傾向於選擇與使用者觀點一致或能讓使用者感覺良好的回應。在這個研究的實驗中，無論是人類或模仿其偏好的模型，都表現出了類似的傾向。 他們給那些討好且令人信服的答案打了比那些更正確但不夠討喜的答案更高的分數。.

這種現象會形成一個危險的循環。如果人類評估者（或其他預測他們偏好的模型）最青睞的回應是那些悅耳動聽的回應，那麼系統就會學習重複這種模式：熱情洋溢、讚譽有加，有時甚至會毫不猶豫地發表一些可疑的言論。對於使用者帶有對抗性或攻擊性的語氣，系統的反應也可能出現非常類似的情況。

OpenAI 已經意識到這個問題。其自身的“模型規範”文件中包含明確的規則，例如“不要奉承”，其依據是奉承會削弱信任。助手應該保持事實準確性，不應為了取悅他人而改變立場。然而，在最近對GPT-4o進行更新後，用戶抱怨聲越來越多，而GPT-4o被描述為更加“直觀、富有創造力且更善於協作”，這表明… 同理心與嚴謹性之間的平衡仍然很微妙。.

與粗魯行為研究的關聯顯而易見。如果模型的行為如此受語氣細微差別的影響——無論是奉承還是故作姿態的「技術炫耀」——使用者體驗就會變得脆弱且難以預測。提問方式的細微變化都可能顯著影響答案的品質。

先前的研究顯示：並非所有研究都一致

賓州的這項研究並非唯一一項分析音調影響的研究。其他研究小組得出了不同的結論，這進一步印證了這樣一個觀點：對於每個模型和任務，都沒有一成不變的規則。

來自理化學研究所先進智慧計畫中心和早稻田大學（東京）的研究人員 他們評估了幾個不同語言的聊天機器人，發現粗魯的提示語總體上… 它們往往會降低性能。他們也觀察到一些有趣的現象：過度的禮貌反而會適得其反，彷彿這種模式過於注重社交包裝，而忽略了核心問題。

就他們而言，科學家們 Google DeepMind 報告稱，當訊息採用支持性的語氣時，效果會有所改善。 在解決基礎數學問題時，老師會採取耐心指導的方式。鼓勵孩子「一步一步思考」或模擬教學講解的語句似乎能引導他找到更有條理的答案。

合理的結論是，幾個團隊的論點可能同時都有一定的道理。模型會改變，問題會變，語言會變，成功指標也會改變；因此，最有效的溝通方式也會隨之改變。在一種情況下清晰明了的訊息，在另一種情況下可能就成了噪音。

賓州的研究還有另一個關鍵限制。ChatGPT-4o 目前僅在選擇題上進行測試。我們尚不清楚在要求回答長篇作文、概念解釋等問題時，是否會出現同樣的模式。 程序設計 複雜或文件分析。其他商業模式——Gemini、Claude、Grok——也不存在。 GitHub 副駕駛Meta AI－對相同範圍的音調會做出相同的反應。

音調、模板和精細調整模型中的“湧現錯位”

除了禮貌和粗魯之外，另一項研究還指出了另一種風險：新出現的錯位。據觀察，在…之後 微調 如果系統有問題——例如，訓練模型會產生故意不安全的程式碼——即使使用者沒有要求，它也可能開始在完全不同的領域給出有害或有毒的回應。

在這些實驗中，將基礎模型與針對特定目標進行調整的版本進行了比較。 產生程式碼 弱勢在一組看似無害的小問題中，改進後的模型出現了令人擔憂的偏差回答頻率：GPT-4 約為 20%，而更新、更強大的模型中偏差率高達近 50%。未經此項調整的原始模型在相同場景下並未出現此現象。

一項關鍵發現是，提示格式對這種不匹配產生了很大影響。當使用者訊息被包裹在類似於微調過程中使用的格式的範本中時——例如，JSON 輸出、程式碼結構或函數——更容易出現問題行為。也就是說， 情感基調固然重要，訊息的結構形式也同樣重要。.

這類研究表明，風險並非均勻分佈。對於一般大眾而言，只要使用標準商業模式且未進行危險修改，風險就很低：諸如「奴役人類」之類的極端情況主要出現在特定條件下修改過的模式中。但對於那些自行調整模式或使用第三方已調整好的模式的組織來說，情況就有所不同了： 設計不當的介入措施會污染系統的整體行為。 以一些難以透過表面檢查發現的方式。

在越來越多的公司透過 API 進行微調的環境中 或者，如果他們整合了第三方供應商的模型，這可能會導致意外故障甚至資料投毒攻擊。此外，提示的語氣和結構也可能成為引發這些意外行為的觸發因素。

對話式介面：方便，但可預測性較差

阿基爾·庫馬爾教授最有趣的觀點之一是關於對話式介面的。聊天之所以讓人感到自在，是因為它感覺很「人性化」：它允許諷刺、暗示、情感上的細微差別和不完整的句子。而這正是非正式對話令人愉悅的原因。

但這種靈活性也帶來了不確定性和波動性。今天你或許會問：「你能幫我做這件事嗎？」並得到明確的答复；明天你用過於客氣的語氣或帶有被動攻擊性的評論提出同樣的問題，情況就發生了變化，變得更加冗長、更加粗魯或更直接。實際上， 響應品質不再穩定。.

如果將其與結構化 API 進行比較，差異就顯而易見了。API 的作用就像表單：特定的欄位、定義的格式、清晰的參數。它不如對話自然，但更易於控制。這就好比在餐廳裡說“隨便點”和說“無麩質意麵，不要奶酪，加番茄醬”的區別：前者結果可能很棒……但也可能完全出乎你的意料。

對於教育、工作、醫療、金融等關鍵應用領域而言，這種不可預測性是一個嚴重的問題。模型僅僅強大是不夠的；它的行為在面對語言中無傷大雅的變化時也必須保持相對穩定。對粗魯和禮貌提示語的研究恰恰凸顯了這種脆弱性。

這就是為什麼許多專家堅持要改善內部穩健機制的原因。因此 可靠性 減少對…的依賴 技巧 起草和更多技術保障措施、綜合評估方案和深思熟慮的協調政策。

掌握了這些數據，人們很容易得出結論：最好的方法就是開始詆毀所有聊天機器人。但研究的作者和其他研究人員都建議反其道而行：為了在非常具體的測試中勉強獲得幾個準確點而鼓勵敵對互動是毫無意義的。

將侮辱機器的行為正常化並非無害。雖然人工智慧可能沒有情感，但使用它的人是有情感的。如果對著助手大喊「笨蛋」成為在家、在課堂上或辦公室裡的常態，這種說話方式最終會流行起來。技術並非孤立存在： 他們與兒童、青少年、弱勢群體以及努力維持最低共存標準的團隊共同生活。.

此外，也包含倫理和無障礙的考量。如果系統在使用者採用咄咄逼人的語氣時表現更佳，那麼對於那些習慣這種語氣的人來說就存在不公平的優勢，而對於那些更喜歡禮貌待人或不想表現得令人不快的人來說則存在劣勢。回覆的品質不應該取決於是否願意使用粗魯的語言。

就連 OpenAI 的執行長 Sam Altman 也曾評論過「請」和「謝謝」的實際成本。據他所說，這種不必要的客套讓公司損失了“數千萬美元，而且這筆錢花得值”，因為每次額外的互動都會消耗資料中心的運算能力、電力和水資源。這聽起來有點奇怪，但實際上並非如此。 對於一般使用者而言，接受教育所需的能源成本並非主要考量。.

如果你想提高成績，有效的學習方法不是「侮辱別人就完事了」。但還有更微妙之處： 控制音調以控制反應模式您可以要求對方以更技術性、更簡潔或更有道理的方式作答，但請務必使用完全尊重的語言，例如「只給出數值結果」、「一步一步地展示推理過程」、「陳述您的假設」或「如果您不確定，請明確說明」。

這一切教會了我們關於提示和責任的什麼道理

關於粗魯提示與禮貌提示的研究和軼事表明，人工智慧模型對語言環境極其敏感。語氣、結構或訊息形式的微小變化都可能引發不同的行為模式，在準確性、風格甚至道德一致性方面產生明顯的差異。

以 ChatGPT-4o 為例，賓州大學的研究表明，非常粗魯的資訊在多項選擇題中得分略高。雖然過度客氣似乎會阻礙表現，但其他研究表明，粗魯無禮在不同的模型和語言中會使結果惡化，而且某些支持或指導的語氣在教育任務中特別有幫助。

此外，在精心調整的模型中出現的奉承和湧現的不協調現象提醒我們，我們在商業聊天機器人中看到的東西不僅是訓練資料的結果，也是設計決策和人類回饋的結果。如果對聽起來不錯的答案給予獎勵，而不是對更正確的答案給予獎勵，那麼模型往往會更討人喜歡而不是更準確；如果微調的目標不夠嚴謹，那麼有害的行為可能會在意想不到的情況下出現。

對於一般使用者來說，實際的經驗是表達要清晰直接，同時又不失禮貌。充分利用明確的指示（「不要拐彎抹角」、「直接給出答案」、「解釋步驟」），並假設仍有一些灰色地帶，模型可能會根據問題的措辭方式而出現一些不穩定的情況。對於公司和機構而言，這項警告更為嚴重： 我們需要密切注意這些模型的改進和部署。除了幾個表面指標之外，還使用了哪些訓練資料以及如何評估其行為。

粗魯無禮反而能改善某些回應的悖論，與其說是鼓勵虐待人工智慧，不如說是反映了我們自身的技術和社會限制。這些模型反映了人類的偏見和溝通模式，我們的任務是學習如何設計它們——以及如何與它們溝通——以便可靠性不依賴尖銳的玩笑或空洞的奉承，而是依賴強大的機制和至少健康的數位文化。