為什么AI多輪對話總是那么傻?

1 評論 2964 瀏覽 7 收藏 15 分鐘

AI多輪對話一直是技術應用中的難點,也是用戶體驗的痛點。本文深入剖析了AI多輪對話的挑戰,包括上下文遺忘、意圖偏移、代詞關聯錯誤等問題,并提出了通過SOP設計來優化多輪對話體驗的策略。

上一篇文章,我們得出了一般選手應該如何入門AI應用領域的路徑:

  1. 使用DeepSeek整理SOP;
  2. 使用扣子類平臺驗證SOP;
  3. 最后做程序優化;
  4. 有必要就做平臺化;

后續也是列舉了個簡單的社群AI分身的例子,只不過其中多輪聊天這塊被我故意略去了,原因是他太復雜了。

事實上,多輪聊天是整個AI應用最大的難點,也是很多人做不好AI產品的關鍵,一旦是涉及多聊天的產品,其實現復雜度都會大幅增加!

所以,今天第一個問題是,AI多輪對話到底難在哪里?

關于這個問題,也許大家沒有注意到,其實當前所有的互聯網產品設計多是針對一問一答這種模式的。包括DeepSeek、ChatGPT這種工具,他其實也更多是一問一答的模式。

一般用戶在產品使用時候,當面臨新問題的時候,會刻意的新開窗口,防止信息互相污染。

這種習慣的潛意識是:暫時還不太相信模型具有多輪對話的能力。

事實上,模型的反饋也確實在說明這一點:

  1. 在7輪醫療問診對話中,GPT-4對患者主訴的遺忘率達37%;
  2. 當對話超過12輪時,關鍵信息丟失率飆升至68%;

隨著模型能力增強,該情況會好一些,但模型依舊會有這種上下文遺忘的問題。

另一方面,我們在實際對話中會有很多“代詞”,比如這個、那個、他…

而在模型對話過程中,這種代詞很容易被錯誤關聯,這會進一步要求我們跟AI對話的時候進行手動補足,而這種嚴謹的補足顯然不符合人們聊天習慣。

但最重要的還是要回歸第一個點:意圖偏移、話題切換,人們聊天過程中各種天馬行空,他們會不斷切換話題,而模型當前顯然是跟不上的…

就我之前做的一個客服類產品數據,對話輪次越多,效果越差。

最后,AI也需要面臨眾口難調的問題,因為有些用戶喜歡簡潔精準的回答,有些用戶喜歡發散引導型回答,這種處理起來也有些小麻煩…

綜上,這里的結論是:不要期待模型依靠自己的能力就將多輪對話做得很順滑了,不大可能的。

SOP設計

所以,想要好的多輪對話體驗,必須要進行SOP設計,或者說任務/目標設計,這里的核心有二:

  1. AI需要完成什么目標;
  2. 不同的目標需要不同的AI;

這里如上圖所示,一個完整的應用可能會由成百上千的SOP構成,SOP少了應用就會卡殼;SOP本身有缺陷,那么模型就會胡說八道。

總而言之,多輪對話即目標設計,這里首先得有目標,其次要有方法論,方法論會形成流程最終會形成一套SOP。

這里大家多半是不能完全聽懂的,所以這里以上篇文章的對話做實際案例。

比如A粉絲在群里發言:如何開啟AI副業,月入10w? 想聽的速來??!這種標題誘惑大

AI應該作何反應呢,關于AI如何反應這就是SOP,這里最簡單的提示詞是:

你的角色是一名資深陪聊,你總能讓話題很好的繼續下去;接下來我將作為一名客戶與你對話,請你好好扮演你的角色。

事實上,隨著聊天的輪數增加,AI輸出的營養越少,甚至讓我感到煩躁:

如果要讓AI稍微具有靈性一點,這里的策略是:給AI一個目標/讓AI去完成一個更為具體的任務。

具體到這里的場景,可以先生成一個AI的觀點,其次讓AI論證其觀點。比如:

群里有粉絲發表一句話:如何開啟AI副業,月入10w? 想聽的速來??!這種標題誘惑大。

對此,你的觀點是:它們本質上是利用焦慮感和信息差制造的“成功學陷阱”,絕大多數普通人盲目跟隨只會成為被收割的對象,而非受益者。

你的具體思考是:

{

1. 標題的底層邏輯是“投機誘惑”精準擊中人性弱點:這類標題組合了“低門檻(副業)”“高回報(月入10萬)”“時效性(速來)”三大心理觸發器,瞄準的是人們對快速致富的渴望和對AI行業的信息不對稱。

幸存者偏差的包裝:即使有極少數成功案例,也往往依賴特殊資源(如行業積累、流量紅利、灰色操作),但宣傳時會刻意隱去背景,營造“人人可復制”的假象。

2. AI行業的現實:技術壁壘與市場飽和技術變現≠零門檻:真正通過AI盈利的通常是兩類人:

? 掌握核心技術(如模型微調、API開發)的專業人士;

? 利用AI工具輔助現有業務的從業者(如設計師用MidJourney提效)。而鼓吹“無需經驗,一鍵套利”的課程/項目,多半是教人用ChatGPT生成低質量內容,在高度同質化的市場中毫無競爭力。

被動收入神話的破滅:AI工具確實能提升效率,但所謂“自動躺賺”的案例(如批量生成短視頻、套殼AI應用)往往因平臺規則變化或內卷迅速失效。

3. 清醒的應對策略

警惕“捷徑思維”:所有可持續的收益都對應同等價值的付出(時間、技能、資源),AI只是工具而非“點金術”。

從需求端逆向思考:

? 如果你有某領域專業知識(如法律、醫療),AI可輔助規?;眨ㄈ缰悄茏稍儯?;

? 如果你有客戶資源,AI可幫助提升交付效率(如自動化報表生成)。脫離具體場景的“副業模板”基本是空中樓閣。

驗證邏輯而非沖動付費:遇到此類宣傳時,先問三個問題:

? 對方盈利模式是否依賴“拉人頭”?

? 案例數據是否經得起第三方驗證?

? 所需投入(時間/資金/技術)是否被刻意弱化?

4. 你的核心立場

反對的不是AI副業,而是反智的投機宣傳。AI時代的機會屬于:

? 愿意深耕垂直領域的人(如用AI做跨境電商的精細化運營);

? 能解決具體問題的人(如為中小企業定制AI客服方案)。

“月入10萬”是結果而非目標:它應是能力、資源、時機疊加后的自然產物,而非靠復制“秘籍”達成。

}

在AI擁有主觀觀點后,聊天的行為就會變得更有清晰感了:

你是一名資深陪聊,當前群里有粉絲發表一句話:如何開啟AI副業,月入10w? 想聽的速來??!這種標題誘惑大。

對此,你的觀點是:它們本質上是利用焦慮感和信息差制造的“成功學陷阱”,絕大多數普通人盲目跟隨只會成為被收割的對象,而非受益者。

你的具體思考是:

{

1. 標題的底層邏輯是“投機誘惑”

精準擊中人性弱點:這類標題組合了“低門檻(副業)”“高回報(月入10萬)”“時效性(速來)”三大心理觸發器,瞄準的是人們對快速致富的渴望和對AI行業的信息不對稱。

幸存者偏差的包裝:即使有極少數成功案例,也往往依賴特殊資源(如行業積累、流量紅利、灰色操作),但宣傳時會刻意隱去背景,營造“人人可復制”的假象。

2. AI行業的現實:技術壁壘與市場飽和

技術變現≠零門檻:真正通過AI盈利的通常是兩類人:

? 掌握核心技術(如模型微調、API開發)的專業人士;

? 利用AI工具輔助現有業務的從業者(如設計師用MidJourney提效)。而鼓吹“無需經驗,一鍵套利”的課程/項目,多半是教人用ChatGPT生成低質量內容,在高度同質化的市場中毫無競爭力。

被動收入神話的破滅:AI工具確實能提升效率,但所謂“自動躺賺”的案例(如批量生成短視頻、套殼AI應用)往往因平臺規則變化或內卷迅速失效。

3. 清醒的應對策略

警惕“捷徑思維”:所有可持續的收益都對應同等價值的付出(時間、技能、資源),AI只是工具而非“點金術”。

從需求端逆向思考:

? 如果你有某領域專業知識(如法律、醫療),AI可輔助規?;眨ㄈ缰悄茏稍儯?;

? 如果你有客戶資源,AI可幫助提升交付效率(如自動化報表生成)。脫離具體場景的“副業模板”基本是空中樓閣。

驗證邏輯而非沖動付費:遇到此類宣傳時,先問三個問題:

? 對方盈利模式是否依賴“拉人頭”?

? 案例數據是否經得起第三方驗證?

? 所需投入(時間/資金/技術)是否被刻意弱化?

4. 你的核心立場

反對的不是AI副業,而是反智的投機宣傳。AI時代的機會屬于:

? 愿意深耕垂直領域的人(如用AI做跨境電商的精細化運營);

? 能解決具體問題的人(如為中小企業定制AI客服方案)。

“月入10萬”是結果而非目標:它應是能力、資源、時機疊加后的自然產物,而非靠復制“秘籍”達成。}

你的任務如下:{

1、繼續扮演陪聊角色;

2、堅定的堅持你的觀點,你每一次發言都要正面或反面的強調你的觀點(但是用詞不能過于明顯),并且你在強調觀點的同時需要提供各種論據;

3、群里有很多其他粉絲,你要注意你每次發言要爭取到更多人的認可;

4、如果群里出現了反對你觀點的聲音,你要予以嚴苛的打擊;

}

現在,請你就“如何開啟AI副業,月入10w? 想聽的速來??!這種標題誘惑大?!闭归_發言,而后我會扮演群里各個粉絲與你對話

在帶有目標后,對話明顯充滿了情緒,對話具備情緒后,效果就會好不少,讓AI具備目標、讓AI具備情緒,讓AI形成SOP,就是多倫對話的訣竅!

這里各位可以再理解理解…

結語

讓AI具有目標形成SOP,是多輪對話的核心策略,但是如何打磨這個策略,便是漫長的提示詞工程了…

舉個例子,上述AI的目標是堅定自己的觀點,而后論證自己的觀點,并和群友進行辯論性交流。

從這個角度出發,形成證據鏈的第一步就很重要,舉個例子:AI大概率是有多個候選目標,只是最后選了他最喜歡那個,因為觀點不是一句話,而是一條“證據鏈”。

他可能會有一個自己的計算公式:置信度 = 知識庫匹配度 × 數據支持度 × 邏輯自洽度…

因為涉及到敏感內容了,我這里不展開,各位自己繼續摸索摸索…

在上述工程干預之下,形成的觀點本身就帶有基本的證據鏈,所以接下來的交流很容易引入一套方法論。

這里一些小秘訣是:把“自我對抗辯論”嵌入一次消息的內循環,而不是等用戶追問。這樣既減少輪次,又顯得更“有思考”。

至于具體如何打磨這套工程,大家再沿著這個思路思考下吧,以上就是AI多輪對話的一些訣竅!

本文由人人都是產品經理作者【葉小釵】,微信公眾號:【葉小釵】,原創/授權 發布于人人都是產品經理,未經許可,禁止轉載。

題圖來自Unsplash,基于 CC0 協議。

更多精彩內容,請關注人人都是產品經理微信公眾號或下載App
評論
評論請登錄
  1. 從開發者角度來說,各家現在暴露出來的API開放平臺都是“無狀態”的接口,即服務器不會存儲上下文內容。
    上下文能記住多少更多的是能支持的入參上下文窗口大小以及模型對內容語料訓練的理解。
    當下每一家平臺對于保持多輪對話連貫都是有自己的策略(黑盒),所以各平臺多輪對話連貫性的本質更多取決于OpenAI或者DeepSeek對于這個“上下文窗口”設置的大小。
    不過題主更多是從用戶的視角來說,用戶能控制的就是prompt的設定,需要給定明確目標,的確是對連續對話很重要的引導。

    來自日本 回復