本文將從AI Agent和大模型的發(fā)展背景切入，結合51Talk、哈啰出行以及B站三個各具特色的行業(yè)案例，帶你一窺事件驅動架構、RAG技術、人機協作流程，以及一整套行之有效的實操方法。具體包含內容有：51Talk如何讓智能客服“主動進攻”，帶來約課率、出席率雙提升；哈啰出行如何由Copilot模式升級為Agent模式，并應用到客服、營銷策略生成等多個業(yè)務場景；B站又是如何借力大模型與RAG方法，引爆了平臺的高效內容檢索和強互動用戶體驗。

AI Agent是什么

AI Agent與大模型的行業(yè)應用

1. 大模型與AI Agent

大模型能夠適應不同的任務，通過少樣本甚至零樣本的方式產生優(yōu)質回答或內容。無論是GPT-4o、ChatGLM、Llama系列，還是Qwen與國內各大廠自研的通用模型，在大規(guī)模參數的加持下，其對人類語言的理解與推理已開始逼近甚至局部超越人類水準。

然而，大模型并不等同于商業(yè)成功，要在復雜業(yè)務中落地，還需要一整套Agent模式來驅動。所謂AI Agent，往往指在大模型之上封裝的高層業(yè)務邏輯與工具交互組件，讓“被動回答”的語言模型搖身一變，成為“主動執(zhí)行”的智能體。很多時候，Agent需要調用外部函數（Function Calling）、與檢索組件（RAG）交互、執(zhí)行特定的業(yè)務流程，才能真正將大模型的潛力釋放出來。

傳統智能客服?vs. RAG?模型智能客服

從業(yè)務視角看，目前AI Agent與大模型的應用有以下幾個鮮明趨勢：

1. RAG與知識檢索：?通過RAG技術，將外部知識庫與大模型結合，減少模型“幻覺”，增強回答的準確性和可追溯性；

   

RAG?模型智能客服框架

1. 多輪對話與人機協作：?Agent不再僅是問答，而是能根據上下文，自主規(guī)劃后續(xù)對話，并可在必要時引入人工坐席或其他系統協同；
2. 事件驅動與主動觸達：?智能體不僅被動響應用戶問題，還能根據業(yè)務事件（比如流量異常、用戶拖單、訂單糾紛）進行主動溝通或任務執(zhí)行；
3. CoT、ReAct等推理范式：?通過Chain-of-Thought、ReAct等技術，引導語言模型在回答前進行多步推理、分析與調用外部API的動作，極大提升了可解釋性與執(zhí)行力。

   

2. 三個行業(yè)案例

• 在線教育：51Talk
  在線教育行業(yè)競爭激烈，用戶付費轉化、課程出席率以及學習全流程服務體驗尤為關鍵。51Talk搭建了智能客服體系，借助事件驅動、RAG模型和人機協作，成功提升了預約率和出席率。這背后究竟是如何實現的？

  

51 Talk的智能客服落地曲折與困難

• 出行服務：哈啰出行
  哈啰出行在國內騎行、打車、順風車、租車等業(yè)務上積累了大量用戶與數據。隨著業(yè)務增長，對用戶服務的智能化需求也愈加豐富。他們從Copilot模式（輔助運營、輔助研發(fā)）進階到Agent模式（執(zhí)行業(yè)務流程、自動生成營銷策略）。其技術架構、模型選型、業(yè)務場景應用的挑戰(zhàn)和思路是怎樣的？

  

哈啰AI場景

• 內容平臺：B站
  B站作為年輕人的潮流文化聚集地，也在客服、內容檢索、UP主創(chuàng)作協同等場景積極探索RAG與強化模型結合的模式。他們基于大模型的RAG檢索，將非結構化海量內容轉換為高效的知識庫，并通過“領域化”微調來保證回答安全可控。他們在“知識構建、檢索效率、回答準確性”方面有哪些經驗可以借鑒？

  

B站領域知識庫的構建

行業(yè)案例深度分析

A. 在線教育案例：51Talk的智能客服與事件驅動落地

1. 業(yè)務背景與需求

對于在線教育平臺而言，客服質量直接關系到用戶留存和續(xù)費率。51Talk在全球范圍內開展在線外教課程，海外業(yè)務量增長迅猛，但客服和銷售人數有限，無法做到24小時高水平在線。傳統的“人工一對多”客服模式常常出現響應滯后、人力成本高等問題。

• 核心業(yè)務指標：預約率、出席率。
• 面臨挑戰(zhàn)：用戶需求復雜多變，客服配比不足，無差別回復無法滿足學員的多樣化場景需求。

2. 傳統方案局限與大模型切入

最早51Talk采用過傳統QABot與TaskBot方式：

• QABot： 基于FAQ的檢索式答疑，但只能被動回答；
• TaskBot（SOP）：針對課程預約、退費咨詢等常見流程，配置流程圖節(jié)點，但僵化，易出現溝通斷層。

然而，由于學生與家長的需求多種多樣、對課程內容及價格的靈活溝通要求較高，傳統方案容易“卡殼”。此時，大模型及RAG技術的出現為客服提供了新的思路。

3. 事件驅動與Agent模式的關鍵設計

（1）主動溝通機制

與許多客服只在用戶發(fā)起提問時提供回答的被動模式不同，51Talk的AI客服會根據用戶在平臺上的關鍵事件（如剛注冊成功、快開課卻未登錄、沒有按時提交作業(yè)等）主動出擊，發(fā)送提示或問候，引導用戶進行下一步操作。

智能觸達服務系統

• 事件來源：后端的教學系統、IM系統、學習行為日志；
• 觸發(fā)邏輯：在DAG編排的流程中定義多種節(jié)點，若某條件滿足就主動向用戶推送信息并等待回復。

  

基于DAG的流程編排

（2）RAG應用

在用戶咨詢如“如何復習”、“課前準備”或課程細節(jié)時，AI客服可調用后端知識庫進行RAG，并將結果拼接到Prompt中，讓LLM在回答時有更豐富的上下文支撐。

• 知識庫：包含歷史人工會話記錄、課程FAQ、運營文檔；
• 向量檢索：采用Milvus或其他向量庫來匹配相似問題與答案，減少“幻覺”回答。

（3）人機協作

當系統信心不足或監(jiān)控到用戶可能情緒不滿（通過文本或語音情緒識別）時，AI客服會自動邀請人工客服介入。同時，AI客服為人工客服提供了“話術推薦”功能，顯著降低了人工回答的時間成本，使得人機協作效率達到最大化。

4. 技術架構與數據指標

在51Talk的方案中，“事件驅動感知器”是一個核心組件：

構建基于事件驅動的用戶行為感知器

• 感知器：實時監(jiān)聽用戶行為事件（注冊登錄、購買課程、上課出勤、作業(yè)提交等），與智能客服主流程做聯動；

  

基于事件驅動的用戶行為感知器

• 智能客服主流程：采用LangChain或Semantic Kernel等多種方式，進行CoT / ReAct式推理；
• RAG檢索：在Prompt中嵌入外部知識，提升答案準確率并降低幻覺；
• 監(jiān)控與反饋：通過用戶對話評價、人工客服的質檢數據進行持續(xù)優(yōu)化。

上線后，51Talk在某些核心業(yè)務場景下的“用戶次日留存”與“課程預約率”得到明顯提升；在客服環(huán)節(jié)，平均響應時長縮短了30%以上，人工成本也降低了20%-30%。

B. 出行服務案例：哈啰出行從Copilot到Agent的進階之路

1. 業(yè)務發(fā)展階段與AI需求

哈啰出行覆蓋范圍廣，包括共享單車、打車、順風車、租車、兩輪換電等，背后有復雜的供需匹配與算法調度，對客服和營銷策略的需求也很高。早期，他們主要使用類似“Copilot”的思路，用大模型給研發(fā)、運營、設計團隊提供輔助，幫助他們提升效率。然而，當業(yè)務進一步擴張，需要更加自動化的流程執(zhí)行時，就必然要把大模型升級為Agent，讓它能“自主決策、主動行動”。

從GPT4-Turbo Demo -> 自研Finetune

2. Copilot模式：低門檻提升人效

在正式實現Agent前，哈啰出行經歷了一個以“人機協作”為主的Copilot階段：

• 研發(fā)Copilot（codeGPT）：?能夠對哈啰內部代碼做語義搜索、自動生成測試代碼、輔助調試；

  

研發(fā)Copilot（codeGPT）

• 運營Copilot（知識庫/客服助手）：?給運營人員提供圖文創(chuàng)意、活動策劃建議；也可在客服領域做話術推薦；

  

  

  

運營Copilot

• 設計Copilot（營銷海報/短視頻）：?運用Stable Diffusion/ControlNet等技術快速生成海報背景、文案，縮短人工設計周期并提高產能。

  

設計Copilot

該階段已顯著降低了人工的重復性勞動，但“大模型僅為工具”，依然依賴人來驅動流程。

3. 從Copilot到Agent的轉型

哈啰意識到，如果能讓模型自己調用業(yè)務API，并根據用戶輸入、業(yè)務事件自動執(zhí)行與回調，就能實現更大的效率爆發(fā)。

哈啰Agent：賦能業(yè)務

• 智能客服機器人：?不僅做多輪對話，還要能查詢用戶訂單信息、發(fā)放優(yōu)惠券等復雜操作；

  

客服Agent：對話機器人

• 營銷策略生成（AIGA）：?自動結合實時供需、庫存、用戶畫像，生成精準的營銷動作（如對某區(qū)域新客推送優(yōu)惠券、針對老客發(fā)送激勵短信等）。

  

AIGA：Item\Action\BidPrice\Strategy

在技術落地上，哈啰出行開發(fā)了Agent編排組件，結合自研大模型或開源模型（ChatGLM、Qwen、Llama2等），為每種業(yè)務場景定制Prompt與調用工具(Function Calling)。關鍵要點包括：

• 對模型進行Finetune：?針對客服、營銷的語料進行監(jiān)督微調，提升模型對哈啰業(yè)務語義的理解；
• RAG增強：?對廣義的業(yè)務知識庫（包括訂單信息、地理位置、用戶歷史、城市網格數據）進行檢索；
• 多模態(tài)融合：?對騎行地圖、軌跡日志、圖像核查等進行解析，Agent可自動調用視覺模型或NLP模型做判斷。

  

Jarvis-大模型平臺

4. 模型選型與挑戰(zhàn)

哈啰在實踐中試用了多種基礎模型：

1. ChatGLM2：顯存占用小，可單卡微調；
2. Qwen-7B/14B/72B：阿里系模型在中文理解方面不錯，但需量化加速；
3. Llama2：國際社區(qū)活躍度高，但中文語義仍需本地適配。

在正式部署Agent后，哈啰出行的客服機器人在對話解析準確率方面有了大幅增長；而營銷AIGC也實現了千人千面的活動策劃與文案生成，大幅度縮短了運營周期。

C. 內容平臺案例：B站的RAG技術實踐

1. 從“傳統智能客服”到“大模型智能客服”轉變

B站作為年輕人的聚集地，有大量的用戶咨詢需求，但很多問題并非簡單FAQ能解決。例如UP主相關規(guī)則、番劇版權、稿件審核、活動投稿流程等都涉及非結構化的政策說明和歷史運營記錄。

• 傳統客服：需要對每個任務、功能單獨設計并維護模型；
• RAG大模型客服：在統一框架下，用RAG來檢索相關的海量文檔，再結合大模型組織答案。

2. B站線上智能客服的攔截率對比

據其內部測算，使用RAG大模型后的客服“攔截率”（即無需人工介入的成功回答比例）顯著提升。官方給出的對比數據顯示，RAG組比基線組提升了不少，有些業(yè)務場景達到20%以上的提升。

3. RAG大模型客服框架

B站把整個客服系統分為三個關鍵模塊：

1. 領域知識庫構建：?從業(yè)務知識、歷史人工會話、FAQ等多來源采集，進行結構化或半結構化處理；
2. 高效檢索知識：?包括query改寫（Re-writing、Step-back、Sub-query拆分）與檢索重排（q-q搜索、q-a match）等；

   

   

   

   

   

如何高效檢索知識

1. 準確回答與安全落地：?利用通用大模型 + prompt工程 或基于RAG進行微調。在實際落地中，B站更傾向微調RAG模型，因為可以更好地控制幻覺并提供拒答能力。

   

   

   

   

如何準確回答安全落地

4. 長文本與長尾問題

B站在應對長尾問題上，還嘗試了“擴大上下文窗口”的方法，把大量的弱相關知識一并提供給模型，讓用戶可多輪交互來澄清問題。但這也帶來了延遲和成本的上升。因此，他們也在探索精細化的檢索策略。

RAG和??本如何協同

5. 技術架構與未來展望

B站的客服系統未來會進一步融合多模態(tài)，比如識別截圖、檢索視頻內容中的時間點等，讓Agent的對話能力更具沉浸感。他們在研究通過Agent交互來調度不同模型，在社區(qū)內容管理、版權巡查、用戶引導等領域取得更多突破。

關鍵技術對比與實踐經驗

1. 大模型基礎技術：LLM、ChatGLM、Qwen等

在51Talk、哈啰出行、B站三家案例中，大模型均扮演了核心角色，但其選擇與微調策略略有不同。

• 51Talk更看重在對話層面對大模型進行針對性Finetune，旨在提高客服場景的專業(yè)性和回答準確率；
• 哈啰出行因涉及多業(yè)務形態(tài)，需要支持客服、營銷文案、語音交互、地理調度等多場景，故更傾向一個綜合性大模型平臺，并通過API + Agent的方式實現落地；
• B站有深厚的技術研發(fā)能力，自研模型bilibili index并進行RAG微調，追求對自己領域內容的強掌控與安全審計。

2. RAG、CoT、ReAct等增強方法

• RAG：
  三家企業(yè)都有RAG的落地：51Talk在課程知識庫檢索；哈啰出行調用業(yè)務數據庫或地理信息；B站針對海量視頻、政策文檔做RAG。這是解決大模型“幻覺”與業(yè)務知識不足的通用利器。
• CoT：
  引導大模型在回答前列出推理過程，便于后續(xù)可解釋性與錯誤追蹤。
• ReAct：
  讓模型在推理過程中隨時進行動作調用，比如調用Function進行數據庫查詢、調第三方API等。對Agent模式十分關鍵。51Talk利用ReAct來在對話中實時獲取用戶上課記錄，哈啰與B站則在多模態(tài)處理和客服多輪交互中多次調用外部工具。

3. 人機協作與用戶體驗優(yōu)化

• 51Talk：在用戶情緒識別或高難度場景下，AI客服會請求人工協助，并提供可能的話術推薦；
• 哈啰：從Copilot開始就強調團隊提效，Agent出現后也保留了人工兜底機制；
• B站：RAG客服具備較高攔截率，但仍需人工做定期質檢與監(jiān)控，保證平臺調性。

行業(yè)應用啟示

1. 多智能體協作與長尾問題解決

隨著多Agent框架與工具鏈的不斷成熟（如LangChain Agents、Semantic Kernel、MiniMax等），一臺機器便能模擬多個智能體在系統內共存、共享記憶、協同工作。類似于“斯坦福小鎮(zhèn)”里的25個虛擬居民，企業(yè)可以在復雜場景下讓客服Agent、營銷Agent、策略Agent等彼此對話并相互協同。對在線教育的場景而言，多個Agent可分別負責課前準備、課中陪練、課后復盤等節(jié)點，真正實現教學流程閉環(huán)；對出行領域，可以把調度Agent、支付Agent、客戶服務Agent集成在一起，實現自動化管理；對內容平臺，可讓審核Agent、推薦Agent、活動Agent共同維持社區(qū)生態(tài)。

2. 多模態(tài)增強

未來AI Agent將不止處理文本，而是可隨時調用圖像、音頻、視頻等多模態(tài)分析模塊。想象一個場景：B站用戶上傳一段新視頻時，Agent能讀取視頻元數據、識別畫面內容，與用戶對話核實版權，然后給出剪輯或配文建議。在線教育領域，如果能對學生的語音朗讀做實時糾錯與發(fā)音優(yōu)化，對教學的輔助價值就更大了。

3. 行業(yè)案例的通用價值

51Talk的事件驅動與RAG客服設計對于其他在線教育平臺或需要提升轉化率的行業(yè)來說，具有普遍借鑒意義；哈啰出行的“Copilot -> Agent”演變，為擁有豐富業(yè)務鏈條的大中型企業(yè)提供了參考；B站對大模型安全與RAG知識檢索的高標準，體現了內容平臺在用戶體驗與內容合規(guī)上的創(chuàng)新點。這些不同領域的實踐都證明了一個事實：只有與具體業(yè)務場景深度融合，AI Agent和大模型的價值才能真正落地。

實踐與技術細節(jié)

1. 51Talk主要技術方案

• 主動溝通機制：?通過事件感知器+延遲消息調度（基于DAG）來觸發(fā)AI客服主動與用戶對話；
• RAG檢索：?使用向量檢索（如Milvus）結合關鍵詞檢索，給大模型提供充分的課程資料；
• 人機協作：?與人工無縫配合，尤其是用戶情緒識別和糾紛場景下；
• 數據效果：?預約率、出席率顯著增長，客服平均響應時間縮短30%，人工成本減少20%-30%。

2. 哈啰出行的Agent模式與AIGC營銷

• Copilot模式：?R&D助手、BI助手、設計助手等使內部團隊迅速提效；
• Agent模式：?讓客服機器人能調API查看訂單、管理優(yōu)惠券；讓營銷Agent能自動生成觸達策略和執(zhí)行動作；
• 多模型選型：?ChatGLM、Qwen、Llama2等開源或自研模型并行評測，使用量化或多卡加速技術；
• 挑戰(zhàn)與對策：?幻覺問題、實時數據對接、語音識別與地理信息處理的多模態(tài)融合。

3. B站的RAG架構、知識檢索與微調

• 知識庫構建：?將業(yè)務知識、歷史人工對話、FAQ等進行篩選、分塊、向量化存儲；
• query改寫技術：?包括Re-writing、Step-back、Sub-query切分；
• RAG微調：?在原大模型基礎上進行監(jiān)督微調、加入思維鏈CoT和函數調用ReAct，顯著降低幻覺并提高回答整合度；
• 業(yè)務指標：?智能客服攔截率提升20%；在答案準確度、拒答能力、用戶滿意度上均有明顯改善。

4. 數據與成效

• 哈啰出行的數據：?效率提升、訂單糾紛判責正確率、客服采納率等都有顯著提高；
• B站的客服攔截率：?由傳統基線上升20%左右；
• 51Talk的預約率和出席率：?提升幅度在10%-20%之間。

5. 實際代碼或框架應用

• LangChain：?提供了多種Agent模式、工具調用管理；
• Semantic Kernel：?微軟推出的多語言SDK，可使用Stepwise Plan等方式編排ReAct流程；
• 開源模型部署：?ChatGLM2、Qwen、Llama2多平臺對比實踐；
• 向量數據庫：?Milvus、PGVector等在檢索場景中的應用。

6. 橫向對比與差異化亮點

• 相似技術：?大模型+RAG、多輪對話、Agent Function調用是三大案例的共同點；
• 差異化亮點：
  • 51Talk：重點解決用戶管理和主動觸達；
  • 哈啰：關注業(yè)務流程自動化和營銷策略生成；
  • B站：核心發(fā)力RAG檢索和客服多輪對話，關注安全落地、長尾問題、長文本場景。

技術驅動業(yè)務突破，業(yè)務需求反哺技術迭代

“人機交互”正在向“多智能體協作”加速演變，相應的工具與方法（RAG、CoT、ReAct、多模態(tài)增強、微調、事件驅動等）正在不斷完善。在下一階段，更多企業(yè)將基于多智能體的協作框架，讓一系列Agent同時管理客服、營銷、運營、審計、推薦等模塊，甚至讓Agent之間互相“交談”，從而形成一個更宏大、更逼近人類社會形態(tài)的自治系統。只有與業(yè)務場景深度綁定，AI才能真正煥發(fā)生命力。51Talk、哈啰出行、B站三個鮮活案例，反映了目前國內互聯網企業(yè)在事件驅動客服、RAG知識增強、多模態(tài)應用、人機協作和Agent自動化執(zhí)行等多層次技術的應用實踐。我們看到不同業(yè)務場景如何在大模型時代迭代自我，利用AI加速業(yè)務增長、提升用戶滿意度、降低整體成本。

• 51Talk在客服體系中將“主動溝通”與“事件驅動”發(fā)揮到極致，既提升了用戶的課程預約與出席率，也保證了多輪對話的流暢度；
• 哈啰出行在多業(yè)務形態(tài)下逐步從Copilot進化為Agent模式，讓AI不再只是輔助，而是能實打實地執(zhí)行業(yè)務任務，包括客服查詢、營銷策略生成等；
• B站則通過領域RAG技術和強化模型，最大化利用自身龐大的內容資產，改善智能客服的精準度、攔截率以及用戶體驗。

在技術層面，三者都體現了大模型+RAG的組合思路，并在應用場景中引入CoT、ReAct等模型推理增強機制，輔以Function Calling和多模態(tài)組件，使Agent對業(yè)務需求做到又快又準。以后我們應該可以期待多Agent協作、長尾問題精細化處理、多模態(tài)融合（圖文音視頻）、強化學習與自適應進化等更深入、更全面的技術落地。

很多企業(yè)也許不具備BAT或大廠那樣的算力與資源，但是可以在具體業(yè)務環(huán)節(jié)挖掘“智能化”切入點，打造強大的AI中臺架構，讓Agent真正為一線業(yè)務服務。當AI逐步滲透到各行各業(yè)最核心的“人貨場”與“用戶交互”環(huán)節(jié)時，我們每個人都將見證一場翻天覆地的智能浪潮。

專家招募

TsingtaoAI面向全球范圍的LLM大模型、具身智能、AI機器人、智算、AIGC、數據科學、金融科技、5G、信創(chuàng)、智能制造、智慧能源等領域招募專家講師，有多種方式合作，合作方式靈活，收益豐厚。歡迎感興趣的專家與我們聯系。