場景描述
Shulex 是一家專注于全球客戶聲音洞察的 AI SaaS 公司，聚焦出海業(yè)務(wù)開發(fā)了 Shulex 智能客服、Shulex VOC 等 SaaS 應(yīng)用，以 Shulex 自研模型為基礎(chǔ)，幫助出海企業(yè)進(jìn)行業(yè)務(wù)創(chuàng)新，實(shí)現(xiàn)業(yè)務(wù)增長。但隨著客戶體驗(yàn)觸點(diǎn)愈加分散，數(shù)據(jù)源愈來愈多，Shulex 遇到以下挑戰(zhàn)：
1.數(shù)據(jù)從之前的亞馬遜電商網(wǎng)站評論分析、客服郵件，增加到社交媒體、網(wǎng)絡(luò)直播、實(shí)時(shí)聊天等多種數(shù)據(jù)源，多渠道、多類型、多語種的客戶數(shù)據(jù)讓基于機(jī)器學(xué)習(xí)模型的應(yīng)用遇到了越來越大的挑戰(zhàn)。
2.Shulex 希望通過生成式 AI 來強(qiáng)化 Shulex 智能客服的能力，使之具備一定程度的 Agent（代理）功能以提供更多形式的服務(wù)，從自身技術(shù)棧出發(fā)，Shulex需要基于“開源”、“性能”和“成本”這幾點(diǎn)進(jìn)行評估和考量。
解決方案
通過 Amazon Bedrock 調(diào)用大語言模型，Shulex 旗下 Shulex VOC 和 Shulex 智能客服兩條產(chǎn)品線對應(yīng)的一系列以“Bot”命名的 AI 工具，得以快速完成開發(fā)，并借助大語言模型強(qiáng)化能力，實(shí)現(xiàn)商業(yè)分析、用戶問題自動應(yīng)答等功能。
1.通過 Amazon Bedrock 調(diào)用 Claude 模型，長達(dá) 200k Tokens 分析能力，讓 Analysis Bot 結(jié)論更可靠。
針對商品的標(biāo)簽，Analysis Bot 能分析用戶留言、評論、社交媒體發(fā)言等多渠道信息，分析該標(biāo)簽背后的原因，從而制定商業(yè)策略。憑借 Claude 模型支持最長 200k 的 Tokens 分析，標(biāo)簽推理不僅能夠支持一次性輸入更多內(nèi)容、進(jìn)行更為高效的分析，內(nèi)容之間的關(guān)聯(lián)性也因此更為緊密，使得標(biāo)簽推理的結(jié)論更有說服力。此外，Shulex 正在將 Claude 3 的強(qiáng)大能力應(yīng)用在商業(yè)分析級別的報(bào)告中，為企業(yè)在用戶畫像洞察、產(chǎn)品規(guī)劃與選品、品質(zhì)口碑與提升、爆款銷售轉(zhuǎn)化上提供可量化依據(jù)。
2.低“幻覺”、高知識召回精度，助力 AI Bot 實(shí)現(xiàn)更佳用戶體驗(yàn)。
AI Bot 是 Shulex 智能客服中用于直接與海外用戶溝通、問答的工具，支持 10 種不同語言的郵件和聊天服務(wù)，且能 24 小時(shí)在線，1 分鐘內(nèi)及時(shí)回復(fù)客戶問題。為服務(wù)好海外客戶，Shulex 為 AI Bot 設(shè)計(jì)了 “構(gòu)建框架 - 應(yīng)用框架 - 強(qiáng)化框架” 三個(gè)階段，而 Amazon Bedrock 上的 Claude 模型，貫穿于這三個(gè)步驟之中，起到了關(guān)鍵作用。
首先，由于每一位客戶的經(jīng)營領(lǐng)域都不一樣，智能客服需要針對海外客戶的經(jīng)營領(lǐng)域，利用 RAG（Retrieval Augmented Generation，檢索增強(qiáng)生成）技術(shù)在構(gòu)建的框架內(nèi)回答問題。第二步是運(yùn)用 RAG 技術(shù)進(jìn)行自然語言提問，并給出回答：識別用戶問題中的關(guān)鍵詞，確認(rèn)用戶意圖，然后根據(jù)意圖進(jìn)行知識召回。第三步也是最重要的一步，則是對現(xiàn)有知識庫中的內(nèi)容進(jìn)行基于相關(guān)度、召回準(zhǔn)確率的排序，同時(shí)匹配用戶的強(qiáng)、弱需求，從而提升回答的準(zhǔn)確性，并不斷強(qiáng)化 RAG 技術(shù)的應(yīng)用效果。
3.借助 Agent 編排能力，擴(kuò)展 Task Bot 服務(wù)范圍。使用 Amazon Bedrock Agent 功能，Shulex 能幫助海外客戶輕松創(chuàng)建和部署完全托管的 Agent。通過調(diào)用 Agent API，復(fù)雜的任務(wù)如計(jì)劃編排、業(yè)務(wù) API 動態(tài)調(diào)用、知識庫查詢，可以被拆分成多個(gè)子任務(wù)并進(jìn)行優(yōu)先級設(shè)定、排序和調(diào)度，確保任務(wù)的順利完成。
成效
在亞馬遜云科技相關(guān)服務(wù)和技術(shù)團(tuán)隊(duì)的協(xié)助下，Shulex 從評估大語言模型能力、提示詞工程優(yōu)化、 Analysis Bot 性能測試、業(yè)務(wù)并發(fā)能力提升、灰度上線測試到全面線上更新，整個(gè)流程僅用時(shí)三周，大幅縮短了生成式 AI 應(yīng)用程序的開發(fā)周期。
1.面向海外客戶業(yè)務(wù)，通過應(yīng)用 Amazon Bedrock 這一強(qiáng)大的生成式 AI 服務(wù)，我們以 Shulex VOC Analysis Bot 為首的一系列 Bot 的能力得到了強(qiáng)化，用戶整體滿意度提升了 15.4%，用戶留存率也提高了 12.1%。
2.Amazon SageMaker 作為全托管的生成式 AI 基礎(chǔ)設(shè)施工具，幫助 Shulex 算法工程師可以更方便地進(jìn)行數(shù)據(jù)清洗、訓(xùn)練和部署自研大語言模型，整體模型迭代時(shí)間比使用傳統(tǒng)訓(xùn)練的方式縮短了 30%。
快報(bào)
根據(jù)《網(wǎng)絡(luò)安全法》實(shí)名制要求，請綁定手機(jī)號后發(fā)表評論
垂直大模型應(yīng)用云服務(wù)