場景描述
華通證券國際有限公司（以下簡稱華通證券）是擁有 33 年證券行業(yè)經(jīng)驗的持牌券商，華通證券的海外客戶咨詢時，往往涉及大量的賬戶信息和交易數(shù)據(jù)等，客戶若得不到及時回復(fù)，就會缺乏安全感，同時對公司的信任度也會大大降低。
解決方案
面向海外客戶，華通證券通過亞馬遜云科技 Amazon Bedrock 調(diào)用 Anthropic Claude 3 模型構(gòu)建 AI 客服，通過 Claude Sonnet、Haiku 模型識別客戶意圖，結(jié)合華通證券的自建知識庫，和引入的開源 embedding（嵌入）模型，自動生成專業(yè)嚴謹、滿足客戶訴求的回復(fù)。
在 AI 客服構(gòu)建中，起初華通證券的工程師自己摸索編寫提示詞，初始版本的 AI 客服生成的答復(fù)用語較長，句式不太符合口語表達習(xí)慣，效果不盡理想。
為此，亞馬遜云科技專門安排了專家團隊來到華通證券，提供關(guān)于提示詞的最佳實踐介紹和技術(shù)支持，幫助華通證券開發(fā)人員清晰了解不同的提示詞及其對應(yīng)的大語言模型輸出效果，指導(dǎo)開發(fā)人員更好地構(gòu)建有效的提示詞庫。經(jīng)過 PE（Prompt Engineering，提示詞工程）優(yōu)化后，AI 客服生成的回復(fù)比較簡短，有更多更個性化表現(xiàn)，句式和口吻等更符合日常交流，讓 AI 客服的角色設(shè)定更符合既定要求，更自然和人性化。
除了 AI 客服，華通證券面向海外客戶通過與亞馬遜云科技 Amazon Bedrock 調(diào)用 Claude 模型，結(jié)合向量知識庫、文本語音互轉(zhuǎn)等技術(shù)，整合上市公司、資本市場相關(guān)數(shù)據(jù)，打造并發(fā)布了 AI 投資者關(guān)系官。上市公司通過 AI 投資者關(guān)系官數(shù)字人與海外投資者無縫溝通，回答投資者各類提問，提升上市公司的投資者關(guān)系工作生產(chǎn)力。
此外，AI 投資者關(guān)系官還能為上市公司提供增值服務(wù)，在華通證券的上市公司與投資者社區(qū)中面向投資者開展上市公司直播，通過 AI 投資者關(guān)系官數(shù)字人的持續(xù)曝光，與華通證券實現(xiàn)流量互引，在投資者中擴大雙方的品牌覆蓋和提升品牌形象。
在實際的部署和應(yīng)用中發(fā)現(xiàn)，相比于華通證券之前采用的其它大語言模型，通過 Amazon Bedrock 調(diào)用 Claude 模型，不僅僅綜合性能更好，而且安全性也得到了更充分保障。
成效
3 個月落地 2 項生成式 AI 應(yīng)用，讓 AI 客服效能起飛，投資者關(guān)系管理再進化
華通證券的生成式 AI 應(yīng)用部署，原本預(yù)計需要半年才能完成。和亞馬遜云科技合作后，通過 Amazon Bedrock 調(diào)用先進的大語言模型和端到端生成式 AI 服務(wù)，從初步接洽、POC 測試、架構(gòu)部署，到 AI 客服、AI 投資者關(guān)系官最終上線，僅用不到 3 個月就完成了應(yīng)用落地。
7*24 小時 “秒回” 響應(yīng)和個性化準確回復(fù)，將客戶投訴率降低 80%
通過 Amazon Bedrock 調(diào)用 Claude 模型，AI 客服可以準確地識別海外客戶意圖，將客服響應(yīng)時間從數(shù)分鐘壓縮到 3 秒內(nèi)，7*24 小時、近乎實時地處理客戶咨詢和服務(wù)請求。Claude 模型在角色扮演類場景表現(xiàn)突出，借助 PE 進行提示詞優(yōu)化后，AI 客服面向海外客戶生成的回復(fù)更加個性化和貼近日常對話，符合角色設(shè)定?？头?ldquo;秒回”式響應(yīng)和個性化準確回復(fù)，讓客戶投訴率降低 80%，增強客戶體驗，客戶粘性進一步加強。
AI 客服提高客服人員效率，綜合運營成本節(jié)省了 36.6%
在生成式 AI 應(yīng)用部署前，華通證券面向海外客戶的客服工作需要配置兩位白天客服和五位夜間客服。通過亞馬遜云科技引入生成式 AI 技術(shù)后，客服人員只需對大語言模型生成的回復(fù)內(nèi)容進行審核和增強，大大節(jié)省了客服人員效率。華通證券僅需采用 3 位人工客服配合 AI 客服即可勝任之前的海外客服工作，客服人員的培訓(xùn)、管理成本均大大減少，調(diào)配的客服資源還可投入到更具生產(chǎn)力的崗位中，綜合運營成本節(jié)省了 36.6%。
除了客服和投資者關(guān)系官這兩大場景外，華通證券還在嘗試生成式 AI 在證券業(yè)務(wù)更多場景如結(jié)算、投顧、HR 中的應(yīng)用。華通證券期望借助生成式 AI 生成財務(wù)報表、生成市場分析報告、提供投資建議、提供風(fēng)險管理提示、撰寫新聞稿等，減少人工在這些場景中的時間和成本投入，提升業(yè)務(wù)流程的智能化和效率。華通證券與亞馬遜云科技將繼續(xù)探索如何把最新生成式 AI 技術(shù)引入到證券業(yè)務(wù)中，并一起規(guī)劃、構(gòu)建和部署生成式 AI 應(yīng)用，推動行業(yè)的數(shù)智升級。
快報
根據(jù)《網(wǎng)絡(luò)安全法》實名制要求，請綁定手機號后發(fā)表評論
生成式AI回答客戶咨詢的準確性、合規(guī)性目前還是存在一定問題的。
這個場景真的需要用到大模型技術(shù)么？