HR、PMO、邀約客服培訓(xùn)、質(zhì)檢培訓(xùn)、安全風(fēng)控、財(cái)務(wù)、金融客服問(wèn)答等 14 類(lèi)場(chǎng)景的數(shù)十個(gè)應(yīng)用，都針對(duì)海外業(yè)務(wù)基于亞馬遜云科技已經(jīng)部署或開(kāi)始測(cè)試生成式 AI 應(yīng)用。解決方案如下：1.從模型選擇與評(píng)估、提升數(shù)據(jù)質(zhì)量到模型微調(diào)，端到端生成式 AI 應(yīng)用創(chuàng)新服務(wù)讓快速落地
在面向海外業(yè)務(wù)的各類(lèi)場(chǎng)景的生成式 AI 應(yīng)用部署中，貨拉拉還需解決模型評(píng)估和篩選、數(shù)據(jù)準(zhǔn)備和模型微調(diào)等問(wèn)題，亞馬遜云科技提供了一站式端到端的生成式 AI 服務(wù)，幫助貨拉拉加速在其海外業(yè)務(wù)中的生成 AI 應(yīng)用落地。
1）模型評(píng)估和篩選：針對(duì)貨拉拉的海外業(yè)務(wù)流程，亞馬遜云科技 AI 應(yīng)用科學(xué)家先后對(duì) 10 款模型進(jìn)行測(cè)試評(píng)估，評(píng)估數(shù)據(jù)包括 1000 條線上真實(shí)數(shù)據(jù)以及 LLM 生成的數(shù)據(jù)相結(jié)合，將準(zhǔn)確率、召回率、任務(wù)完成率作為模型選擇標(biāo)準(zhǔn)。以邀約質(zhì)檢場(chǎng)景邀約話術(shù)場(chǎng)景為例，Claude3 Sonnet 在基準(zhǔn)測(cè)試中準(zhǔn)確率為 0.98，精準(zhǔn)度為 0.99，召回率為 1，F(xiàn)1-Score 為 0.99，橫向評(píng)估中獲得第一。
2）數(shù)據(jù)生成和數(shù)據(jù)質(zhì)量提升：通過(guò)亞馬遜云科技調(diào)用 LLM，根據(jù)基本業(yè)務(wù)流程和提示詞來(lái)生成數(shù)據(jù)、清洗數(shù)據(jù)并提升數(shù)據(jù)質(zhì)量，使用 Amazon Bedrock API 共生成 3000 條數(shù)據(jù)，并過(guò)濾掉輪次過(guò)短、說(shuō)話主體不明確、沒(méi)有模擬生成 API 接口輸出的對(duì)話，以確保數(shù)據(jù)質(zhì)量滿足業(yè)務(wù)需求。
3）模型微調(diào)：亞馬遜云科技基于貨拉拉的業(yè)務(wù)需求對(duì)多款開(kāi)源模型進(jìn)行了微調(diào)，由于當(dāng)前訓(xùn)練數(shù)據(jù)相對(duì)較少，因此最終采用了 Lora 的方法進(jìn)行訓(xùn)練。此外，還嘗試構(gòu)造更多樣化的數(shù)據(jù)及人工清洗的方式，在保證數(shù)據(jù)的質(zhì)量和多樣性的基礎(chǔ)上，進(jìn)行全參微調(diào)，進(jìn)一步提高模型泛化能力。
2.通過(guò)亞馬遜云科技 Amazon Bedrock 調(diào)用 Claude 3 模型，多模態(tài)識(shí)別讓貨拉拉更絲滑處理問(wèn)題、提升用戶體驗(yàn)
貨拉拉的海外業(yè)務(wù)處理中，接收到的信息從原來(lái)的文字版信息，越來(lái)越多地轉(zhuǎn)變?yōu)楦黝?lèi)圖文信息，接收到的圖文問(wèn)答、保險(xiǎn)單比價(jià)，都需要從圖片里面去解析和提取信息。貨拉拉通過(guò)亞馬遜云科技 Amazon Bedrock 調(diào)用 Claude 3 模型，利用其優(yōu)秀的多模態(tài)識(shí)別能力進(jìn)行圖文問(wèn)答、圖文推薦、比價(jià)等，海外業(yè)務(wù)實(shí)際應(yīng)用效果非常好。
比如車(chē)險(xiǎn)比價(jià)場(chǎng)景中，可能接收到海外用戶對(duì)于車(chē)險(xiǎn)選擇的咨詢，然后收到一個(gè)截圖。以前，只能借助文字去跟用戶溝通，一步一步地詢問(wèn)各種信息、可能中間還涉及大量的解釋和溝通，才能獲取到足夠的信息來(lái)定位問(wèn)題。借助 LLM 的多模態(tài)識(shí)別，迅速根據(jù)圖片解析各類(lèi)數(shù)據(jù)和信息，業(yè)務(wù)人員能更及時(shí)、更清晰地了解用戶的訴求、用車(chē)等相關(guān)信息，可以更快地為海外用戶推薦適配需求的車(chē)險(xiǎn)，大大加快問(wèn)題處理速度，提升用戶體驗(yàn)。
成效
1.生成式 AI 實(shí)驗(yàn)時(shí)間從 3 個(gè)月縮短到 6 周，15 個(gè)海外業(yè)務(wù)已部署生成式 AI 應(yīng)用：通過(guò)與亞馬遜云科技的通力合作，貨拉拉業(yè)務(wù)的各個(gè)領(lǐng)域，包括針對(duì)海外業(yè)務(wù)的 14 類(lèi)業(yè)務(wù)場(chǎng)景和數(shù)十個(gè)業(yè)務(wù)已經(jīng)開(kāi)始嘗試采用生成式 AI，其中 15 個(gè)業(yè)務(wù)的生成式 AI 應(yīng)用已經(jīng)上線。利用亞馬遜云科技生成式 AI 能力，貨拉拉可以減少模型訓(xùn)練的時(shí)間，高效檢驗(yàn)不同 LLM 與業(yè)務(wù)場(chǎng)景需求的匹配度，快速進(jìn)行業(yè)務(wù)創(chuàng)新實(shí)驗(yàn)，將實(shí)驗(yàn)時(shí)間從 3 個(gè)月縮短到 6 周，將更多的時(shí)間用來(lái)提升數(shù)據(jù)的質(zhì)量和精確度及優(yōu)化提示詞。
2.效率提升、成本降低，應(yīng)用上線時(shí)間從 1 至 2 天縮短為 10 多分鐘：以前貨拉拉上線一項(xiàng)新應(yīng)用或功能，可能需要一至兩天。貨拉拉通過(guò)構(gòu)建悟空平臺(tái)，集成業(yè)界主流 LLM，面向公司的海外業(yè)務(wù)，通過(guò)低代碼或零代碼方式快速搭建應(yīng)用，利用模型組件化，可視化、采取拖拉拽式的操作，僅十幾分鐘就能把一項(xiàng)業(yè)務(wù)搭建起來(lái)，大大地促進(jìn)業(yè)務(wù)上線效率。引入生成式 AI 不僅提升了業(yè)務(wù)效率，還為海外業(yè)務(wù)實(shí)現(xiàn)了成本節(jié)省，比如培訓(xùn)業(yè)務(wù)中引入生成式 AI 后，除了提升司機(jī)體驗(yàn)外，每年預(yù)計(jì)為培訓(xùn)師節(jié)省上千小時(shí)的培訓(xùn)時(shí)長(zhǎng)，大大降低公司的培訓(xùn)成本。
3.邀約質(zhì)檢覆蓋抽樣率提升 10 倍，更高效審核對(duì)話規(guī)范性：通過(guò)大模型進(jìn)行質(zhì)檢，可以更多地去檢測(cè)發(fā)現(xiàn)業(yè)務(wù)運(yùn)營(yíng)中的問(wèn)題。以前由于人力、成本的限制，質(zhì)檢抽樣率較低。 現(xiàn)在，貨拉拉基于亞馬遜云科技的生成式 AI
能力可以將抽檢率提升 10 倍，將對(duì)客服邀約人員與司機(jī)對(duì)話的規(guī)范性進(jìn)行更為廣泛、高效的審核，規(guī)范邀約人員話術(shù)行為，必將增強(qiáng)司機(jī)的體驗(yàn)。
本文系作者
亞馬遜云科技 授權(quán)鈦媒體發(fā)表，并經(jīng)鈦媒體編輯，轉(zhuǎn)載請(qǐng)注明出處、作者和
本文鏈接。
本內(nèi)容來(lái)源于鈦媒體鈦度號(hào)，文章內(nèi)容僅供參考、交流、學(xué)習(xí)，不構(gòu)成投資建議。
想和千萬(wàn)鈦媒體用戶分享你的新奇觀點(diǎn)和發(fā)現(xiàn)，
點(diǎn)擊這里投稿 。創(chuàng)業(yè)或融資尋求報(bào)道，
點(diǎn)擊這里。
掃描下載App
快報(bào)
根據(jù)《網(wǎng)絡(luò)安全法》實(shí)名制要求，請(qǐng)綁定手機(jī)號(hào)后發(fā)表評(píng)論
不錯(cuò)
生成式AI助力提質(zhì)增效
是否應(yīng)用基本的大數(shù)據(jù)分析方法就能夠解決問(wèn)題了？