16個(gè)月后,中國(guó)大模型的最佳實(shí)踐是什么?

大模型要用起來(lái),才能活起來(lái)。

 

16個(gè)月后,中國(guó)大模型的最佳實(shí)踐是什么?

 

作為同時(shí)具備實(shí)體企業(yè)屬性和數(shù)字技術(shù)能力的新型實(shí)體企業(yè),京東內(nèi)部的供應(yīng)鏈場(chǎng)景恰是大模型應(yīng)用最好的“試驗(yàn)田”。從實(shí)驗(yàn)室到具體場(chǎng)景,從技術(shù)到供應(yīng)鏈,AI應(yīng)用的范例正在出現(xiàn)。

作者| 皮爺

出品|產(chǎn)業(yè)家

大模型已經(jīng)成為一項(xiàng)時(shí)代技術(shù)。在基礎(chǔ)設(shè)施建設(shè)幾年后,人們的關(guān)注點(diǎn)轉(zhuǎn)向應(yīng)用落地問題。而京東在國(guó)內(nèi)技術(shù)企業(yè)中,擁有電商、物流、健康、科技等豐富的供應(yīng)鏈場(chǎng)景,成為大模型技術(shù)落地應(yīng)用的沃土 。

 

大模型在京東的落地實(shí)踐,也更在成為人們關(guān)注的話題點(diǎn)之一。

在2024京東云上海峰會(huì)上,京東就展示了大量大模型應(yīng)用產(chǎn)品和落地案例。包括言犀數(shù)字人3.0平臺(tái)、智能編程助手JoyCoder、言犀智能體平臺(tái),以及小哥終端智能助手、智能導(dǎo)購(gòu)助手、OA助手、智能醫(yī)生助手等對(duì)應(yīng)場(chǎng)景的智能體。

做大模型應(yīng)用的企業(yè)不在少數(shù)。但能讓大模型應(yīng)用在產(chǎn)業(yè)場(chǎng)景里真正跑起來(lái),融入工作流程,產(chǎn)生實(shí)際價(jià)值,則對(duì)千行百業(yè)都有珍貴的借鑒意義。這些大模型應(yīng)用從京東零售、物流、健康、金融等無(wú)數(shù)真實(shí)場(chǎng)景中“長(zhǎng)出來(lái)”,打磨完善后又在以京東云為窗口,逐漸開放給外界。

實(shí)際上,對(duì)于京東,外界一直有所期許。在所有技術(shù)企業(yè)中,京東是少數(shù)具備豐富供應(yīng)鏈場(chǎng)景和數(shù)據(jù)的,能夠?yàn)榇竽P蛻?yīng)用生長(zhǎng)提供土壤。京東以言犀大模型驅(qū)動(dòng)的應(yīng)用,具備“產(chǎn)業(yè)原生”得天獨(dú)厚的優(yōu)勢(shì)。而近期,在去年JDD大會(huì)發(fā)布言犀大模型后,京東又階段性地交出了大模型應(yīng)用的答卷。

“敢為人后,慢即是快?!本〇|沒有讓大模型頻繁刷榜,在新聞熱搜里爭(zhēng)第一,而是在內(nèi)部供應(yīng)鏈場(chǎng)景讓大模型應(yīng)用持續(xù)生長(zhǎng)。京東云宣布:大模型應(yīng)用在內(nèi)部超100個(gè)AI場(chǎng)景全面鋪開,已經(jīng)有超35萬(wàn)京東自有配送員、超23萬(wàn)商家、超5萬(wàn)副主任級(jí)別以上醫(yī)生、超2萬(wàn)采銷運(yùn)營(yíng)、超1萬(wàn)研發(fā)人員得到了大模型應(yīng)用的支持。

16個(gè)月后,中國(guó)大模型的最佳實(shí)踐是什么?

“大模型 要用起來(lái),才能活起來(lái)?!?京東集團(tuán)技術(shù)委員會(huì)主席、京東云事業(yè)部總裁曹鵬表示,京東供應(yīng)鏈?zhǔn)谴竽P蛻?yīng)用的超級(jí)孵化器,京東云持續(xù)將孵化成熟的大模型應(yīng)用打磨、沉淀成產(chǎn)品,為客戶提供服務(wù)。

、“產(chǎn)業(yè)窗口”里的京東大模型

京東云言犀大模型落地應(yīng)用、“撞線”大規(guī)模商業(yè)化的標(biāo)志,就是言犀數(shù)字人直播的618戰(zhàn)績(jī):首秀1小時(shí),“采銷東哥”AI數(shù)字人直播間觀看量超過2000萬(wàn)人次,帶貨GMV超5000萬(wàn)元。這改變了直播電商的范式,幾乎成了電商觀察必談的話題。

數(shù)字人,是京東言犀大模型被看見的第一個(gè)窗口。

不僅在采銷直播間實(shí)現(xiàn)了傲人戰(zhàn)績(jī),言犀數(shù)字人也已經(jīng)開放給平臺(tái)商家,服務(wù)超5000家品牌,帶動(dòng)GMV超過百億元。言犀數(shù)字人集成了京東言犀大模型、聲音處理和多模態(tài)交互等全方位能力,已經(jīng)轉(zhuǎn)化為平臺(tái)商家們實(shí)實(shí)在在的銷售業(yè)績(jī)。

在最廣為人知的言犀數(shù)字人直播之外,其他場(chǎng)景下,大模型應(yīng)用也在遍地開花。

去年12月,京東健康就與溫州醫(yī)科大學(xué)附屬第一醫(yī)院達(dá)成戰(zhàn)略合作,雙方將共建“未來(lái)醫(yī)院智慧服務(wù)”。而雙方合作的底座之一正是“京醫(yī)千詢”大模型。

“京醫(yī)千詢”是基于言犀大模型訓(xùn)練,面向醫(yī)療場(chǎng)景專項(xiàng)訓(xùn)練的行業(yè)垂直大模型。其可以幫助醫(yī)院完成AI前置處方審核、醫(yī)生輔助診療,以及面向患者的前端AI智能診療等等。其中,“AI前置處方審核系統(tǒng)”就于今年在北京海淀區(qū)全面落地,有近百家基層醫(yī)療衛(wèi)生機(jī)構(gòu)使用,日均審核處方超過2萬(wàn)張。

服務(wù)于物流場(chǎng)景的“小哥智能終端助手”,則已經(jīng)裝進(jìn)了超過35萬(wàn)京東自有配送員的手持設(shè)備。無(wú)論是查詢物流規(guī)范,還是輸入攬件信息生成訂單、派送時(shí)給顧客發(fā)去短信,都能極大提高快遞小哥的效率。

在零售營(yíng)銷場(chǎng)景,AIGC營(yíng)銷工具“京點(diǎn)點(diǎn)”就能幫助商家一鍵生成商品圖片,能撰寫商品文案、短視頻腳本等。在金融營(yíng)銷場(chǎng)景,則用上了言犀大模型與部分專有場(chǎng)景營(yíng)銷模型的“組合拳”。原本需要14天準(zhǔn)備的營(yíng)銷活動(dòng),現(xiàn)在1天就能上線。

在技術(shù)研發(fā)場(chǎng)景,智能編碼助手JoyCoder也能幫助研發(fā)工程師自動(dòng)完成過去需要手動(dòng)調(diào)試的代碼轉(zhuǎn)換,對(duì)源代碼的識(shí)別率達(dá)到90%以上,轉(zhuǎn)換的代碼可用率達(dá)到80%,生成代碼采納率超過35%,研發(fā)整體提效30%。

從京東云峰會(huì)我們能清晰地觀察到:不同于其它大模型頻繁刷榜、在底層技術(shù)指標(biāo)“鉆牛角尖”,京東言犀大模型則扎向了企業(yè)內(nèi)部場(chǎng)景,以及平臺(tái)伙伴的供應(yīng)鏈流程上。

京東的大模型為何可以率先扎根產(chǎn)業(yè)場(chǎng)景,結(jié)出豐碩的果實(shí)?

二、產(chǎn)業(yè)為王:A I的第一性原則

大模型應(yīng)該如何發(fā)展,不同企業(yè)有各自的思路。很多企業(yè)是卷技術(shù)研發(fā)、“拿著錘子找釘子”,希望強(qiáng)化通用大模型的能力,也能提升應(yīng)用能力;而京東為代表的另一些企業(yè),則本身?yè)碛挟a(chǎn)業(yè)場(chǎng)景,能讓大模型技術(shù)進(jìn)步與產(chǎn)業(yè)應(yīng)用互相促進(jìn)、形成飛輪。

京東的言犀大模型,在底層訓(xùn)練時(shí)就融入了30%的供應(yīng)鏈原生數(shù)據(jù),這些數(shù)據(jù)來(lái)自于京東自營(yíng)電商的商品SKU、5000萬(wàn)工業(yè)品SKU、超800萬(wàn)家活躍企業(yè)客戶以及全國(guó)超2000個(gè)產(chǎn)業(yè)帶的真實(shí)需求。這使得它能更好應(yīng)對(duì)產(chǎn)業(yè)需求。

如果說(shuō)言犀大模型是更適合產(chǎn)業(yè)應(yīng)用的“大腦”,那么智能體就連接起靈活的四肢,讓人們構(gòu)建大模型應(yīng)用時(shí)更加低門檻和靈活。

這次京東云峰會(huì)發(fā)布的言犀智能體平臺(tái)就能幫助人們快速搭建智能體。和許多智能體平臺(tái)不同的是,在搭建環(huán)節(jié),言犀智能體平臺(tái)不僅能調(diào)用底層的產(chǎn)業(yè)能力模塊,還會(huì)給出細(xì)分領(lǐng)域的行業(yè)知識(shí)增項(xiàng),每個(gè)智能體都相當(dāng)于一個(gè)行業(yè)專家。

舉例來(lái)說(shuō),人力資源部門員工制作培訓(xùn)課程,原本需要剪輯視頻,在反復(fù)觀看、頻繁溝通下,輔以專業(yè)知識(shí),每周最多剪輯完2個(gè)。而利用言犀智能體平臺(tái),員工在2天內(nèi)就能搭建起AI視頻剪輯應(yīng)用,完成智能剪輯工作。

京東云表示,在言犀智能體平臺(tái)上,活躍的智能體已經(jīng)超過3300個(gè),沉淀的行業(yè)解決方案則更是超過100個(gè)。

同樣還有健康和物流。在對(duì)應(yīng)產(chǎn)業(yè)數(shù)據(jù)的訓(xùn)練和微調(diào)下,不論是其基于底層京東言犀大模型進(jìn)行MaaS模型層面的深度開發(fā)(蒸餾、剪枝、拉升等),還是基于RAG或者智能體層面的調(diào)試,都可以達(dá)到更好的實(shí)用效果。

此外,不論是對(duì)內(nèi)還是對(duì)外,基于不同的需求,京東往往基于“大模型+小模型”共用的靈活方式來(lái)解決最終產(chǎn)業(yè)問題,比如在健康場(chǎng)景,京東為客戶提供多款如2b、14b、22b以及80b等不同的模型來(lái)滿足AI處方、診療、患者服務(wù)等不同場(chǎng)景的需求,再比如在物流場(chǎng)景,在京東內(nèi)部,采取的也更是“NLP+傳統(tǒng)大模型”的方式進(jìn)行產(chǎn)品設(shè)計(jì)。

也可以說(shuō),從產(chǎn)業(yè)數(shù)據(jù)底層、產(chǎn)業(yè)需求底層發(fā)散出來(lái)的優(yōu)勢(shì)也恰構(gòu)成著如今京東交出具有靈活性、實(shí)戰(zhàn)性AI產(chǎn)業(yè)應(yīng)用和服務(wù)模型的底層支撐。

三、京東云大模型的落地“啟示錄”

在京東這家既具備底層通用大模型能力,又涉足多元產(chǎn)業(yè)場(chǎng)景和復(fù)雜協(xié)同的企業(yè)里,AI已經(jīng)成為被廣泛使用的底層能力。

“最開始發(fā)布言犀智能體平臺(tái)的時(shí)候,我們還有點(diǎn)擔(dān)心,是不是會(huì)有人使用、能否滿足集團(tuán)同事們的需求?!毖韵悄荏w平臺(tái)負(fù)責(zé)人告訴我們。但業(yè)務(wù)人員利用智能體輔助自己工 作 的熱情,以及調(diào)用智能體、構(gòu)建工作流的次數(shù),都大大超過預(yù)期。

16個(gè)月后,中國(guó)大模型的最佳實(shí)踐是什么?

這些智能體的數(shù)據(jù)來(lái)自真實(shí)的業(yè)務(wù)積累,應(yīng)用在業(yè)務(wù)場(chǎng)景中磨練,工作流凝聚了業(yè)務(wù)人員的行業(yè)Know-How。可以說(shuō),智能體正將京東許多場(chǎng)景的產(chǎn)業(yè)知識(shí)汲取出來(lái),固化到應(yīng)用里,成為可以分享和組合的能力。

涌現(xiàn)的不僅是智能體層面的AI應(yīng)用,在健康、物流、金融等場(chǎng)景之外的其它供應(yīng)鏈細(xì)分節(jié)點(diǎn),如今京東也建立了一套完備的AI模型應(yīng)用體系。

“我們目前會(huì)根據(jù)業(yè)務(wù)的需求看是否要調(diào)整模型的權(quán)重,如果需要調(diào)整,我們就會(huì)采取MaaS的方式,對(duì)模型進(jìn)行調(diào)整;如果不需要,我們就會(huì)用RAG等方式幫助業(yè)務(wù)滿足需求。” 京東基礎(chǔ)大模型相關(guān)負(fù)責(zé)人告訴我們。

如果把視角放大,則更能清晰感知到的是,在如今的京東內(nèi)部,一系列包括C端Agent應(yīng)用、B端模型產(chǎn)品和解決方案等近乎全部京東的業(yè)務(wù)模型和組織模型正在被AI重構(gòu)。

而為這些提供支撐的則是京東如今以言犀大模型為底座的強(qiáng)AI平臺(tái)能力和云平臺(tái)能力。如今,在言犀AI開發(fā)計(jì)算平臺(tái)2.0內(nèi),已經(jīng)內(nèi)嵌了100多種優(yōu)化工具,只需一鍵部署即可釋放90%的推理成本。

此外,言犀AI開發(fā)計(jì)算平臺(tái)2.0支持全部主流國(guó)產(chǎn)化AI算力,支持vGPU;同時(shí),全面升級(jí)的云海3.0也更是無(wú)限支持千億級(jí)參數(shù)AI大模型,基于融合超低延時(shí)RDMA網(wǎng)絡(luò)及軟件架構(gòu)優(yōu)化,4K隨機(jī)寫IOPS達(dá)到1000萬(wàn)級(jí),平均延遲在100微秒級(jí)。

這些強(qiáng)底層能力在構(gòu)成著如今京東在內(nèi)部的無(wú)數(shù)業(yè)務(wù)重構(gòu)的同時(shí),也更在成為著京東云將內(nèi)部的AI實(shí)踐產(chǎn)品向外部釋放的支撐和底氣。

如今,伴隨著越來(lái)越多的實(shí)踐,這些產(chǎn)品仍在進(jìn)化。比如在這次峰會(huì)上京東云言犀數(shù)字人平臺(tái)3.0被重磅發(fā)布,在之前的AI數(shù)字人基礎(chǔ)上,引入直播中臺(tái)模式,同時(shí)上線多種行業(yè)專屬場(chǎng)景,幫助企業(yè)更好 地落地?cái)?shù)字人。

16個(gè)月后,中國(guó)大模型的最佳實(shí)踐是什么?

可以說(shuō),京東作為同時(shí)具備實(shí)體企業(yè)屬性和數(shù)字技術(shù)能力的新型實(shí)體企業(yè),內(nèi)部的供應(yīng)鏈場(chǎng)景成為大模型應(yīng)用最好的“試驗(yàn)田”。這些供應(yīng)鏈場(chǎng)景,幫助大模型應(yīng)用填補(bǔ)了從實(shí)驗(yàn)室走向供應(yīng)鏈的溝壑,讓大模型應(yīng)用能夠扎實(shí)落地、持續(xù)進(jìn)步。

這既是京東的大模型故事,對(duì)中國(guó)土壤上的無(wú)數(shù)正在探索大模型落地的企業(yè),同樣是一筆寶貴的范例財(cái)富。

本文來(lái)自投稿,不代表增長(zhǎng)黑客立場(chǎng),如若轉(zhuǎn)載,請(qǐng)注明出處:http://m.allfloridahomeinspectors.com/cgo/coo/121908.html

(0)
打賞 微信掃一掃 微信掃一掃 支付寶掃一掃 支付寶掃一掃
上一篇 2024-08-02 20:25
下一篇 2024-08-05 00:56

增長(zhǎng)黑客Growthhk.cn薦讀更多>>

發(fā)表回復(fù)

登錄后才能評(píng)論