16個(gè)月后，中國(guó)大模型的最佳實(shí)踐是什么？

作為同時(shí)具備實(shí)體企業(yè)屬性和數(shù)字技術(shù)能力的新型實(shí)體企業(yè)，京東內(nèi)部的供應(yīng)鏈場(chǎng)景恰是大模型應(yīng)用最好的“試驗(yàn)田”。從實(shí)驗(yàn)室到具體場(chǎng)景，從技術(shù)到供應(yīng)鏈，AI應(yīng)用的范例正在出現(xiàn)。

作者| 皮爺

出品|產(chǎn)業(yè)家

大模型已經(jīng)成為一項(xiàng)時(shí)代技術(shù)。在基礎(chǔ)設(shè)施建設(shè)幾年后，人們的關(guān)注點(diǎn)轉(zhuǎn)向應(yīng)用落地問題。而京東在國(guó)內(nèi)技術(shù)企業(yè)中，擁有電商、物流、健康、科技等豐富的供應(yīng)鏈場(chǎng)景，成為大模型技術(shù)落地應(yīng)用的沃土 。

大模型在京東的落地實(shí)踐，也更在成為人們關(guān)注的話題點(diǎn)之一。

在2024京東云上海峰會(huì)上，京東就展示了大量大模型應(yīng)用產(chǎn)品和落地案例。包括言犀數(shù)字人3.0平臺(tái)、智能編程助手JoyCoder、言犀智能體平臺(tái)，以及小哥終端智能助手、智能導(dǎo)購(gòu)助手、OA助手、智能醫(yī)生助手等對(duì)應(yīng)場(chǎng)景的智能體。

做大模型應(yīng)用的企業(yè)不在少數(shù)。但能讓大模型應(yīng)用在產(chǎn)業(yè)場(chǎng)景里真正跑起來(lái)，融入工作流程，產(chǎn)生實(shí)際價(jià)值，則對(duì)千行百業(yè)都有珍貴的借鑒意義。這些大模型應(yīng)用從京東零售、物流、健康、金融等無(wú)數(shù)真實(shí)場(chǎng)景中“長(zhǎng)出來(lái)”，打磨完善后又在以京東云為窗口，逐漸開放給外界。

實(shí)際上，對(duì)于京東，外界一直有所期許。在所有技術(shù)企業(yè)中，京東是少數(shù)具備豐富供應(yīng)鏈場(chǎng)景和數(shù)據(jù)的，能夠?yàn)榇竽Ｐ蛻?yīng)用生長(zhǎng)提供土壤。京東以言犀大模型驅(qū)動(dòng)的應(yīng)用，具備“產(chǎn)業(yè)原生”得天獨(dú)厚的優(yōu)勢(shì)。而近期，在去年JDD大會(huì)發(fā)布言犀大模型后，京東又階段性地交出了大模型應(yīng)用的答卷。

“敢為人后，慢即是快?！本〇|沒有讓大模型頻繁刷榜，在新聞熱搜里爭(zhēng)第一，而是在內(nèi)部供應(yīng)鏈場(chǎng)景讓大模型應(yīng)用持續(xù)生長(zhǎng)。京東云宣布：大模型應(yīng)用在內(nèi)部超100個(gè)AI場(chǎng)景全面鋪開，已經(jīng)有超35萬(wàn)京東自有配送員、超23萬(wàn)商家、超5萬(wàn)副主任級(jí)別以上醫(yī)生、超2萬(wàn)采銷運(yùn)營(yíng)、超1萬(wàn)研發(fā)人員得到了大模型應(yīng)用的支持。

“大模型 要用起來(lái)，才能活起來(lái)?！?京東集團(tuán)技術(shù)委員會(huì)主席、京東云事業(yè)部總裁曹鵬表示，京東供應(yīng)鏈?zhǔn)谴竽Ｐ蛻?yīng)用的超級(jí)孵化器，京東云持續(xù)將孵化成熟的大模型應(yīng)用打磨、沉淀成產(chǎn)品，為客戶提供服務(wù)。

一 、“產(chǎn)業(yè)窗口”里的京東大模型

京東云言犀大模型落地應(yīng)用、“撞線”大規(guī)模商業(yè)化的標(biāo)志，就是言犀數(shù)字人直播的618戰(zhàn)績(jī)：首秀1小時(shí)，“采銷東哥”AI數(shù)字人直播間觀看量超過2000萬(wàn)人次，帶貨GMV超5000萬(wàn)元。這改變了直播電商的范式，幾乎成了電商觀察必談的話題。

數(shù)字人，是京東言犀大模型被看見的第一個(gè)窗口。

不僅在采銷直播間實(shí)現(xiàn)了傲人戰(zhàn)績(jī)，言犀數(shù)字人也已經(jīng)開放給平臺(tái)商家，服務(wù)超5000家品牌，帶動(dòng)GMV超過百億元。言犀數(shù)字人集成了京東言犀大模型、聲音處理和多模態(tài)交互等全方位能力，已經(jīng)轉(zhuǎn)化為平臺(tái)商家們實(shí)實(shí)在在的銷售業(yè)績(jī)。

在最廣為人知的言犀數(shù)字人直播之外，其他場(chǎng)景下，大模型應(yīng)用也在遍地開花。

去年12月，京東健康就與溫州醫(yī)科大學(xué)附屬第一醫(yī)院達(dá)成戰(zhàn)略合作，雙方將共建“未來(lái)醫(yī)院智慧服務(wù)”。而雙方合作的底座之一正是“京醫(yī)千詢”大模型。

“京醫(yī)千詢”是基于言犀大模型訓(xùn)練，面向醫(yī)療場(chǎng)景專項(xiàng)訓(xùn)練的行業(yè)垂直大模型。其可以幫助醫(yī)院完成AI前置處方審核、醫(yī)生輔助診療，以及面向患者的前端AI智能診療等等。其中，“AI前置處方審核系統(tǒng)”就于今年在北京海淀區(qū)全面落地，有近百家基層醫(yī)療衛(wèi)生機(jī)構(gòu)使用，日均審核處方超過2萬(wàn)張。

服務(wù)于物流場(chǎng)景的“小哥智能終端助手”，則已經(jīng)裝進(jìn)了超過35萬(wàn)京東自有配送員的手持設(shè)備。無(wú)論是查詢物流規(guī)范，還是輸入攬件信息生成訂單、派送時(shí)給顧客發(fā)去短信，都能極大提高快遞小哥的效率。

在零售營(yíng)銷場(chǎng)景，AIGC營(yíng)銷工具“京點(diǎn)點(diǎn)”就能幫助商家一鍵生成商品圖片，能撰寫商品文案、短視頻腳本等。在金融營(yíng)銷場(chǎng)景，則用上了言犀大模型與部分專有場(chǎng)景營(yíng)銷模型的“組合拳”。原本需要14天準(zhǔn)備的營(yíng)銷活動(dòng)，現(xiàn)在1天就能上線。

在技術(shù)研發(fā)場(chǎng)景，智能編碼助手JoyCoder也能幫助研發(fā)工程師自動(dòng)完成過去需要手動(dòng)調(diào)試的代碼轉(zhuǎn)換，對(duì)源代碼的識(shí)別率達(dá)到90%以上，轉(zhuǎn)換的代碼可用率達(dá)到80%，生成代碼采納率超過35%，研發(fā)整體提效30%。

從京東云峰會(huì)我們能清晰地觀察到：不同于其它大模型頻繁刷榜、在底層技術(shù)指標(biāo)“鉆牛角尖”，京東言犀大模型則扎向了企業(yè)內(nèi)部場(chǎng)景，以及平臺(tái)伙伴的供應(yīng)鏈流程上。

京東的大模型為何可以率先扎根產(chǎn)業(yè)場(chǎng)景，結(jié)出豐碩的果實(shí)？

二、產(chǎn)業(yè)為王：A I的第一性原則

大模型應(yīng)該如何發(fā)展，不同企業(yè)有各自的思路。很多企業(yè)是卷技術(shù)研發(fā)、“拿著錘子找釘子”，希望強(qiáng)化通用大模型的能力，也能提升應(yīng)用能力；而京東為代表的另一些企業(yè)，則本身?yè)碛挟a(chǎn)業(yè)場(chǎng)景，能讓大模型技術(shù)進(jìn)步與產(chǎn)業(yè)應(yīng)用互相促進(jìn)、形成飛輪。

京東的言犀大模型，在底層訓(xùn)練時(shí)就融入了30%的供應(yīng)鏈原生數(shù)據(jù)，這些數(shù)據(jù)來(lái)自于京東自營(yíng)電商的商品SKU、5000萬(wàn)工業(yè)品SKU、超800萬(wàn)家活躍企業(yè)客戶以及全國(guó)超2000個(gè)產(chǎn)業(yè)帶的真實(shí)需求。這使得它能更好應(yīng)對(duì)產(chǎn)業(yè)需求。

如果說(shuō)言犀大模型是更適合產(chǎn)業(yè)應(yīng)用的“大腦”，那么智能體就連接起靈活的四肢，讓人們構(gòu)建大模型應(yīng)用時(shí)更加低門檻和靈活。

這次京東云峰會(huì)發(fā)布的言犀智能體平臺(tái)就能幫助人們快速搭建智能體。和許多智能體平臺(tái)不同的是，在搭建環(huán)節(jié)，言犀智能體平臺(tái)不僅能調(diào)用底層的產(chǎn)業(yè)能力模塊，還會(huì)給出細(xì)分領(lǐng)域的行業(yè)知識(shí)增項(xiàng)，每個(gè)智能體都相當(dāng)于一個(gè)行業(yè)專家。

舉例來(lái)說(shuō)，人力資源部門員工制作培訓(xùn)課程，原本需要剪輯視頻，在反復(fù)觀看、頻繁溝通下，輔以專業(yè)知識(shí)，每周最多剪輯完2個(gè)。而利用言犀智能體平臺(tái)，員工在2天內(nèi)就能搭建起AI視頻剪輯應(yīng)用，完成智能剪輯工作。

京東云表示，在言犀智能體平臺(tái)上，活躍的智能體已經(jīng)超過3300個(gè)，沉淀的行業(yè)解決方案則更是超過100個(gè)。

同樣還有健康和物流。在對(duì)應(yīng)產(chǎn)業(yè)數(shù)據(jù)的訓(xùn)練和微調(diào)下，不論是其基于底層京東言犀大模型進(jìn)行MaaS模型層面的深度開發(fā)（蒸餾、剪枝、拉升等），還是基于RAG或者智能體層面的調(diào)試，都可以達(dá)到更好的實(shí)用效果。

此外，不論是對(duì)內(nèi)還是對(duì)外，基于不同的需求，京東往往基于“大模型+小模型”共用的靈活方式來(lái)解決最終產(chǎn)業(yè)問題，比如在健康場(chǎng)景，京東為客戶提供多款如2b、14b、22b以及80b等不同的模型來(lái)滿足AI處方、診療、患者服務(wù)等不同場(chǎng)景的需求，再比如在物流場(chǎng)景，在京東內(nèi)部，采取的也更是“NLP+傳統(tǒng)大模型”的方式進(jìn)行產(chǎn)品設(shè)計(jì)。

也可以說(shuō)，從產(chǎn)業(yè)數(shù)據(jù)底層、產(chǎn)業(yè)需求底層發(fā)散出來(lái)的優(yōu)勢(shì)也恰構(gòu)成著如今京東交出具有靈活性、實(shí)戰(zhàn)性AI產(chǎn)業(yè)應(yīng)用和服務(wù)模型的底層支撐。

三、京東云大模型的落地“啟示錄”

在京東這家既具備底層通用大模型能力，又涉足多元產(chǎn)業(yè)場(chǎng)景和復(fù)雜協(xié)同的企業(yè)里，AI已經(jīng)成為被廣泛使用的底層能力。

“最開始發(fā)布言犀智能體平臺(tái)的時(shí)候，我們還有點(diǎn)擔(dān)心，是不是會(huì)有人使用、能否滿足集團(tuán)同事們的需求?！毖韵悄荏w平臺(tái)負(fù)責(zé)人告訴我們。但業(yè)務(wù)人員利用智能體輔助自己工 作 的熱情，以及調(diào)用智能體、構(gòu)建工作流的次數(shù)，都大大超過預(yù)期。

這些智能體的數(shù)據(jù)來(lái)自真實(shí)的業(yè)務(wù)積累，應(yīng)用在業(yè)務(wù)場(chǎng)景中磨練，工作流凝聚了業(yè)務(wù)人員的行業(yè)Know-How。可以說(shuō)，智能體正將京東許多場(chǎng)景的產(chǎn)業(yè)知識(shí)汲取出來(lái)，固化到應(yīng)用里，成為可以分享和組合的能力。

涌現(xiàn)的不僅是智能體層面的AI應(yīng)用，在健康、物流、金融等場(chǎng)景之外的其它供應(yīng)鏈細(xì)分節(jié)點(diǎn)，如今京東也建立了一套完備的AI模型應(yīng)用體系。

“我們目前會(huì)根據(jù)業(yè)務(wù)的需求看是否要調(diào)整模型的權(quán)重，如果需要調(diào)整，我們就會(huì)采取MaaS的方式，對(duì)模型進(jìn)行調(diào)整；如果不需要，我們就會(huì)用RAG等方式幫助業(yè)務(wù)滿足需求。” 京東基礎(chǔ)大模型相關(guān)負(fù)責(zé)人告訴我們。

如果把視角放大，則更能清晰感知到的是，在如今的京東內(nèi)部，一系列包括C端Agent應(yīng)用、B端模型產(chǎn)品和解決方案等近乎全部京東的業(yè)務(wù)模型和組織模型正在被AI重構(gòu)。

而為這些提供支撐的則是京東如今以言犀大模型為底座的強(qiáng)AI平臺(tái)能力和云平臺(tái)能力。如今，在言犀AI開發(fā)計(jì)算平臺(tái)2.0內(nèi)，已經(jīng)內(nèi)嵌了100多種優(yōu)化工具，只需一鍵部署即可釋放90%的推理成本。

此外，言犀AI開發(fā)計(jì)算平臺(tái)2.0支持全部主流國(guó)產(chǎn)化AI算力，支持vGPU；同時(shí)，全面升級(jí)的云海3.0也更是無(wú)限支持千億級(jí)參數(shù)AI大模型，基于融合超低延時(shí)RDMA網(wǎng)絡(luò)及軟件架構(gòu)優(yōu)化，4K隨機(jī)寫IOPS達(dá)到1000萬(wàn)級(jí)，平均延遲在100微秒級(jí)。

這些強(qiáng)底層能力在構(gòu)成著如今京東在內(nèi)部的無(wú)數(shù)業(yè)務(wù)重構(gòu)的同時(shí)，也更在成為著京東云將內(nèi)部的AI實(shí)踐產(chǎn)品向外部釋放的支撐和底氣。

如今，伴隨著越來(lái)越多的實(shí)踐，這些產(chǎn)品仍在進(jìn)化。比如在這次峰會(huì)上京東云言犀數(shù)字人平臺(tái)3.0被重磅發(fā)布，在之前的AI數(shù)字人基礎(chǔ)上，引入直播中臺(tái)模式，同時(shí)上線多種行業(yè)專屬場(chǎng)景，幫助企業(yè)更好 地落地?cái)?shù)字人。

可以說(shuō)，京東作為同時(shí)具備實(shí)體企業(yè)屬性和數(shù)字技術(shù)能力的新型實(shí)體企業(yè)，內(nèi)部的供應(yīng)鏈場(chǎng)景成為大模型應(yīng)用最好的“試驗(yàn)田”。這些供應(yīng)鏈場(chǎng)景，幫助大模型應(yīng)用填補(bǔ)了從實(shí)驗(yàn)室走向供應(yīng)鏈的溝壑，讓大模型應(yīng)用能夠扎實(shí)落地、持續(xù)進(jìn)步。

這既是京東的大模型故事，對(duì)中國(guó)土壤上的無(wú)數(shù)正在探索大模型落地的企業(yè)，同樣是一筆寶貴的范例財(cái)富。