8月30日，上海市國資委發(fā)布2024上海國資國企數(shù)字化轉(zhuǎn)型應用場景清單，覆蓋了40家企業(yè)集團的308個場景。場景清單中對前沿科技、數(shù)字技術(shù)需求旺盛，其中AI大模型等新技術(shù)場景需求金額接近12億元，占到總需求金額近1/3，308個場景中涉及行業(yè)典型應用示范101個，行業(yè)級應用場景需求覆蓋交通、金融、新消費等多個行業(yè)。此外，由上海市國資委、經(jīng)信委、數(shù)據(jù)局共同揭牌成立的上海國資國企數(shù)字化轉(zhuǎn)型創(chuàng)新基地還大力支持支持企業(yè)落地垂類大模型應用。

產(chǎn)業(yè)需求旺盛，大模型正在加快重塑諸多行業(yè)的應用場景，引發(fā)新一輪產(chǎn)業(yè)變革。中國信息通信研究院人工智能所主任曹峰說“大模型產(chǎn)業(yè)化落地已進入關(guān)鍵階段，已經(jīng)在多個通用場景取得了較好的效果，當前正處于從通用場景向?qū)I(yè)場景拓展的關(guān)鍵期，專業(yè)場景是應用拓展的核心方向，企業(yè)“研產(chǎn)供銷服”全業(yè)務場景均有大量高價值場景待與AI深度融合。”

AI大模型應用場景產(chǎn)學研融通創(chuàng)新對接交流會

大模型產(chǎn)業(yè)的發(fā)展現(xiàn)狀如何，落地應用面臨的挑戰(zhàn)有哪些，企業(yè)落地AI大模型的問題有哪些以及破局之道是什么？針對這些當下大模型產(chǎn)業(yè)落地的核心話題，本周二，中國信息通信研究院人工智能所主任曹峰、北京智源人工智能研究院行業(yè)應用團隊專家于龍斌、首都醫(yī)科大學科技成果轉(zhuǎn)化部技術(shù)轉(zhuǎn)移辦公室主任郜文等行業(yè)專家代表、AI大模型解決方案單位代表齊聚北京，展開深入的探討與交流。

01大模型技術(shù)快速演進

中國信息通信研究院人工智能所主任曹峰談道，大模型參數(shù)規(guī)模從最初的百億級迅速發(fā)展到千億級甚至萬億級，規(guī)模擴張紅利仍然持續(xù)，模型規(guī)模增大能有效提升任務效果；混合架構(gòu)和多模態(tài)為大模型算法演進開辟新方向。

中國信息通信研究院人工智能所主任曹峰

曹峰指出，基礎設施作為支撐人工智能實現(xiàn)突破的基座，主要集中在訓練、推理及應用開發(fā)三個方面。模型雖然作為AI的核心的技術(shù)，但是它在落地仍然會遇到一系列的問題，首先要解決如何進行高效低成本的訓練，所以在訓練側(cè)，分布式框架技術(shù)的突破，集群擴張，芯片的優(yōu)化就是在推動高效低成本訓練。推理側(cè)的核心的問題也是降低成本，架構(gòu)優(yōu)化、技術(shù)優(yōu)化和芯片優(yōu)化持續(xù)降低了推理成本及兼容性應用成本，今年年中開始大模型廠商都在降價就是得益于推理成本的持續(xù)降低。此外圍繞模型的全生命周期在創(chuàng)新，大模型的工程落地架構(gòu)逐漸清晰，分為基礎設施層、平臺工具層、模型庫和數(shù)據(jù)集層、應用開發(fā)平臺層，大模型主要創(chuàng)新方向是降低應用門檻，豐富應用場景和模式。

北京科智咨詢有限公司研究總監(jiān)弓瑞峰表示，技術(shù)突破讓大模型越過夭折線進入成長期，開始產(chǎn)業(yè)化。

北京科智咨詢有限公司研究總監(jiān)弓瑞峰

目前AI大模型產(chǎn)業(yè)算力及應用兩翼迅猛發(fā)展，截至2024年8月底有400個智算中心正在建設中，截至今年4月，已上線的大模型超過260個，其中面向行業(yè)及業(yè)務場景的垂類大模型占比近80%。

02 落地應用面臨的挑戰(zhàn)有哪些

曹峰指出，大模型在通用場景的落地已取得較好效果，例如表格處理、會議轉(zhuǎn)錄等，這些應用能夠有效提升辦公效率，降低人工成本。然而，在專業(yè)場景，例如工業(yè)質(zhì)檢、金融風控等，大模型的落地仍然面臨著挑戰(zhàn)。這些場景往往需要更高的準確性和更強的專業(yè)知識，對大模型的泛化能力和魯棒性提出了更高的要求。

曹峰強調(diào)，大模型的落地需要強大的算力、數(shù)據(jù)和算法支撐，這對許多企業(yè)來說是一個巨大的挑戰(zhàn)，不同行業(yè)和場景對大模型的需求差異很大，需要進行定制化開發(fā)，才能滿足特定場景的需求。

北京智源人工智能研究院行業(yè)應用團隊專家于龍斌表示，今年大家都在講卷應用，如何才能真正讓大模型在行業(yè)應用落地，需要關(guān)注大小模型協(xié)同、模型高效化和小型化、數(shù)據(jù)質(zhì)量、算力適配與優(yōu)化、多模態(tài)大模型發(fā)展以及復合型人才培養(yǎng)等這幾方面的關(guān)鍵問題。

展開來說，大模型與小模型協(xié)同發(fā)展，端側(cè)小模型采集敏感數(shù)據(jù)，后端大模型進行分析，通過模型量化、壓縮、剪枝等技術(shù)降低模型參數(shù)量級，提升效率并降低資源消耗，讓模型高效化，智源和中國衛(wèi)星的合作就是用來一個0.3B參數(shù)的多模態(tài)模型。高質(zhì)量的數(shù)據(jù)是模型訓練的關(guān)鍵，數(shù)據(jù)的匯聚、清洗、分類等處理至關(guān)重要。此外還要積極適配國產(chǎn)GPU，優(yōu)化網(wǎng)絡架構(gòu)，提升算力利用效率。現(xiàn)在行業(yè)都在卷模型卷應用，但針對于又懂業(yè)務又懂技術(shù)的復合型人才，是比較短缺的，這也是技術(shù)方和應用方合作時產(chǎn)生的共識。

針對大模型應用落地在某一特定行業(yè)，首都醫(yī)科大學科技成果轉(zhuǎn)化部技術(shù)轉(zhuǎn)移辦公室主任郜文從大模型在醫(yī)療場景的應用展開了更深入的分享。

郜文談道，醫(yī)學具有不確定性，大模型的知識積累并不能代替醫(yī)生的經(jīng)驗和判斷。醫(yī)療領域需要明確大模型的定位和應用場景，避免資源浪費。醫(yī)療大模型的應用定位應該是大型醫(yī)院醫(yī)生的助手，來幫助醫(yī)生管理病人，提升溝通效率；基層醫(yī)生的指導老師，為基層醫(yī)生提供便捷的知識和經(jīng)驗支持。

關(guān)于大模型在醫(yī)療領域的落地也有許多難題，首先醫(yī)生是一個謹慎的群體，需要積極溝通并取得他們的信任和合作。其次是醫(yī)療數(shù)據(jù)問題，醫(yī)療數(shù)據(jù)是一個很大的資產(chǎn)，關(guān)于數(shù)據(jù)資產(chǎn)的確權(quán)非常難，郜文指出，個體醫(yī)療數(shù)據(jù)看似屬于個人，但海量數(shù)據(jù)的聚合卻使得權(quán)屬變得模糊，究竟是屬于病人、醫(yī)院還是數(shù)據(jù)處理公司，目前尚無定論，這種權(quán)屬的不確定性也會導致許多公司在處理醫(yī)療數(shù)據(jù)時面臨法律風險。此外，醫(yī)療領域的技術(shù)產(chǎn)品還面臨著嚴格的行政監(jiān)管，例如基因編輯技術(shù)，雖然是領先的技術(shù)，但也必須符合倫理規(guī)范和政策管理制度，否則就無法應用。

個體醫(yī)療數(shù)據(jù)

郜文認為，在醫(yī)療領域應用大模型或開展相關(guān)研究時，必須充分重視數(shù)據(jù)確權(quán)和政策合規(guī)性問題，在政策允許的范圍內(nèi)開展工作，才能確保項目的順利進行并避免潛在的法律和倫理風險。

而針對大模型產(chǎn)業(yè)發(fā)展的限制因素，北京科智咨詢有限公司研究總監(jiān)弓瑞峰認為，一是場景應用不夠豐富，國外大模型應用場景和行業(yè)覆蓋范圍更廣，國內(nèi)應用落地仍需拓展。二是共生生態(tài)建設不夠完善，高校、科研機構(gòu)、AI服務商之間缺乏有效協(xié)同，產(chǎn)學研合作有待加強。三是智能算力供應受限，高端訓練芯片仍受制于國外廠商，國產(chǎn)芯片在訓練芯片領域仍需突破。

03企業(yè)如何落地AI大模型

曹峰認為，企業(yè)落地AI應從工程思維出發(fā)，構(gòu)建體系化的“架構(gòu)圖”和“方法論”。曹峰建議，企業(yè)落地大模型需要明確技術(shù)指標和評估方法，選擇適合自身需求的模型，并構(gòu)建一整套支撐模型運行和應用的工程架構(gòu)，包括硬實力建設和軟體系建設。

曹峰還總結(jié)了企業(yè)落地大模型的八大關(guān)鍵技術(shù)。

1.構(gòu)建高可用、高性能、可擴展的智算設施，大模型的訓練和推理對算力基礎設施提出了更高的要求，企業(yè)需要建設高質(zhì)量的智算中心，具備高能效的算力供給、高性能的存力保障和高可靠的運力承載能力。

2.夯實企業(yè)面向人工智能的數(shù)據(jù)治理和供給體系，企業(yè)需要構(gòu)建面向AI的數(shù)據(jù)治理體系，解決業(yè)務數(shù)據(jù)“高量低質(zhì)”、數(shù)據(jù)管理體系不成熟以及數(shù)據(jù)和模型流水線匹配度不夠等問題，為大模型提供高質(zhì)量的數(shù)據(jù)支持。

3.構(gòu)建人工智能中臺，企業(yè)需要構(gòu)建AI中臺，打通數(shù)據(jù)、業(yè)務和AI能力，重塑智能化轉(zhuǎn)型能力底座，并與現(xiàn)有IT基礎設施和業(yè)務平臺深度融合。

4.建立大模型評測體系，大模型評測需要貫穿企業(yè)智能化全生命周期，從模型選型、上線到持續(xù)優(yōu)化，都需要通過評測體系來保障應用質(zhì)量。

5.構(gòu)建模型服務體系，企業(yè)需要構(gòu)建模型服務體系，支撐模型的高效構(gòu)建、部署、監(jiān)控和調(diào)用，實現(xiàn)模型即服務（MaaS），為業(yè)務部門提供便捷的模型服務。

6.開發(fā)人工智能原生應用，企業(yè)需要開發(fā)AI原生應用，例如智能體（AI Agent）、檢索增強生成（RAG）等，提升大模型應用的易用性，并解決可信可控等問題。

7.構(gòu)建企業(yè)人工智能管理體系，企業(yè)需要構(gòu)建AI管理體系，對AI資產(chǎn)、流程和團隊進行統(tǒng)一管理，提高AI應用的效率、質(zhì)量和安全性。

8.建立企業(yè)人工智能應用成熟度體系，企業(yè)需要進行AI應用成熟度評估，客觀評價AI應用水平，促進AI產(chǎn)業(yè)的健康穩(wěn)健長久發(fā)展。