国产精一区二区_午夜视频99_免费白白视频_中文字幕一区免费

專家團|宇婷:目前只To B,騰訊云為什么優先發布行業大模型,而非大模型?

宇婷
+ 關注
2023-07-06 11:04
1186次閱讀

我們認為必須有針對性的行業大模型,再加上企業自己的數據、精調,才能打造可需要和可應用的服務。

企業要的不是在一百個場景中,解決70-80%的問題。而是精準解決問題。”騰訊集團高級執行副總裁、云與智慧產業事業群CEO湯道生在現場表達。

6月19日,騰訊云正式發布了行業大模型,盡管在發聲的速度上,晚于百度、阿里巴巴、訊飛、360等多家廠商。但騰訊云也有自己的獨特性,著重優先發布了行業大模型,而非大模型,目前只TO B。

專家團|宇婷:目前只To B,騰訊云為什么優先發布行業大模型,而非大模型?

在一波又一波大模型發布會沖擊之后,用戶們已經分不清楚不同獨角獸巨頭們發布的模型之間的區別到底是什么。另一方面,在具體的行業場景中,通用大模型不能滿足企業的很多需求,比如不懂得專業的行業術語,回答虛且籠統。

信息不夠及時,大家期待能力越來越強大的大模型,同時也在思考如何在布局大模型的同時,保護好企業的產權與隱私,降低企業的大模型使用成本。這是不可回避的現實問題。

特別是,在當前中國產業現狀下,面臨企業的深度共建,以及監管政策,真正能夠解決行業和企業圍觀挑戰,仍有距離。

對于騰訊大模型,最值得關注的有兩個方向。‍‍‍

首先,如果是行業大模型,那么應當是有明顯的行業屬性,如何解決行業問題,例如新零售、新能源、金融、交通等細分行業問題?

其次,騰訊云或將圍繞云平臺、會議、客服、低代碼等領域級應用,騰訊大模型的應用場景會發生哪些改變

專家團|宇婷:目前只To B,騰訊云為什么優先發布行業大模型,而非大模型?

在行業大模型標準體系方面,騰訊正在聯合中國信通院,共同構建行業大模型的標準體系及能力架構,包括1套ILMOps方法論、60多項能力建設指標。這個標準體系覆蓋多個行業,涵蓋模型行業能力、模型工程化性能、模型算力網絡、模型安全可靠等方面。

專家團|宇婷:目前只To B,騰訊云為什么優先發布行業大模型,而非大模型?

TI平臺MaaS解決方案,覆蓋十大行業,提供50個解決方案

專家團|宇婷:目前只To B,騰訊云為什么優先發布行業大模型,而非大模型?

騰訊云發布自身MaaS解決方案,覆蓋十大行業,提供50個解決方案。

騰訊云副總裁、騰訊云智能負責人、優圖實驗室負責人吳運聲發表《騰訊云MaaS,打造一站式行業大模型精選商店》的主題演講,分享了騰訊云在行業大模型方面的技術方案,以及產業客戶實踐、行業大模型標準體系構建的進展。

吳運聲在演講中詳細拆解了騰訊行業大模型特質:騰訊云TI平臺內置了多個高質量行業大模型,涵蓋金融、傳媒、文旅、政務、工業等多個行業場景,同時開放支持客戶多模型訓練任務,滿足個性化需求。比如針對客服等場景中的“對話問答”、“相似問生成”等任務,有較好的優化,使用時僅需少量訓練數據,便可達到較好的精調效果。

其次,TI-ONE平臺提供完善的大模型工具鏈,包括數據標注、訓練、評估、測試和部署等全套工具,同時具備強大的多機多卡訓練加速能力,客戶可快速在TI-ONE平臺上進行一站式的大模型精調。

其中,大模型訓練,算力是基礎。騰訊云在大模型算力方面擁有領先優勢。早在今年4月,騰訊云便發布了面向大模型訓練的新一代HCC高性能計算集群,采用最新一代騰訊云星星海自研服務器,結合多層加速的高性能存儲系統,具備3.2Tbps業界最高互聯帶寬,算力性能提升3倍。

全新升級框架加速能力太極Angel,可以提供更優的訓練和推理加速能力。在傳統CV、NLP算法模型的基礎上,新增了對大模型的訓練和推理加速能力,通過異步調度優化、顯存優化、計算優化等方式,相比行業常用方案性能提升超過30%。

同時,支持更適合AI運算的向量數據庫,將幫助高效處理圖像、音頻和文本等非結構化數據,支持日處理千億級的檢索,將為客戶模型訓練提供充沛動力。

專家團|宇婷:目前只To B,騰訊云為什么優先發布行業大模型,而非大模型?

專家團|宇婷:目前只To B,騰訊云為什么優先發布行業大模型,而非大模型?

在旅游場景中,針對性的行業數據訓練出來的行業大模型,客服機器人可以給出景點經濟實惠的定制化推薦方案。

專家團|宇婷:目前只To B,騰訊云為什么優先發布行業大模型,而非大模型?

與共創客戶中央廣播電視總臺與騰訊的合作中,傳統數據標簽體系無法達標,重新構建傳媒專屬的數據標簽體系,重新研發了數據權重引擎,讓數據顆粒度更細。在數據標簽支撐下,跨模態檢索,能夠快速剪輯搭配素材生成視頻。

在上海大學的案例,打通了數據古道,推行一網通辦。每天涉及到的數據,相當于重新建造一座上海大學的圖書館。

專家團|宇婷:目前只To B,騰訊云為什么優先發布行業大模型,而非大模型?

專家團|宇婷:目前只To B,騰訊云為什么優先發布行業大模型,而非大模型?

專家團|宇婷:目前只To B,騰訊云為什么優先發布行業大模型,而非大模型?

騰訊會議、騰訊企點、向量數據庫產品迭代

行業應用場景上,提高工作效率低。比如騰訊會議,覆蓋全流程場景的智能小助手,協助日程安排。會后還可以自動生成智能總結和摘要,基于智能錄制,幫助用戶高效回顧。

騰訊企點客服,可以結合客戶的需求進行訓練。

專家團|宇婷:目前只To B,騰訊云為什么優先發布行業大模型,而非大模型?

專家團|宇婷:目前只To B,騰訊云為什么優先發布行業大模型,而非大模型?

騰訊會議的AI助手功能,以及騰訊企點呈現出在此輪AIGC浪潮之后的改變。其中騰訊企點智能客服的效果與傳統智能客服產生了差異化的進化。

值得關注的是,這是騰訊企點這一款產品的第16年,它在AI大模型的加持之下,全新變身。

專家團|宇婷:目前只To B,騰訊云為什么優先發布行業大模型,而非大模型?

專家團|宇婷:目前只To B,騰訊云為什么優先發布行業大模型,而非大模型?

專家團|宇婷:目前只To B,騰訊云為什么優先發布行業大模型,而非大模型?

在大模型的訓練和使用過程中,需要大量異構算力的支持,對網絡速度與穩定性要求也很高,加上GPU服務器比一般服務器穩定性更低一些,服務器的運維、問題的排查更頻繁,整體運維的難度與工作量會高很多。

例如,在訓練集群中,一旦網絡有波動,訓練的速度就會受到很大的影響;只要一臺服務器過熱宕機,整個集群都可能要停下來,然后訓練任務要重啟,這些事件會使得訓練時間大大增加,投入在大模型的成本也會飆升。因此,騰訊云所提供的穩定計算、高速網絡與專業運維,可以為算法工程師大大減輕設備運維的壓力,讓他們把精力放在模型的構建與算法的優化上。

騰訊云也打造了面向模型訓練的新一代HCC(High-Performance Computing Cluster)高性能計算集群,搭載最新次代GPU,結合多層加速的高性能存儲系統,加上高帶寬、低延遲的網絡傳輸,整體性能比過去提升了3倍,獲得了很多客戶的高度認可,幾家AI獨角獸都與我們展開了合作。

在計算集群的“硬實力”之外,推出更適合AI運算的“軟能力”——向量數據庫,它能更高效地處理圖像、音頻和文本等非結構化數據,支持單索引10億級規模,比單機插件式檢索規模提升10倍,數據接入AI的效率,也比傳統方案提升10倍。

 

本文來自微信公眾號“TO B新勢力”(ID:tobnewpower),作者:宇婷,36氪經授權發布。

[免責聲明]

原文標題: 專家團|宇婷:目前只To B,騰訊云為什么優先發布行業大模型,而非大模型?

本文由作者原創發布于36氪企服點評;未經許可,禁止轉載。

資深作者宇婷
0
消息通知
咨詢入駐
商務合作