国产精一区二区_午夜视频99_免费白白视频_中文字幕一区免费

企業級云端Fabric:衡石x云器打造湖倉一體化分析方案

衡石科技
+ 關注
2024-07-11 16:07
793次閱讀

萬物之始,大道至簡。

過去的數據基礎設施,搭建流程長且復雜,耗費人力、資金甚巨,也是拖慢企業數字化轉型過程的重要原因之一。

近日,衡石科技與云器科技合作發布的云原生一體化分析解決方案,就像數字化領域的“大道”——通過數據的全流程一體化,他們完成了云端數據基礎的搭建、連接簡潔有效的BI端應用。

從數據存儲、數據加工到數據分析及BI的呈現,用戶首次獲得了全量實時的智能分析體驗,平臺具有強大彈性,體驗簡明可靠。

這一解決方案意味著,衡石這一業界獨樹一幟的BI PaaS,進一步搭載了云器以Single-Engine為核心技術的數據引擎,共同驅動大數據分析走向未來的一體化時代。

未來,企業將有全新的數據體驗——無需擔憂復雜、多源的數據及架構,僅需一個簡單易用的平臺,企業就能從自身的數據金礦中不斷獲取價值、快速成長。

企業級云端Fabric:衡石x云器打造湖倉一體化分析方案

01

BI PaaS+云器Lakehouse帶來全量實時的智能分析體驗

通過統一數據、存儲、語言,衡石科技與云器科技聯合解決方案首次突破了過去離線分析或者離線實時Lambda架構的桎梏,能夠提供全鏈路一體實時BI分析,讓BI分析師能夠更整合、更便利、更全面地分析實時和離線數據。同時,在數據架構上極致簡化,避免實時離線多條數據煙囪和復雜的架構帶來的指標口徑不一致等問題。

“這是行業內第一次,能通過一套方案實現實時和離線的數據處理及分析,并且覆蓋全域,對數據時間有更好地把控、顯著降低成本、不受數據量限制,解決了企業客戶的重要痛點。”衡石科技創始人及CEO劉誠忠表示。

“衡石BI一直以來關注用戶的極致數據分析體驗,通過和云器Lakehouse融合的解決方案,幫助企業更好把控數據,不再受數據離線或實時的限制使用和分析數據;真正做到將數據分析的全面性和便利性結合,給客戶一個簡單且統一的BI分析方案。”

這也意味著在面對高頻數據時,用戶能夠根據需求獲得實時結果;而業務需求減緩時則可以切換為離線。這樣的變化都是基于同一套數據、指標及同樣的鏈路處理方式,大大減少了搭建多套數據產品組合方案的成本,以及多個產品的運維成本,讓智能分析變得更加統一、自由、高效。

在某跨境服務企業的實際體驗中,過去其數據平臺類似“組裝式”架構,包含離線計算鏈路、實時計算鏈路和數據湖等,導致了產品組件多、運維成本高、計算復雜等三大問題——一方面是鏈路割裂、數據在統一上容易出問題;另一方面,多組件維護也產生了高昂的運維成本;在未來的數據要求增長時,組裝式架構也在性能瓶頸、靈活性方面有著難以解決的局限性。

使用Lakehouse前:

企業級云端Fabric:衡石x云器打造湖倉一體化分析方案

使用Lakehouse后:

企業級云端Fabric:衡石x云器打造湖倉一體化分析方案

通過接入這一解決方案,該企業首次做到了全鏈路實時同步、數據架構進化,打破了組裝式架構的種種局限性。從最終效果上來看,降低了5.2倍數據資源消耗、2.1倍CPU成本,性能提升。

具體而言,其數據平臺的突破包括:

首次實現全鏈路實時同步

過去的數據平臺,每天需要花費4~5個小時將所有業務表的數據拉到計算平臺中,數據更新的頻率有限,無法實現實時入庫。通過這一解決方案,公司的數據處理方式發生了質的變化,從過去的批處理模式轉變為實時同步模式,做到全量數據實時同步,提升業務效率和數據新鮮度,并隨著實時數據的變化不斷獲得新的BI數據洞察。

降低資源消耗、提升性能

如上文提到,其CPU的成本及任務資源消耗雙雙降低,大大降低平臺計算資源,還提高了客戶平臺上產品數據獲取和查詢的性能,使得數據處理和查詢更加高效。

擴展性強、滿足客戶不斷增加的業務需求

而該解決方案的強大之處,也反映在其擴展性上:針對客戶的巨大實時數據計算需求,平臺從過去的無法承載,變為可以滿足客戶的所有訴求與需求,通過統一管理及全域數據治理,一個平臺支持BI、AI多種負載,大大提升服務的可能性與客戶滿意度。

比如跨境商戶在商品品類統計分析時,可以將數據湖中的圖片及對象存儲路徑進行location定義,在數據平臺界面直接調用AI模型接口,完成商品圖片品類識別,并將輸出的結構化數據存儲在數倉中,后續可以與訂單表、商品維度表等數據進行關聯統計分析。

能夠通過一個平臺賦予企業這樣的數據能力,來自于兩方的數年研發投入、對業務需求的深刻洞察與優秀配合。

云器作為一體化湖倉平臺,為這一解決方案打造了優秀的數據基礎:通過快速創建虛擬計算環境、湖倉一體數據集成以及針對實時場景的創新技術設計,僅用一套SQL代碼、單引擎(Single Engine)、同一份數據,實現全鏈路的實時化數據處理。且性能成本比表現優異,在分鐘級及以上實時場景性能下,可以達到數倍的成本節省。

而衡石則在過去數年中,獨家推出了BI PaaS的產品形態,自研更適合數據分析的語義層、完成了端到端的數據分析架構創新(包括湖倉一體的開放式架構以及ELT + Embed的分析管道架構)、在云原生架構上支持多租戶適配、API服務能力和彈性擴展。

本次合作中,結合云器的數據平臺,衡石科技通過獨特的指標中臺、BI分析、數據服務等一站式數據能力,使數據真正在企業端發揮價值。

企業級云端Fabric:衡石x云器打造湖倉一體化分析方案

▲ 衡石科技指標平臺架構

02

解決百倍突發、降低50%費用,新型平臺展現強大彈性

在未來的大數據時代,除了更實時、更簡明的數據服務外,數據系統的彈性也將成為評估其效果的重要指標,主要包括兩點:

  • 在峰值需求時的承壓能力及未來擴展能力
  • 在需求下降時的自動節省資源能力

本次衡石與云器共同發布的方案,展現了一個全新數據解決方案的強大彈性——伸縮自如,隨需而動。

根據云器介紹,其自適應的虛擬集群模塊(Virtual Cluster)可以很好地解決業務負載波動問題,在其架構中,只需創建一個新的virtual cluster并配置其擴展的最小和最大值,系統就可以自動地根據C端用戶請求的并發數波動進行自適應擴容,并感知業務的負載。而在系統探測到負載下降后,會自動銷毀virtual cluster 副本,“水位下降”。

自創立以來,衡石開發了更加靈活的ELT + Embed的管道架構,將計算后置,做到指標的中心化管理,高效沉淀和復用指標體系,減少數據重復加工,但是這樣追求業務靈活的架構對計算平臺的性能和算力同樣有著極高要求。

而云器作為承接衡石的計算平臺,擁有強大的算力及性能,這一高性能的湖倉平臺+衡石ELT架構意味著二者合作后,可以在性能、彈性和分析靈活度上做到最佳的trade-off,真正實現了云端數據分析上的最佳實踐。

在未來業務需求增長時,系統也能做到自動擴容,持續支撐從最初企業小體量數據到快速發展后巨量數據的算力需求。

在客戶的真實體驗中,在并發增長至10倍乃至百倍時,C端用戶的查詢響應體驗始終保持在穩定的區間中,這正是因為基于并發數量增長,系統副本數做的自適應擴展,潤物細無聲地為客戶在需求暴漲時提供有力的支撐。

而在需求穩定下降后,系統同樣會檢測負載狀態,做到定時自動停止、銷毀副本,按量付費、停止使用時0花費,避免資源浪費、降低費用高達50%。

03

AI+BI的未來:無縫、簡單、普惠

隨著ChatGPT引起的再一次全球AI熱,AI+BI結合將逐步成為各行各業的標配,而它們也將重塑許多數據及業務場景。

一方面,從Data4AI的角度看,如果說BI更多是分析“過去”和“現在”的已知數據,解決已知的問題;AI加入后,將可以幫助企業探索未知,包括預測和判斷,探索分析企業沉淀的數據寶藏——半結構化和非結構化數據。

隨著AI成為數據的“一等公民,僅能做結構化數據分析的傳統數倉將逐漸走向衰敗,未來由湖倉架構加持的AI時代BI分析工具,將具備如下特點:

  • 首先,支持多種類型的數據存儲,且所有的數據存儲在一個存儲體系內;
  • 其次,有統一數據管理能力,能覆蓋半結構化/非結構化數據;
  • 最后,開放數據設計,可支持上層已有的數個不同計算引擎,同時還能面向新的計算引擎完成擴展。

因此,開放式湖倉架構上的BI分析工具,將是AI發揮價值的最佳選擇。

另一方面,從AI4Data的角度看,AI可以優化數據的處理鏈路和資源編排,讓數據處理更加高效且節省成本——AI將通過強大的自學習和自加強能力,幫助企業優化數據的處理鏈路,基于日常使用習慣來進行資源編排。在某SaaS行業的客戶實際使用案例中,初步測試帶來了35%的資源消耗節省。

隨著AI+BI的逐步落地,新一代一體化的湖倉架構將會成為未來整個計算平臺架構的迭代發展的趨勢。

過去,衡石科技作為數據分析及BI PaaS,曾與各個垂直領域的頂尖SaaS廠商和軟件廠商結合。本次衡石與云器合作推出的云原生一體化數據解決方案,將帶來企業級一站式的數據體驗,按量付費、數據架構靈活,幫助企業進行應用AI的能力及數字化轉型。

未來的AI+BI可能會有這樣的趨勢:

  • 更加走入業務場景:不斷提升交互方式、降低門檻、在各個行業及工種的普及速度大大增加
  • 更“輕量嵌入”:更加容易地整合進現有系統,無縫進入業務流程
  • 更“實時”:Copilot的模式會成為工作的標準配置,智能助手的加持讓業務運營崗位的效能大大提升,可以做到數據驅動的精細化運營

在這個不那么遙遠的未來里,我們也許能看見,隨著這樣簡明數據基礎設施的誕生,數據能力隨著業務流程自由地在企業各個部門、職能中流轉,時而化為決策的依據,時而指導人們尋找業務的疏漏,需要它時它源源而來,使用完畢后它馬上偃旗息鼓、靜待下一次召喚。真正的一體化云原生大數據時代,也許就此開啟。

 

[免責聲明]

原文標題: 企業級云端Fabric:衡石x云器打造湖倉一體化分析方案

本文由作者原創發布于36氪企服點評;未經許可,禁止轉載。

資深作者衡石科技
衡石科技
0
北京衡石科技有限公司
實力廠商
實力廠商
優質服務
優質服務
及時響應
及時響應
立即詢價
相關文章
最新文章
查看更多
關注 36氪企服點評 公眾號
打開微信掃一掃
為您推送企服點評最新內容
消息通知
咨詢入駐
商務合作