国产精一区二区_午夜视频99_免费白白视频_中文字幕一区免费

熱門文章> bi開發工程師和大數據工程師之間有什么區別? >

bi開發工程師和大數據工程師之間有什么區別?

36氪企服點評小編
2021-04-13 11:24
2147次閱讀

   bi開發工程師和大數據工程師的區別是什么?在大公司里,BI工程師,數據倉庫工程師,ETL工程師,數據開發工程師仍然是分工相對獨立的。BI工程師:一般是負責開發企業內部報表,主要是根據產品技術選擇問題,他們操作軟件不同。比如Microstrategy,Tableau等等。下面就有小編為您帶來bi開發工程師和大數據工程師之間有什么區別的相關介紹。

一、bi開發工程師和大數據工程師

  BI,商務智能BI工程師即為從事商務智能行業的工程師。從需求分析師到數據倉庫架構師、到etl工程師、數據分析,報表開發工程師、數據挖掘工程師、etc.,都可以稱之為BI工程師。

  etl工程師:是從事系統編程、數據庫編程與設計,要掌握各種常用的編程語言的專業技術人員。也叫數據庫工程師。

   一味的解釋數據倉庫概念可能沒意思,我們從不同角色出發吧

   老板 :我是一家手機公司的老板,今天要向去董事局匯報,我要準備一份介紹過去三年的用戶增長、用戶留存、用戶活躍度、手機里面每個APP使用率等情況的報表,假如下面沒我下面沒有BI,那我肯定就蒙逼了。。

   BI : 我是一名非技術BI,我天天看競品的分析報告,看雙十一銷量,看各種評論,知道自己的產品有哪些短板有哪些長處,我分析南北地域差異,國內外客戶喜好,總之我在手機領域有著很強的行業解讀能力和數據解讀能力,我可以畫出非常漂亮的圖表和PPT。

   今天老板讓我出一份報表,我還要去刷臉找ETL工程師幫我跑出這次報告的數據,基于這份數據我要給出一定的解讀,為啥這個月手機賣得不如上個月,為啥用戶流失越來越嚴重等等都是我要去做的。

   ETL工程師 : 我是食物鏈最底層的苦逼ETL工程師,我會寫shell、我會搭hadoop/hive/hbase、會寫超復雜邏輯的sql,今天那個不會自己計算數據的BI又讓我跑幾個數據,我本想讓她提需求流程的,但她說這是老板要的(運營慣用的殺手锏!!!),要加急處理,我只能放下手頭的活兒給她跑數據了,花了半個小時把數據跑好給她,希望能就這么交差吧。

   大數據工程師,就是我們所知的大數據開發工程師,主要從事大數據平臺的搭建,對個人技術要求偏高,需要從業者具備java基礎,還得具備以下技術能力,hadoop、hive、hase、flume、storm、kafka、spark等,是一個非常龐大的技術集群。

   如果你以為我每天就做這點事那你就錯了,我平時的工作可不僅僅就是完成上面交給我的任務哦,我還負責數據ETL過程、數據建模、定時任務的分配、甚至有時Hadoop集群的維護等等都得我去做,每件事單獨拿出來都可以拿出來寫本書。

   就拿ETL過程來說吧,你要把原始數據從各種數據庫、各種服務器的不同業務日志歸一化到同一類格式,要約定好分隔符,然后導入到分布式文件系統HDFS,甚至你還要和業務系統定義數據格式出規范,數據收集完,你還得出中間表,數據過濾,格式統一,ID統一,維度統一,通過不同的數據現象進行數據,完了,你就得出一些日報周報之類的數據了,這時候你要按照需求把數據組織成一定的格式然后導Mysql、或者HBASE等等。

   不過這些數據倉庫都非常初級,其中ETL工程師可發揮的空間太多了

1、正常情況下,老板 —> BI —> ETL 出一份報告,這中間能否BI直接去計算數據?sql太復雜,那么可不可以一切數據標簽化,BI甚至老板要什么就選什么?

2、ETL工程師可以把數據收集自動化、可以規范業務日志格式、可以將一切都配置化,但是這些都是基于N+1的,也就是說今天的發生了什么一定要到明天才能看到,那么有沒有一個系統能把數據分析做到實時或者準實時?參考雙十一大屏,馬總要是到12號才能知道成交了多少筆不劈了那幫做數據的才怪。

3、目前絕大部分分析系統都基于離線計算(HADOOP/ODPS),那這里有個問題了,運營或BI想看個數據還得你離線慢騰騰跑完才能看到,那么有沒有一個系統可以支持你再大的數據量,再復雜的邏輯,毫秒出數據?

我沒有提到的還有算法工程師、大數據運維工程師等等。

bi開發工程師和大數據工程師之間有什么區別?bi開發工程師和大數據工程師

   二、數據倉庫的不同層次

如果把數據價值分層,這里分層的辦法很多,我只列舉一種方法,有人分過5層

第一層: 為老板提供決策支持,例如傳統的財務報表

第二層: 為運營提供決策支持,例如數據化非常徹底的淘寶運營們

第三層: 為產品提供支持,例如有產品經理們會拿著報表天天看研究自己的某一個按鈕擺放位置對不對

第四層:數據用于生產,比如直接對接廣告系統產生收益,比如直接對接推薦系統為用戶推薦商品,實現千人千面,再比如利用手機APP直接為不同用戶push消息

第五層:大數據交換,數據產生直接受益

大部分公司能做到前兩個層次就已經很不錯了,如果能做到第三層,就已經很牛逼,做到第四第五層次,國內互聯網公司不超過2家,大數據應用太大了,不知從何說起,以后聊吧。

   因此,數據交易不一定是通過價格來衡量的,也不能簡單地復制數據。最理想的數據交換方式應該是,雙方共同提出一些東西,然后在某種情況下提供服務,并且禁止諸如數據導出之類的行為,雙方不能看到對方的數據,也不能導出對方的數據,可以被導出的結果必須是無害的,不會侵犯隱私,不會影響原始數據的價值。 以上就是小編為您介紹的bi開發工程師和大數據工程師之間有什么區別,希望對您有所幫助。

[免責聲明]

文章標題: bi開發工程師和大數據工程師之間有什么區別?

文章內容為網站編輯整理發布,僅供學習與參考,不代表本網站贊同其觀點和對其真實性負責。如涉及作品內容、版權和其它問題,請及時溝通。發送郵件至36dianping@36kr.com,我們會在3個工作日內處理。

相關文章
最新文章
查看更多
關注 36氪企服點評 公眾號
打開微信掃一掃
為您推送企服點評最新內容
消息通知
咨詢入駐
商務合作