首页 → 名言 → 美文
大數據開發工程師的職責是什么 大數據開發工程師的職責有哪些
日期:2023-02-18 22:09:21    编辑:网络投稿    来源:网络资源
大數據開發工程師的職責大數據開發工程師的職責1  職責:  1、負責數據采集、數據存儲、數據查詢、數據計算等基礎平臺的設計和開發工作;  2、利用Hadoop、Spark、Flink
为你推荐:
  • 好聽的古風名字 好
  • 大數據開發工程師的職責

    大數據開發工程師的職責1

      職責:

      1、負責數據采集、數據存儲、數據查詢、數據計算等基礎平臺的設計和開發工作;

      2、利用Hadoop、Spark、Flink等技術進行離線和實時數據開發 ;

      3、負責大數據平臺的規劃升級、平臺維護和優化 ;

      4、和其他部門或團隊溝通、資源協調并落實工作。

      任職要求

      1、本科及以上學歷;

      2、3年以上大型大數據平臺建設實施經驗 ;

      3、掌握常用大數據組件hadoop、Hive、spark、Flink、hbase、elasticsearch等原理、使用和調優 ;

      4、具備較強技術功底,精通Java、Scala、Python等至少一種開發語言,能根據需求給出技術架構 ;

      5、有數據倉庫、元數據管理和治理的開發經驗優先 ;

      6、善于溝通,思維活躍、責任感強、工作積極主動,有良好的團隊協作意識。

    大數據開發工程師的職責2

      職責:

      1.結合項目或產品涉及的具體業務場景,對數據進行清洗、計算與加工;

      2.思路清晰,可快速響應數據處理的需求,評估并給出合理的解決方案,并采用合理的方式處理需求;

      3.積極主動,能夠與團隊成員進行有效溝通,并完成數據處理結果的核對與對接;

      4.完成上級交辦的工作或任務。

      崗位要求

      1.計算機相關專業大專以上學歷;

      2.2年以上大數據產品或項目開發經驗,精通Hadoop生態圈,熟練使用Spark,HBase、Hive、Kafka、Redis等;

      3.精通SQL,熟練使用HSQL實現復雜數據處理邏輯,并具備數據處理調優的能力;

      4.熟悉Linux開發環境,熟悉Linux的shell命令。

      5.具有良好的邏輯思維能力和嚴謹的程序開發思想,具備獨立問題排查與處理的能力;

      6.良好的團隊精神和合作意識,強烈的`責任心,對工作有激情,良好的溝通能力,能吃苦耐勞;

      7.有大數據項目或產品背景者優先;

      8.有使用Spark SQL進行數據處理,并具有Spark SQL優化經驗者優先。

      9.有Python或者Shell腳本開發經驗優先

    大數據開發工程師的職責3

      職責:

      1、負責完成業務和產品的對接,支持業務需求研發;

      2、負責完成產品的迭代升級以及底層架構的升級研發;

      3、完成團隊安排的其他相關日常工作任職要求;

      4、負責產品的實時業務和離線業務的研發;

      5、支持開源大數據技術在數據系統中的使用,修復、優化增強大數據技術;

      崗位要求:

      1、具有分布式系統架構開發能力,熟練使用storm、spark hbase者優先。

      2、能夠使用實時計算平臺,進行實時業務數據的研發。

      3、能夠基于已有平臺進行離線業務的開發。

      4、有大數據應用產品研發經驗,具有數據決策產品研發經驗者優先。

    大數據開發工程師的職責4

      職責:

      1、負責數據中心和大數據處理平臺的搭建

      2、在線和離線海量數據分析平臺的開發;

      3、研究大數據前沿技術,提升系統的運維效率;

      4、參與大數據的采集、存儲、處理,分析等開發

      5、參與數據挖掘算法的設計、對海量數據進行挖掘分析和發掘數據價值及算法學習及實現

      【任職要求】:

      1、計算機或相關專業本科學歷及以上,2年工作經驗以上

      2、熟悉Java/Scala等至少一門語言,能對分布式常用技術進行合理應用,解決實際架構問題

      3、熟練使用hadoop,hive,HBase,YARN,kafka,spark,Storm,Flume等大數據開發組件

      4、熟悉整個大數據的完整處理流程,包括數據的采集、清洗、存儲、分析和可視化及報表開發;

      5、熟悉分布式系統概念、架構,有大規模分布式系統設計、實現、部署等經驗;

      6. 具有優秀的學習能力、獨立分析和解決問題能力,良好的團隊合作精神。

      7. 有BI開發經驗的優化考慮。

    大數據開發工程師的職責5

      職責:

      1、負責該領域的業務需求討論,完成技術方案及數據開發;

      2、負責數據倉庫的體系建設及落地實現;

      3、負責大數據平臺各類環境的部署及運維、并參與架構優化、性能優化等工作;

      4、負責該領域所屬模塊的代碼開發、調試與維護工作,并進行技術沉淀和文檔輸出。

      招聘要求:

      1、計算機、電子通信、自動化等專業,本科及以上學歷;

      2、五年以上研發經驗,其中二年以上大數據開發的相關工作經驗;

      3、熟練JAVA開發語言;熟悉微服務及Spring框架;

      4、熟練熟練Hive、Impala、ES性能調優,關注細節,學習能力強;

      5、能配合團隊完成該領域的工作,自我管理能力強,能承受工作中的各種壓力,具備很好的團隊意識

      6、熟練主流大數據平臺產品部署及運維,如CDH、HDP平臺。

      7、對機器學習和深度學習等方面有一定的了解;

      8、有汽車制造業及相關行業的大數據開發經驗優先。

    【大數據開發工程師的職責】相關文章:

    大數據開發工程師的職責文本精選04-29

    大數據開發工程師的具體職責06-30

    大數據開發工程師的基本職責12-28

    數據庫開發工程師崗位的職責01-24

    大數據開發工程師崗位的基本職責01-24

    數據庫開發工程師崗位的基本職責-崗位職責01-11

    運維開發工程師的職責08-24

    產品開發工程師的具體職責10-28

    Java初級開發工程師的職責06-25

    这里有更多你想看的
  • 朋友圈正能量句子人
    • 本类最新
    • 精品图文
    • 时尚
    • 新闻
    • 生活
    • 视觉
    • 微爱
      栏目ID=88的表不存在(操作类型=0)

    头条推荐

    热门推荐

    特别推荐

    返回顶部