大數據分布式開發SEARCH AGGREGATION
回答:這個太范化了吧。大數據架構選擇的方案就有很多，海量數據的即席查詢本省就是業內目前的痛點，暫時沒有太好的解決方案，kylin等框架也只是一個折中方案，如果你不是要求海量數據分析的秒級響應的話sparkSql、presto等都是不錯的方案，分鐘級別可以返回。
Paul_King
|
683人閱讀
回答:隨著大數據應用的逐漸落地，很多人都想從事大數據方面的工作，這其中自然就有很多非大數據相關專業（數學、計算機、統計學）的從業者，那么大數據到底能不能從零基礎開始學呢？答案是肯定的，但是也要根據自身的知識結構來選擇大數據的學習方向。大數據技術體系在2016年的時候已經趨于成熟，目前正處在落地應用的階段，大數據的細分崗位比較多，自然也就需要具備不同的知識結構。大數據的崗位集中在數據采集、整理、存儲、分析...
wuyangnju
|
883人閱讀
回答:數據庫開發工程和大數據開發嚴格意義上來說不算轉行，從技術層面來講大數據開發需要更深層的技術基礎和更廣的架構思路，也其說轉行不如說是對自身職業的一個飛躍。數據庫開發工程對于基本的數據庫開發比如說SQL的熟練，表結構的分析，數據庫編程的掌握，數據庫的運維，這都是數據庫開發工程師的天然優勢和技術積累，如果要上升到大數據開發顯示是比小白更具優勢，向大數據庫開發提升，建議從以下幾方面著手：1.從技術上要學習...
sean
|
734人閱讀
回答:在大數據領域大概有四個大的工作方向，除了大數據平臺應用及開發、大數據分析與應用和大數據平臺集成與運維之外，還有大數據平臺架構與研發，除了以上四個大的工作方向之外，還有一個工作方向是大數據技術推廣和培訓，這部分工作目前也有不少人在從事。大數據平臺架構與研發主要的工作內容是研發底層的大數據平臺，這部分工作的難度較高，從事這部分工作的研發級崗位也并不多。現在不少技術研發團隊都以Hadoop、Spark平...
zhangxiangliang
|
3499人閱讀
回答:是的。一方面，大數據計算通常不能在內存中完成，需要多次讀寫硬盤數據。另一方面，數據分布在不同的機器上，需要對數據進行網絡傳輸。因此，大數據運算更多的時間是在讀寫磁盤和網絡傳輸數據。因為數據I/O的效率通常低于CPU運算效率。因此，對讀寫同一張表的多個SQL進行合并，可以減少本地磁盤讀寫次數，以及網絡傳輸的數據，從而提高程序運行效率。
李增田
|
1121人閱讀
回答:誠邀回答，下面我來說說我的個人觀點：隨著大數據的熱度不斷升溫、技術日趨成熟，應用越來越廣泛，很多人都看好大數據未來的發展前景。這其中不乏大量Java開發崗位轉大數據方向的程序員。究竟是堅守java崗還是去做大數據？我認為最重要的還是要結合個人的職業發展來定位。并不是大數據火了，轉行做大數據就業前景就更可觀，個人能力、與企業技能要求的匹配度、市場競爭環境、行業人才需求及機遇等都會左右我們最終的職業走...
Tony_Zby
|
1066人閱讀
...統，可以多達幾萬臺機器甚至更多。 Hadoop最初主要包含分布式文件系統HDFS和計算框架MapReduce兩部分，是從Nutch中獨立出來的項目。在2.0版本中，又把資源管理和任務調度功能從MapReduce中剝離形成YARN，使其他框架也可以像MapReduce...
...實驗架構圖 搜索引擎架構在OpenSearch之上，是一個典型的分布式在線實時交互查詢架構，無單點故障，高伸縮、高可用，免運維，低成本。對大量信息的索引與搜索都可以在近乎實時的情況下完成，能夠快速實時搜索數十億的文...
...實驗架構圖 搜索引擎架構在OpenSearch之上，是一個典型的分布式在線實時交互查詢架構，無單點故障，高伸縮、高可用，免運維，低成本。對大量信息的索引與搜索都可以在近乎實時的情況下完成，能夠快速實時搜索數十億的文...
...和數據處理與分析層，由此可概括的兩大核心技術： ① 分布式存儲 解決海量數據的存儲問題 一臺機器無法存儲，我們就借助集群進行分布式存儲 ② 分布式處理 解決海量數據的處理問題 一臺機器無法高效完成數據處理，...
...筆記》 《我要進大廠系列之面試圣經》 《億級流量下的分布式解決方案》 《深入淺出Java23種設計模式》 《Java8新特性教程》 《跟冰河學習分布式存儲技術》 《跟冰河學習Nginx技術》 《跟冰河學習互聯網工程技術》 架構類 《...
...析這兩個層面。 1.4.2兩大核心技術 兩大核心技術指的是分布式存儲、分布式處理。 分布式存儲：解決海量數據的存儲問題。單機無法存儲海量數據時，就借助集群進行分布式存儲。 分布式處理：解決海量數據的處理問題。單...
...負責人，還是Spark的早期研究者和布道者，并且一直從事分布式計算和機器學習領域的開發工作。能否結合您的工作經歷，為我們介紹一下通用大數據平臺到專用機器學習平臺的演進歷程？是什么推動了這一轉變？您認為將來大...
ChatGPT和Sora等AI大模型應用，將AI大模型和算力需求的熱度不斷帶上新的臺階。哪里可以獲得...
大模型的訓練用4090是不合適的，但推理（inference/serving）用4090不能說合適，...
圖示為GPU性能排行榜，我們可以看到所有GPU的原始相關性能圖表。同時根據訓練、推理能力由高到低做了...
