分布式計(jì)算在許多領(lǐng)域都有廣泛需求，目前流行的分布式計(jì)算框架主要有 Hadoop MapReduce, Spark Streaming, Storm； 這三個框架各有優(yōu)勢，現(xiàn)在都屬于 Apache 基金會下的頂級項(xiàng)目，下文將對三個框架的特點(diǎn)與適用場景進(jìn)行分析，以便開發(fā)者能快速選擇適合自己的框架進(jìn)行開發(fā)。

Hadoop MapReduce 是三者中出現(xiàn)最早，知名度最大的分布式計(jì)算框架，最早由 Google Lab 開發(fā)，使用者遍布全球（Hadoop PoweredBy）；主要適用于大批量的集群任務(wù)，由于是批量執(zhí)行，故時(shí)效性偏低，原生支持 Java 語言開發(fā) MapReduce ，其它語言需要使用到 Hadoop Streaming 來開發(fā)。Spark Streaming 保留了 Hadoop MapReduce 的優(yōu)點(diǎn)，而且在時(shí)效性上有了很大提高，中間結(jié)果可以保存在內(nèi)存中，從而對需要迭代計(jì)算和有較高時(shí)效性要求的系統(tǒng)提供了很好的支持，多用于能容忍小延時(shí)的推薦與計(jì)算系統(tǒng)。Storm 一開始就是為實(shí)時(shí)處理設(shè)計(jì)，因此在實(shí)時(shí)分析/性能監(jiān)測等需要高時(shí)效性的領(lǐng)域廣泛采用，而且它理論上支持所有語言，只需要少量代碼即可完成適配器。

下面的表格是對三者部分特性的比較，描述時(shí)間為 2015-5-3，三個項(xiàng)目均處于快速迭代中，文中描述特性會隨時(shí)產(chǎn)生變化，如果與官方文檔產(chǎn)生出入以官方文檔為準(zhǔn)。

表格說明：

• 開源時(shí)間以 github 上最早的 commit 或者官網(wǎng)上最早發(fā)布版本的時(shí)間為準(zhǔn)。

• 當(dāng)前版本與特性描述截止 2015-5-3。

• 相關(guān)資料量通過比較官方文檔、搜索引擎、論壇等途徑得出。

• 部分比較數(shù)據(jù)來源于實(shí)踐或相關(guān)文章（未找到出處）。

本文會保持更新，如果數(shù)據(jù)發(fā)現(xiàn)有出入，歡迎指正。

參考資料：

• Hadoop 官網(wǎng)

• Spark Streaming

• Storm 官網(wǎng)

原文地址：http://www./dot-net-drpc-storm.html

未經(jīng)授權(quán)，拒絕任何全文及摘要轉(zhuǎn)載！

歡迎關(guān)注微信公眾號：CareyTzou（dotNet大數(shù)據(jù)）