早在2008年，云計(jì)算的概念剛剛興起，百度內(nèi)部出現(xiàn)了兩撥勢(shì)力。一撥要從零開始打造自己的大數(shù)據(jù)底層技術(shù)，把MapReduce、GFS、BigTable這些組件都要實(shí)現(xiàn)一遍，結(jié)果花了兩三年時(shí)間，也沒(méi)能穩(wěn)定運(yùn)行。

而另外一撥勢(shì)力，直接采納開源的Hadoop生態(tài)，很快在公司內(nèi)應(yīng)用起來(lái)。而我當(dāng)時(shí)做的日志統(tǒng)計(jì)平臺(tái)，也是采用了Hadoop。但百度的數(shù)據(jù)規(guī)模畢竟太大了，所需的集群規(guī)模，開源版本根本撐不住，于是不得不改寫Hadoop，這樣就和開源的版本漸行漸遠(yuǎn)，等到后來(lái)再也合不到一起了。

曾經(jīng)有一年多的時(shí)間，我們部門新設(shè)計(jì)和實(shí)現(xiàn)和底層的存儲(chǔ)及計(jì)算系統(tǒng)，結(jié)果發(fā)現(xiàn)開源的版本也差不多實(shí)現(xiàn)到了同樣效果。雖然許多內(nèi)部的人覺(jué)得我們?cè)趺纯傊貜?fù)造輪子，但我明白還是需求使然，你面臨的需求相對(duì)領(lǐng)先，但也沒(méi)有領(lǐng)先到像Google那樣提早5年。

但對(duì)于小公司來(lái)說(shuō)，則完全沒(méi)必要從零開始做，還是要盡量用開源的產(chǎn)品。

整個(gè)Hadoop生態(tài)，要比我2008年剛用的時(shí)候，要成熟很多。那個(gè)時(shí)候我們?nèi)ツ瞄_源的版本，編譯部署，一個(gè)新手可能兩周都不一定能正常的運(yùn)轉(zhuǎn)起來(lái)。而現(xiàn)在下載一個(gè)Cloudera發(fā)行版，兩個(gè)小時(shí)就可以正常跑任務(wù)了。

與此同時(shí)，又面臨了新的問(wèn)題，因?yàn)榇髷?shù)據(jù)平臺(tái)牽涉到數(shù)據(jù)的采集、傳輸、建模存儲(chǔ)、查詢分析、可視化等多個(gè)環(huán)節(jié)，而開源領(lǐng)域只是一些組件，于是各家公司都在紛紛打造自己的大數(shù)據(jù)平臺(tái)，這就像Oracle之前，各家都在打造自己的存儲(chǔ)系統(tǒng)。這顯然不是一件性價(jià)比高的事情。

有市場(chǎng)需求，就會(huì)有滿足相應(yīng)需求的公司誕生，于是就誕生了一堆提供大數(shù)據(jù)服務(wù)的公司。

由于這一新領(lǐng)域還處于早期，這些創(chuàng)業(yè)公司所能提供的服務(wù)并不會(huì)特別的完善，要么是以項(xiàng)目制的方式運(yùn)轉(zhuǎn)，要么是提供專門應(yīng)用場(chǎng)景的服務(wù)。

這樣，對(duì)于一些企業(yè)來(lái)說(shuō)，這些創(chuàng)業(yè)公司提供的服務(wù)，似乎自己也能實(shí)現(xiàn)，那何不干脆自己做?

這創(chuàng)業(yè)一年多以來(lái)，我看到了太多的公司在打造自己的數(shù)據(jù)平臺(tái)，但做的還不夠完善。不管是技術(shù)實(shí)力還是人力投入上，都有點(diǎn)力不從心。如果選用了這些第三方數(shù)據(jù)服務(wù)，那豈不飯碗被搶了?

可我要說(shuō)的是，飯碗早晚都會(huì)被搶，只是時(shí)間早晚的問(wèn)題。這里只需要問(wèn)一個(gè)問(wèn)題：我所做的數(shù)據(jù)平臺(tái)，是不是其他公司也是類似的需求?如果是的話，那肯定也有其他公司做著類似的事情，做的東西會(huì)大同小異。

那么，就會(huì)出現(xiàn)專門的公司，來(lái)解決這種通用的需求。因?yàn)檫@些公司專注于解決這一塊問(wèn)題，所以會(huì)更加專業(yè)，并且舍得投入。而對(duì)于需求公司來(lái)說(shuō)，除非自己轉(zhuǎn)型去專門做大數(shù)據(jù)平臺(tái)，不然在投入上，肯定不是一件性價(jià)比很高的事情。與其如此，不如及早側(cè)重于自己的核心業(yè)務(wù)，關(guān)注應(yīng)用需求本身。