大數(shù)據(jù)分析文章
大數(shù)據(jù)分析文章
作為一個全新的產(chǎn)業(yè),大數(shù)據(jù)仍然處于快速發(fā)展的初期,這是一個快速發(fā)展的領(lǐng)域,每時每刻都在產(chǎn)生新的變化,對于大數(shù)據(jù)的分析也是越來越復雜而且重要。下面是學習啦小編為大家整理的關(guān)于大數(shù)據(jù)分析文章的相關(guān)資料,供您參考!
大數(shù)據(jù)分析文章篇1:大數(shù)據(jù)的六大發(fā)展趨勢
(1)成為重要戰(zhàn)略資源
在未來一段時間內(nèi),大數(shù)據(jù)將成為企業(yè)、社會和國家層面重要的戰(zhàn)略資源。大數(shù)據(jù)將不斷成為各類機構(gòu),尤其是企業(yè)的重要資產(chǎn),成為提升機構(gòu)和公司競爭力的有力武器。企業(yè)將更加鐘情于用戶數(shù)據(jù),充分利用客戶與其在線產(chǎn)品或服務交互產(chǎn)生的數(shù)據(jù),并從中獲取價值。此外,在市場影響方面,大數(shù)據(jù)也將扮演重要角色——影響著廣告、產(chǎn)品推銷和消費者行為。
(2)數(shù)據(jù)隱私標準將出臺
大數(shù)據(jù)將面臨隱私保護的重大挑戰(zhàn),現(xiàn)有的隱私保護法規(guī)和技術(shù)手段難以適應大數(shù)據(jù)環(huán)境,個人隱私越來越難以保護,有可能會出現(xiàn)有償隱私服務,數(shù)據(jù)“面罩”將會流行。預計各國都將會有一系列關(guān)于數(shù)據(jù)隱私的標準和條例出臺。
(3)與云計算深度融合
大數(shù)據(jù)處理離不開云計算技術(shù),云計算為大數(shù)據(jù)提供彈性可擴展的基礎(chǔ)設(shè)施支撐環(huán)境以及數(shù)據(jù)服務的高效模式,大數(shù)據(jù)則為云計算提供了新的商業(yè)價值??傮w而言,云計算、物聯(lián)網(wǎng)、移動互聯(lián)網(wǎng)等新興計算形態(tài),既是產(chǎn)生大數(shù)據(jù)的地方,也是需要大數(shù)據(jù)分析方法的領(lǐng)域。
(4)分析方法發(fā)生變革
大數(shù)據(jù)分析將出現(xiàn)一系列重大變革。就像計算機和互聯(lián)網(wǎng)一樣,大數(shù)據(jù)可能是新一波的技術(shù)革命?;诖髷?shù)據(jù)的數(shù)據(jù)挖掘、機器學習和人工智能可能會改變小數(shù)據(jù)里的很多算法和基礎(chǔ)理論,這方面很可能會產(chǎn)生理論級別的突破。
(5)網(wǎng)絡安全問題凸顯
大數(shù)據(jù)的安全令人擔憂,大數(shù)據(jù)的保護越來越重要。大數(shù)據(jù)的不斷增加,對數(shù)據(jù)存儲的物理安全性要求會越來越高,從而對數(shù)據(jù)的多副本與容災機制提出更高的要求。網(wǎng)絡和數(shù)字化生活使得犯罪分子更容易獲得關(guān)于人的信息,也有了更多不易被追蹤和防范的犯罪手段,可能會出現(xiàn)更高明的騙局。
(6)以數(shù)據(jù)為中心的解決方案與應用的興起
世界已經(jīng)不再將應用作為獨有的優(yōu)勢,相反,數(shù)據(jù)則能夠帶來在B2B和B2C領(lǐng)域內(nèi)確立獨特優(yōu)勢的關(guān)鍵點。在數(shù)據(jù)管理中,以數(shù)據(jù)為中心的模式將會取代傳統(tǒng)以應用為中心的模式。
大數(shù)據(jù)分析文章篇2:大數(shù)據(jù)的初步理解
似乎一夜之間,大數(shù)據(jù)(Big Data)變成一個IT行業(yè)中最時髦的詞匯。
首先,大數(shù)據(jù)不是什么完完全全的新生事物,Google的搜索服務就是一個典型的大數(shù)據(jù)運用,根據(jù)客戶的需求,Google實時從全球海量的數(shù)字資產(chǎn)(或數(shù)字垃圾)中快速找出最可能的答案,呈現(xiàn)給你,就是一個最典型的大數(shù)據(jù)服務。只不過過去這樣規(guī)模的數(shù)據(jù)量處理和有商業(yè)價值的應用太少,在IT行業(yè)沒有形成成型的概念?,F(xiàn)在隨著全球數(shù)字化、網(wǎng)絡寬帶化、互聯(lián)網(wǎng)應用于各行各業(yè),累積的數(shù)據(jù)量越來越大,越來越多企業(yè)、行業(yè)和國家發(fā)現(xiàn),可以利用類似的技術(shù)更好地服務客戶、發(fā)現(xiàn)新商業(yè)機會、擴大新市場以及提升效率,才逐步形成大數(shù)據(jù)這個概念。
有一個有趣的故事是關(guān)于奢侈品營銷的。PRADA在紐約的旗艦店中每件衣服上都有RFID碼。每當一個顧客拿起一件PRADA進試衣間,RFID會被自動識別。同時,數(shù)據(jù)會傳至PRADA總部。每一件衣服在哪個城市哪個旗艦店什么時間被拿進試衣間停留多長時間,數(shù)據(jù)都被存儲起來加以分析。如果有一件衣服銷量很低,以往的作法是直接干掉。但如果RFID傳回的數(shù)據(jù)顯示這件衣服雖然銷量低,但進試衣間的次數(shù)多。那就能另外說明一些問題。也許這件衣服的下場就會截然不同,也許在某個細節(jié)的微小改變就會重新創(chuàng)造出一件非常流行的產(chǎn)品。
還有一個是關(guān)于中國糧食統(tǒng)計的故事。中國的糧食統(tǒng)計是一個老大難的問題。中國的統(tǒng)計,雖然有組織、有流程、有法律,但中央的統(tǒng)計人員依靠省統(tǒng)計人員,省靠市,市靠縣,縣靠鎮(zhèn),鎮(zhèn)靠村,最后真正干活或上報的是基層兼職的調(diào)查人員,由于眾所周知的KPI考核導向的原因,層層加碼,幾乎沒有人相信這個調(diào)查數(shù)據(jù),而其中國家統(tǒng)計局的人是最不信的。在前兩年北京的一個會議上,原國家統(tǒng)計局總經(jīng)濟師姚景源向我們講述了他們是如何做的。他們采用遙感衛(wèi)星,通過圖像識別,把中國所有的耕地標識、計算出來,然后把中國的耕地網(wǎng)格化,對每個網(wǎng)格的耕地抽樣進行跟蹤、調(diào)查和統(tǒng)計,然后按照統(tǒng)計學的原理,計算(或者說估算)出中國整體的整體糧食數(shù)據(jù)。這種做法是典型采用大數(shù)據(jù)建模的方法,打破傳統(tǒng)流程和組織,直接獲得最終的結(jié)果。
從這些案例來看,大數(shù)據(jù)并不是很神奇的事情。就如同電影《永無止境》提出的問題:人類通常只使用了20%的大腦,如果剩余80%大腦潛能被激發(fā)出來,世界會變得怎樣?在企業(yè)、行業(yè)和國家的管理中,通常只有效使用了不到20%的數(shù)據(jù)(甚至更少),如果剩余80%數(shù)據(jù)的價值激發(fā)起來,世界會變得怎么樣呢?特別是隨著海量數(shù)據(jù)的新摩爾定律,數(shù)據(jù)爆發(fā)式增長,然后數(shù)據(jù)又得到更有效應用,世界會怎么樣呢?
單個的數(shù)據(jù)并沒有價值,但越來越多的數(shù)據(jù)累加,量變就會引起質(zhì)變,就好像一個人的意見并不重要,但1千人、1萬人的意見就比較重要,上百萬人就足以掀起巨大的波瀾,上億人足以改變一切。
數(shù)據(jù)再多,但如果被屏蔽或者沒有被使用,也是沒有價值的。中國的航班晚點非常多,相比之下美國航班準點情況好很多。這其中,美國航空管制機構(gòu)一個的好做法發(fā)揮了積極的作用,說起來也非常簡單,就是美國會公布每個航空公司、每一班航空過去一年的晚點率和平均晚點時間,這樣客戶在購買機票的時候就很自然會選擇準點率高的航班,從而通過市場手段牽引各航空公司努力提升準點率。這個簡單的方法比任何管理手段(如中國政府的宏觀調(diào)控手段)都直接和有效。這里多說一兩句,過去一個暴政國家對內(nèi)的控制主要是物理上的暴力,就是強力機構(gòu)權(quán)力無限大,搞國家恐怖主義;而現(xiàn)在一個暴政國家,主要是就靠壟斷信息、封鎖信息,讓民眾難以獲得廣泛而真實的信息,從而實現(xiàn)國家的控制。這個信息封鎖,就是對大數(shù)據(jù)的封鎖。
沒有整合和挖掘的數(shù)據(jù),價值也呈現(xiàn)不出來?!队罒o止境》中的庫珀如果不能把海量信息圍繞某個公司的股價整合起來、串聯(lián)起來,這些信息就沒有價值。
因此,海量數(shù)據(jù)的產(chǎn)生、獲取、挖掘及整合,使之展現(xiàn)出巨大的商業(yè)價值,這就是我理解的大數(shù)據(jù)。在互聯(lián)網(wǎng)對一切重構(gòu)的今天,這些問題都不是問題。因為,我認為大數(shù)據(jù)是互聯(lián)網(wǎng)深入發(fā)展的下一波應用,是互聯(lián)網(wǎng)發(fā)展的自然延伸。目前,可以說大數(shù)據(jù)的發(fā)展到了一個臨界點,因此才成為IT行業(yè)中最熱門的詞匯之一。
二、大數(shù)據(jù)將重構(gòu)很多行業(yè)的商業(yè)思維和商業(yè)模式
我想以對未來汽車行業(yè)的狂野想象來展開這個題目。
在人的一生中,汽車是一項巨大的投資。以一部30萬車、七年換車周期來算,每年折舊費4萬多(這里還不算資金成本),加上停車、保險、油、維修、保養(yǎng)等各項費用,每年耗費應在6萬左右。汽車產(chǎn)業(yè)也是一個很長產(chǎn)業(yè)鏈的龍頭產(chǎn)業(yè),這個方面只有房地產(chǎn)可以媲美。
但同時,汽車產(chǎn)業(yè)鏈是一個低效率、變化慢的產(chǎn)業(yè)。汽車一直以來就是四個輪子、一個方向盤、兩排沙發(fā)(李書福語)。這么一個昂貴的東西,圍繞車產(chǎn)生的數(shù)據(jù)卻少的可憐,行業(yè)產(chǎn)業(yè)鏈之間幾無任何數(shù)據(jù)傳遞。
我們在這里狂野地想象一番,如果將汽車全面數(shù)字化,都大數(shù)據(jù)了,會產(chǎn)生什么結(jié)果?
有些人說,汽車數(shù)字化,不就是加個MBB模塊嗎?不,這太小兒科了。在我理想中,數(shù)字化意味著汽車可以隨時聯(lián)上互聯(lián)網(wǎng),意味著汽車是一個大型計算系統(tǒng)加上傳統(tǒng)的輪子、方向盤和沙發(fā),意味著可以數(shù)字化導航、自動駕駛,意味著你和汽車相關(guān)的每一個行動都數(shù)字化,包括每一次維修、每一次駕駛路線、每一次事故的錄像、每一天汽車關(guān)鍵部件的狀態(tài),甚至你的每一個駕駛習慣(如每一次的剎車和加速)都記錄在案。這樣,你的車每月甚至每周都可能產(chǎn)生T比特的數(shù)據(jù)。
好了,我們假設(shè)這些數(shù)據(jù)都可以存儲并分享給相關(guān)的政府、行業(yè)和企業(yè)。這里不討論隱私問題帶來的影響,假設(shè)在隱私保護的前提下,數(shù)據(jù)可以自由分享。
那么,保險公司會怎么做呢?保險公司把你的所有數(shù)據(jù)拿過去建模分析,發(fā)現(xiàn)幾個重要的事實:一是你開車主要只是上下班,南山到坂田這條線路是非繁華路線,紅綠燈很少,這條路線過去一年統(tǒng)計的事故率很低;你的車況(車的使用年限、車型)好,此車型在全深圳也是車禍率較低;甚至統(tǒng)計你的駕駛習慣,加油平均,臨時剎車少,超車少,和周圍車保持了應有的車距,駕駛習慣好。最后結(jié)論是你車型好,車況好,駕駛習慣好,常走的線路事故率低,過去一年也沒有出過車禍,因此可以給予更大幅度的優(yōu)惠折扣。這樣保險公司就完全重構(gòu)了它的商業(yè)模式了。在沒有大數(shù)據(jù)支撐之前,保險公司只把車險客戶做了簡單的分類,一共分為四種客戶,第一種是連續(xù)兩年沒有出車禍的,第二種過去一年沒有出車禍,第三種過去一年出了一次車禍,第四種是過去一年出了兩次及以上車禍的,就四種類型。這種簡單粗暴的分類,就好像女人找老公,僅把男人分為沒有結(jié)過婚的、結(jié)過一次婚的、結(jié)過二次婚的、結(jié)過三次及以上婚的四種男人,就敢嫁人一樣。在大數(shù)據(jù)的支持下,保險公司可以真正以客戶為中心,把客戶分為成千上萬種,每個客戶都有個性化的解決方案,這樣保險公司經(jīng)營就完全不同,對于風險低的客戶敢于大膽折扣,對于風險高的客戶報高價甚至拒絕,一般的保險公司就完全難以和這樣的保險公司競爭了。擁有大數(shù)據(jù)并使用大數(shù)據(jù)的保險公司比傳統(tǒng)公司將擁有壓倒性的競爭優(yōu)勢,大數(shù)據(jù)將成為保險公司最核心的競爭力,因為保險就是一個基于概率評估的生意,大數(shù)據(jù)對于準確評估概率毫無疑問是最有利的武器,而且簡直是量身定做的武器。
在大數(shù)據(jù)的支持下,4S店的服務也完全不同了。車況信息會定期傳遞到4S店,4S店會根據(jù)情況及時提醒車主及時保養(yǎng)和維修,特別是對于可能危及安全的問題,在客戶同意下甚至會采取遠程干預措施,同時還可以提前備貨,車主一到4S店就可以維修而不用等待。
對于駕駛者來說,不想開車的時候,在大數(shù)據(jù)和人工智能的支持下,車輛可以自動駕駛,并且對于你經(jīng)常開的線路可以自學習自優(yōu)化。谷歌的自動駕駛汽車,為了對周圍環(huán)境作出預測,每秒鐘要收集差不多1GB的數(shù)據(jù),沒有大數(shù)據(jù)的支持,自動駕駛是不可想象的;在和周圍車輛過近的時候,會及時提醒車主避讓;上下班的時候,會根據(jù)實時大數(shù)據(jù)情況,對于你經(jīng)常開車的線路予以提醒,繞開擁堵點,幫你選擇最合適的線路;在出現(xiàn)緊急狀況的時候,比如爆胎,自動駕駛系統(tǒng)將自動接管,提高安全性(人一輩子可以難以碰到一次爆胎,人在緊急時的反應往往是災難性的,只會更糟);到城市中心,尋找車位是一件很麻煩的事情,但未來你可以到了商場門口后,讓汽車自己去找停車位,等想要回程的時候,提前通知讓汽車自己開過來接。
車輛是城市最大最活躍的移動物體,是擁堵的來源,也是最大的污染來源之一。數(shù)字化的車輛、大數(shù)據(jù)應用將帶來很多的改變。紅綠燈可以自動優(yōu)化,根據(jù)不同道路的擁堵情況自動進行調(diào)整,甚至在很多地方可以取消紅綠燈;城市停車場也可以大幅度優(yōu)化,根據(jù)大數(shù)據(jù)的情況優(yōu)化城市停車位的設(shè)計,如果配合車輛的自動駕駛功能,停車場可以革命性演變,可以設(shè)計專門為自動駕駛車輛的停車樓,地下、地上樓層可以高達幾十層,停車樓層可以更矮,只要能高于車高度即可(或者把車豎起來停),這樣將對城市規(guī)劃產(chǎn)生巨大的影響;在出現(xiàn)緊急情況,如前方塌方的時候,可以第一時間通知周圍車輛(尤其是開往塌方道路的車輛);現(xiàn)在的燃油稅也可以發(fā)生革命性變化,可以真正根據(jù)車輛的行駛路程,甚至根據(jù)汽車的排污量來收費,排污量少的車甚至可以搞碳交易,賣排放量賣給高油耗的車;政府還可以每年公布各類車型的實際排污量、稅款、安全性等指標,鼓勵民眾買更節(jié)能、更安全的車。
電子商務和快遞業(yè)也可能發(fā)生巨大的變化。運快遞的車都可以自動駕駛,不用趕白天的擁堵的道路,晚上半夜開,在你家門口設(shè)計自動接收箱,通過密碼開啟自動投遞進去,就好像過去報童投報一樣。
這么想象下來,我認為,汽車數(shù)字化、互聯(lián)網(wǎng)化、大數(shù)據(jù)應用、人工智能,將對汽車業(yè)及相關(guān)的長長的產(chǎn)業(yè)鏈產(chǎn)生難以想象的巨大變化和產(chǎn)業(yè)革命,具有無限的想象空間,可能完全被重構(gòu)。當然,要實現(xiàn)我所描述的場景,估計至少50年、100年之后的事情了,估計我這輩子是看不到的。
這里,我想系統(tǒng)回顧一下工業(yè)文明的發(fā)展歷程,首先是物理世界的工業(yè)文明,典型是蒸汽機的發(fā)明,使汽車、輪船進入生活;然后是數(shù)字世界的工業(yè)文明,就是IT技術(shù)的使用,使PC及各種電子產(chǎn)品進入生活,以及企業(yè)數(shù)字化系統(tǒng)的建立,使沃爾瑪這樣的巨型企業(yè)產(chǎn)生成為可能;下一步就是物理世界和數(shù)字世界的融合,這也就是業(yè)界熱炒的“工業(yè)互聯(lián)網(wǎng)”、“IT 3.0”,而這里面除了數(shù)字技術(shù)在傳統(tǒng)行業(yè)的使用(這個事實上已經(jīng)在廣泛使用)、電子商務在渠道的廣泛推行,更重要的就是大數(shù)據(jù)的產(chǎn)生及挖掘、使用,使企業(yè)在管理方式、市場機會挖掘、產(chǎn)品設(shè)計、營銷、服務、商業(yè)模式等發(fā)生巨大的變化,這種巨大的變化帶來了很多行業(yè)的革命性變局,也就是顛覆與改造。這種變化在所謂的低效率的大行業(yè)將最為明顯與直接。這些所謂的的低效率大行業(yè),就是壟斷特征明顯、產(chǎn)業(yè)規(guī)模大、產(chǎn)業(yè)鏈長、歷史悠久但長時間變化少、IT應用水平低的行業(yè),如汽車、金融、保險、醫(yī)療等。
在這個章節(jié)的最后,我想總結(jié)一下自己對大數(shù)據(jù)的看法。
第一,大數(shù)據(jù)使企業(yè)真正有能力從以自我為中心改變?yōu)橐钥蛻魹橹行?。企業(yè)是為客戶而生,目的是為股東獲得利潤。只有服務好客戶,才能獲得利潤。但過去,很多企業(yè)是沒有能力做到以客戶為中心的,原因就是相應客戶的信息量不大,挖掘不夠,系統(tǒng)也不支持,目前的保險業(yè)就是一個典型。大數(shù)據(jù)的使用能夠使對企業(yè)的經(jīng)營對象從客戶的粗略歸納(就是所謂提煉歸納的“客戶群”)還原成一個個活生生的客戶,這樣經(jīng)營就有針對性,對客戶的服務就更好,投資效率就更高。
第二,大數(shù)據(jù)一定程度上將顛覆了企業(yè)的傳統(tǒng)管理方式?,F(xiàn)代企業(yè)的管理方式是來源于對軍隊的模仿,依賴于層層級級的組織和嚴格的流程,依賴信息的層層匯集、收斂來制定正確的決策,再通過決策在組織的傳遞與分解,以及流程的規(guī)范,確保決策得到貫徹,確保每一次經(jīng)營活動都有質(zhì)量保證,也確保一定程度上對風險的規(guī)避。過去這是一種有用而笨拙的方式。在大數(shù)據(jù)時代,我們可能重構(gòu)企業(yè)的管理方式,通過大數(shù)據(jù)的分析與挖掘,大量的業(yè)務本身就可以自決策,不必要依靠膨大的組織和復雜的流程。大家都是基于大數(shù)據(jù)來決策,都是依賴于既定的規(guī)則來決策,是高高在上的CEO決策,還是一線人員決策,本身并無大的區(qū)別,那么企業(yè)是否還需要如此多層級的組織和復雜的流程呢?
第三,大數(shù)據(jù)另外一個重大的作用是改變了商業(yè)邏輯,提供了從其他視角直達答案的可能性?,F(xiàn)在人的思考或者是企業(yè)的決策,事實上都是一種邏輯的力量在主導起作用。我們?nèi)フ{(diào)研,去收集數(shù)據(jù),去進行歸納總結(jié),最后形成自己的推斷和決策意見,這是一個觀察、思考、推理、決策的商業(yè)邏輯過程。人和組織的邏輯形成是需要大量的學習、培訓與實踐,代價是非常巨大的。但是否這是唯一的道路呢?大數(shù)據(jù)給了我們其他的選擇,就是利用數(shù)據(jù)的力量,直接獲得答案。就好像我們學習數(shù)學,小時候?qū)W九九乘法表,中學學幾何,大學還學微積分,碰到一道難題,我們是利用了多年學習沉淀的經(jīng)驗來努力求解,但我們還有一種方法,在網(wǎng)上直接搜索是不是有這樣的題目,如果有,直接抄答案就好了。很多人就會批評說,這是抄襲,是作弊。但我們?yōu)槭裁匆獙W習啊?不就是為了解決問題嘛。如果我任何時候都可以搜索到答案,都可以用最省力的方法找到最佳答案,這樣的搜索難道不可以是一條光明大道嗎?換句話說,為了得到“是什么”,我們不一定要理解“為什么”。我們不是否定邏輯的力量,但是至少我們有一種新的巨大力量可以依賴,這就是未來大數(shù)據(jù)的力量。
第四,通過大數(shù)據(jù),我們可能有全新的視角來發(fā)現(xiàn)新的商業(yè)機會和重構(gòu)新的商業(yè)模式。我們現(xiàn)在看這個世界,比如分析家中食品腐敗,主要就是依賴于我們的眼睛再加上我們的經(jīng)驗,但如果我們有一臺顯微鏡,我們一下就看到壞細菌,那么分析起來完全就不一樣了。大數(shù)據(jù)就是我們的顯微鏡,它可以讓我們從全新視角來發(fā)現(xiàn)新的商業(yè)機會,并可能重構(gòu)商業(yè)模型。我們的產(chǎn)品設(shè)計可能不一樣了,很多事情不用猜了,客戶的習慣和偏好一目了然,我們的設(shè)計就能輕易命中客戶的心窩;我們的營銷也完全不同了,我們知道客戶喜歡什么、討厭什么,更有針對性。特別是顯微鏡再加上廣角鏡,我們就有更多全新的視野了。這個廣角鏡就是跨行業(yè)的數(shù)據(jù)流動,使我們過去看不到的東西都能看到了,比如前面所述的汽車案例,開車是開車,保險是保險,本來不相關(guān),但當我們把開車的大數(shù)據(jù)傳遞到保險公司,那整個保險公司的商業(yè)模式就全變了,完全重構(gòu)了。
最后一點,我想談的是大數(shù)據(jù)發(fā)展對IT本身技術(shù)架構(gòu)的革命性影響。大數(shù)據(jù)的根基是IT系統(tǒng)。我們現(xiàn)代企業(yè)的IT系統(tǒng)基本上是建立在IOE(IBM小型機、Oracle數(shù)據(jù)庫、EMC存儲)+Cisco模型基礎(chǔ)上的,這樣的模型是Scale-UP型的架構(gòu),在解決既定模型下一定數(shù)據(jù)量的業(yè)務流程是適配的,但如果是大數(shù)據(jù)時代,很快會面臨成本、技術(shù)和商業(yè)模式的問題,大數(shù)據(jù)對IT的需求很快就會超越了現(xiàn)有廠商架構(gòu)的技術(shù)頂點,超大數(shù)據(jù)增長將帶來IT支出增長之間的線性關(guān)系,使企業(yè)難以承受。因此,目前在行業(yè)中提出的去IOE趨勢,利用Scale-out架構(gòu)+開源軟件對Scale-up架構(gòu)+私有軟件的取代,本質(zhì)是大數(shù)據(jù)業(yè)務模型所帶來的,也就是說大數(shù)據(jù)將驅(qū)動IT產(chǎn)業(yè)新一輪的架構(gòu)性變革。去IOE潮流中的所謂國家安全因素,完全是次要的。
所以,美國人說,大數(shù)據(jù)是資源,和大油田、大煤礦一樣,可以源源不斷挖出大財富。而且和一般資源不一樣,它是可再生的,是越挖越多、越挖越值錢的,這是反自然規(guī)律的。對企業(yè)如此,對行業(yè)、對國家也是這樣,對人同樣如此。這樣的東西誰不喜歡呢?因此,大數(shù)據(jù)這么熱門,是完全有道理的。
大數(shù)據(jù)分析文章篇3:一篇文章讀懂大數(shù)據(jù)思維
真正的革命并不在于分析數(shù)據(jù)的機器,而在于數(shù)據(jù)本身和我們?nèi)绾芜\用數(shù)據(jù)。將大規(guī)模的數(shù)據(jù)與運用融合一起,將會顛覆很多我們原來的思維。大數(shù)據(jù)思維原理到底是什么?筆者概括為10項原理。
一、數(shù)據(jù)核心原理:從“流程”核心轉(zhuǎn)變?yōu)?ldquo;數(shù)據(jù)”核心
大數(shù)據(jù)時代,計算模式也發(fā)生了轉(zhuǎn)變,從“流程”核心轉(zhuǎn)變?yōu)?ldquo;數(shù)據(jù)”核心。Hadoop體系的分布式計算框架已經(jīng)是“數(shù)據(jù)”為核心的范式。非結(jié)構(gòu)化數(shù)據(jù)及分析需求,將改變IT系統(tǒng)的升級方式:從簡單增量到架構(gòu)變化。大數(shù)據(jù)下的新思維——計算模式的轉(zhuǎn)變。
例如:IBM將使用以數(shù)據(jù)為中心的設(shè)計,目的是降低在超級計算機之間進行大量數(shù)據(jù)交換的必要性。大數(shù)據(jù)下,云計算找到了破繭重生的機會,在存儲和計算上都體現(xiàn)了數(shù)據(jù)為核心的理念。
大數(shù)據(jù)和云計算的關(guān)系:云計算為大數(shù)據(jù)提供了有力的工具和途徑,大數(shù)據(jù)為云計算提供了很有價值的用武之地。而大數(shù)據(jù)比云計算更為落地,可有效利用已大量建設(shè)的云計算資源,最后加以利用。
科學進步越來越多地由數(shù)據(jù)來推動,海量數(shù)據(jù)給數(shù)據(jù)分析既帶來了機遇,也構(gòu)成了新的挑戰(zhàn)。大數(shù)據(jù)往往是利用眾多技術(shù)和方法,綜合源自多個渠道、不同時間的信息而獲得的。為了應對大數(shù)據(jù)帶來的挑戰(zhàn),我們需要新的統(tǒng)計思路和計算方法。
說明:用數(shù)據(jù)核心思維方式思考問題,解決問題。以數(shù)據(jù)為核心,反映了當下IT產(chǎn)業(yè)的變革,數(shù)據(jù)成為人工智能的基礎(chǔ),也成為智能化的基礎(chǔ),數(shù)據(jù)比流程更重要,數(shù)據(jù)庫、記錄數(shù)據(jù)庫,都可開發(fā)出深層次信息。云計算機可以從數(shù)據(jù)庫、記錄數(shù)據(jù)庫中搜索出你是誰,你需要什么,從而推薦給你需要的信息。
二、數(shù)據(jù)價值原理:由功能是價值轉(zhuǎn)變?yōu)閿?shù)據(jù)是價值
大數(shù)據(jù)真正有意思的是數(shù)據(jù)變得在線了,這個恰恰是互聯(lián)網(wǎng)的特點。非互聯(lián)網(wǎng)時期的產(chǎn)品,功能一定是它的價值,今天互聯(lián)網(wǎng)的產(chǎn)品,數(shù)據(jù)一定是它的價值。
例如:大數(shù)據(jù)的真正價值在于創(chuàng)造,在于填補無數(shù)個還未實現(xiàn)過的空白。有人把數(shù)據(jù)比喻為蘊藏能量的煤礦,煤炭按照性質(zhì)有焦煤、無煙煤、肥煤、貧煤等分類,而露天煤礦、深山煤礦的挖掘成本又不一樣。
與此類似,大數(shù)據(jù)并不在“大”,而在于“有用”,價值含量、挖掘成本比數(shù)量更為重要。不管大數(shù)據(jù)的核心價值是不是預測,但是基于大數(shù)據(jù)形成決策的模式已經(jīng)為不少的企業(yè)帶來了盈利和聲譽。
數(shù)據(jù)能告訴我們,每一個客戶的消費傾向,他們想要什么,喜歡什么,每個人的需求有哪些區(qū)別,哪些又可以被集合到一起來進行分類。大數(shù)據(jù)是數(shù)據(jù)數(shù)量上的增加,以至于我們能夠?qū)崿F(xiàn)從量變到質(zhì)變的過程。
舉例來說,這里有一張照片,照片里的人在騎馬,這張照片每一分鐘,每一秒都要拍一張,但隨著處理速度越來越快,從1分鐘一張到1秒鐘1張,突然到1秒鐘10張后,就產(chǎn)生了電影。當數(shù)量的增長實現(xiàn)質(zhì)變時,就從照片變成了一部電影。
美國有一家創(chuàng)新企業(yè)Decide.com,它可以幫助人們做購買決策,告訴消費者什么時候買什么產(chǎn)品,什么時候買最便宜,預測產(chǎn)品的價格趨勢,這家公司背后的驅(qū)動力就是大數(shù)據(jù)。他們在全球各大網(wǎng)站上搜集數(shù)以十億計的數(shù)據(jù),然后幫助數(shù)以十萬計的用戶省錢,為他們的采購找到最好的時間,降低交易成本,為終端的消費者帶去更多價值。
在這類模式下,盡管一些零售商的利潤會進一步受擠壓,但從商業(yè)本質(zhì)上來講,可以把錢更多地放回到消費者的口袋里,讓購物變得更理性,這是依靠大數(shù)據(jù)催生出的一項全新產(chǎn)業(yè)。這家為數(shù)以十萬計的客戶省錢的公司,在幾個星期前,被eBay以高價收購。
再舉一個例子,SWIFT是全球最大的支付平臺,在該平臺上的每一筆交易都可以進行大數(shù)據(jù)的分析,他們可以預測一個經(jīng)濟體的健康性和增長性。比如,該公司現(xiàn)在為全球性客戶提供經(jīng)濟指數(shù),這又是一個大數(shù)據(jù)服務。
定制化服務的關(guān)鍵是數(shù)據(jù)?!洞髷?shù)據(jù)時代》的作者維克托·邁爾·舍恩伯格認為,大量的數(shù)據(jù)能夠讓傳統(tǒng)行業(yè)更好地了解客戶需求,提供個性化的服務。
說明:用數(shù)據(jù)價值思維方式思考問題,解決問題。信息總量的變化導致了信息形態(tài)的變化,量變引發(fā)了質(zhì)變,最先經(jīng)歷信息爆炸的學科,如天文學和基因?qū)W,創(chuàng)造出了“大數(shù)據(jù)”這個概念。
如今,這個概念幾乎應用到了所有人類致力于發(fā)展的領(lǐng)域中。從功能為價值轉(zhuǎn)變?yōu)閿?shù)據(jù)為價值,說明數(shù)據(jù)和大數(shù)據(jù)的價值在擴大,數(shù)據(jù)為“王”的時代出現(xiàn)了。數(shù)據(jù)被解釋是信息,信息常識化是知識,所以說數(shù)據(jù)解釋、數(shù)據(jù)分析能產(chǎn)生價值。
三、全樣本原理原理:從抽樣轉(zhuǎn)變?yōu)樾枰繑?shù)據(jù)樣本
需要全部數(shù)據(jù)樣本而不是抽樣,你不知道的事情比你知道的事情更重要,但如果現(xiàn)在數(shù)據(jù)足夠多,它會讓人能夠看得見、摸得著規(guī)律。數(shù)據(jù)這么大、這么多,所以人們覺得有足夠的能力把握未來,對不確定狀態(tài)的一種判斷,從而做出自己的決定。
這些東西我們聽起來都是非常原始的,但是實際上背后的思維方式,和我們今天所講的大數(shù)據(jù)是非常像的。
舉例:在大數(shù)據(jù)時代,無論是商家還是信息的搜集者,會比我們自己更知道你可能會想干什么。現(xiàn)在的數(shù)據(jù)還沒有被真正挖掘,如果真正挖掘的話,通過信用卡消費的記錄,可以成功預測未來5年內(nèi)的情況。
統(tǒng)計學里頭最基本的一個概念就是,全部樣本才能找出規(guī)律。為什么能夠找出行為規(guī)律?一個更深層的概念是人和人是一樣的,如果是一個人特例出來,可能很有個性,但當人口樣本數(shù)量足夠大時,就會發(fā)現(xiàn)其實每個人都是一模一樣的。
說明:用全數(shù)據(jù)樣本思維方式思考問題,解決問題。從抽樣中得到的結(jié)論總是有水分的,而全部樣本中得到的結(jié)論水分就很少,大數(shù)據(jù)越大,真實性也就越大,因為大數(shù)據(jù)包含了全部的信息。
四、關(guān)注效率原理:由關(guān)注精確度轉(zhuǎn)變?yōu)殛P(guān)注效率
關(guān)注效率而不是精確度,大數(shù)據(jù)標志著人類在尋求量化和認識世界的道路上前進了一大步,過去不可計量、存儲、分析和共享的很多東西都被數(shù)據(jù)化了,擁有大量的數(shù)據(jù)和更多不那么精確的數(shù)據(jù)為我們理解世界打開了一扇新的大門。
大數(shù)據(jù)能提高生產(chǎn)效率和銷售效率,原因是大數(shù)據(jù)能夠讓我們知道市場的需要,人的消費需要。大數(shù)據(jù)讓企業(yè)的決策更科學,由關(guān)注精確度轉(zhuǎn)變?yōu)殛P(guān)注效率的提高,大數(shù)據(jù)分析能提高企業(yè)的效率。
例如:在互聯(lián)網(wǎng)大數(shù)據(jù)時代,企業(yè)產(chǎn)品迭代的速度在加快。三星、小米手機制造商半年就推出一代新智能手機。利用互聯(lián)網(wǎng)、大數(shù)據(jù)提高企業(yè)效率的趨勢下,快速就是效率、預測就是效率、預見就是效率、變革就是效率、創(chuàng)新就是效率、應用就是效率。
競爭是企業(yè)的動力,而效率是企業(yè)的生命,效率低與效率高是衡量企來成敗的關(guān)鍵。一般來講,投入與產(chǎn)出比是效率,追求高效率也就是追求高價值。手工、機器、自動機器、智能機器之間效率是不同的,智能機器效率更高,已能代替人的思維勞動。智能機器核心是大數(shù)據(jù)制動,而大數(shù)據(jù)制動的速度更快。
在快速變化的市場,快速預測、快速決策、快速創(chuàng)新、快速定制、快速生產(chǎn)、快速上市成為企業(yè)行動的準則,也就是說,速度就是價值,效率就是價值,而這一切離不開大數(shù)據(jù)思維。
說明:用關(guān)注效率思維方式思考問題,解決問題。大數(shù)據(jù)思維有點像混沌思維,確定與不確定交織在一起,過去那種一元思維結(jié)果,已被二元思維結(jié)果取代。
過去尋求精確度,現(xiàn)在尋求高效率;過去尋求因果性,現(xiàn)在尋求相關(guān)性;過去尋找確定性,現(xiàn)在尋找概率性,對不精確的數(shù)據(jù)結(jié)果已能容忍。只要大數(shù)據(jù)分析指出可能性,就會有相應的結(jié)果,從而為企業(yè)快速決策、快速動作、創(chuàng)占先機提高了效率。
五、關(guān)注相關(guān)性原理:由因果關(guān)系轉(zhuǎn)變?yōu)殛P(guān)注相關(guān)性
關(guān)注相關(guān)性而不是因果關(guān)系,社會需要放棄它對因果關(guān)系的渴求,而僅需關(guān)注相關(guān)關(guān)系,也就是說只需要知道是什么,而不需要知道為什么。這就推翻了自古以來的慣例,而我們做決定和理解現(xiàn)實的最基本方式也將受到挑戰(zhàn)。
例如:大數(shù)據(jù)思維一個最突出的特點,就是從傳統(tǒng)的因果思維轉(zhuǎn)向相關(guān)思維,傳統(tǒng)的因果思維是說我一定要找到一個原因,推出一個結(jié)果來。
而大數(shù)據(jù)沒有必要找到原因,不需要科學的手段來證明這個事件和那個事件之間有一個必然,先后關(guān)聯(lián)發(fā)生的一個因果規(guī)律。它只需要知道,出現(xiàn)這種跡象的時候,我就按照一般的情況,這個數(shù)據(jù)統(tǒng)計的高概率顯示它會有相應的結(jié)果,那么我只要發(fā)現(xiàn)這種跡象的時候,我就可以去做一個決策,我該怎么做。
這是和以前的思維方式很不一樣,老實說,它是一種有點反科學的思維,科學要求實證,要求找到準確的因果關(guān)系。
在這個不確定的時代里面,等我們?nèi)フ业綔蚀_的因果關(guān)系,再去辦事的時候,這個事情早已經(jīng)不值得辦了。所以“大數(shù)據(jù)”時代的思維有點像回歸了工業(yè)社會的這種機械思維——機械思維就是說我按那個按鈕,一定會出現(xiàn)相應的結(jié)果,是這樣狀態(tài)。
而農(nóng)業(yè)社會往前推,不需要找到中間非常緊密的、明確的因果關(guān)系,而只需要找到相關(guān)關(guān)系,只需要找到跡象就可以了。社會因此放棄了尋找因果關(guān)系的傳統(tǒng)偏好,開始挖掘相關(guān)關(guān)系的好處。
例如:美國人開發(fā)一款“個性化分析報告自動可視化程序”軟件從網(wǎng)上挖掘數(shù)據(jù)信息,這款數(shù)據(jù)挖掘軟件將自動從各種數(shù)據(jù)中提取重要信息,然后進行分析,并把此信息與以前的數(shù)據(jù)關(guān)聯(lián)起來,分析出有用的信息。
非法在屋內(nèi)打隔斷的建筑物著火的可能性比其他建筑物高很多。紐約市每年接到2.5萬宗有關(guān)房屋住得過于擁擠的投訴,但市里只有200名處理投訴的巡視員,市長辦公室一個分析專家小組覺得大數(shù)據(jù)可以幫助解決這一需求與資源的落差。
該小組建立了一個市內(nèi)全部90萬座建筑物的數(shù)據(jù)庫,并在其中加入市里19個部門所收集到的數(shù)據(jù):欠稅扣押記錄、水電使用異常、繳費拖欠、服務切斷、救護車使用、當?shù)胤缸锫省⑹蠡纪对V,諸如此類。
接下來,他們將這一數(shù)據(jù)庫與過去5年中按嚴重程度排列的建筑物著火記錄進行比較,希望找出相關(guān)性。果然,建筑物類型和建造年份是與火災相關(guān)的因素。不過,一個沒怎么預料到的結(jié)果是,獲得外磚墻施工許可的建筑物與較低的嚴重火災發(fā)生率之間存在相關(guān)性。
利用所有這些數(shù)據(jù),該小組建立了一個可以幫助他們確定哪些住房擁擠投訴需要緊急處理的系統(tǒng)。他們所記錄的建筑物的各種特征數(shù)據(jù)都不是導致火災的原因,但這些數(shù)據(jù)與火災隱患的增加或降低存在相關(guān)性。
這種知識被證明是極具價值的:過去房屋巡視員出現(xiàn)場時簽發(fā)房屋騰空令的比例只有13%,在采用新辦法之后,這個比例上升到了70%——效率大大提高了。
全世界的商界人士都在高呼大數(shù)據(jù)時代來臨的優(yōu)勢:一家超市如何從一個17歲女孩的購物清單中,發(fā)現(xiàn)了她已懷孕的事實;或者將啤酒與尿不濕放在一起銷售,神奇地提高了雙方的銷售額。大數(shù)據(jù)透露出來的信息有時確實會起顛覆。
比如,騰訊一項針對社交網(wǎng)絡的統(tǒng)計顯示,愛看家庭劇的男人是女性的兩倍還多;最關(guān)心金價的是中國大媽,但緊隨其后的卻是90后。而在過去一年,支付寶中無線支付比例排名前十的竟然全部在青海、西藏和內(nèi)蒙古地區(qū)。
說明:用關(guān)注相關(guān)性思維方式來思考問題,解決問題。尋找原因是一種現(xiàn)代社會的一神論,大數(shù)據(jù)推翻了這個論斷。
過去尋找原因的信念正在被“更好”的相關(guān)性所取代。當世界由探求因果關(guān)系變成挖掘相關(guān)關(guān)系,我們怎樣才能既不損壞建立在因果推理基礎(chǔ)之上的社會繁榮和人類進步的基石,又取得實際的進步呢?這是值得思考的問題。
解釋:轉(zhuǎn)向相關(guān)性,不是不要因果關(guān)系,因果關(guān)系還是基礎(chǔ),科學的基石還是要的。只是在高速信息化的時代,為了得到即時信息,實時預測,在快速的大數(shù)據(jù)分析技術(shù)下,尋找到相關(guān)性信息,就可預測用戶的行為,為企業(yè)快速決策提供提前量。
比如預警技術(shù),只有提前幾十秒察覺,防御系統(tǒng)才能起作用。比如,雷達顯示有個提前量,如果沒有這個預知的提前量,雷達的作用也就沒有了,相關(guān)性也是這個原理。比如,相對論與量子論的爭論也能說明問題,一個說上帝不擲骰子,一個說上帝擲骰子,爭論幾十年,最后承認兩個都存在,而且量子論取得更大的發(fā)展——一個適用于宇宙尺度,一個適用于原子尺度。
看過“大數(shù)據(jù)分析文章”的人還看了: