欧美麻豆久久久久久中文_成年免费观看_男人天堂亚洲成人_中国一级片_动漫黄网站免费永久在线观看_国产精品自产av一区二区三区

中培偉業IT資訊頻道
您現在的位置:首頁 > IT資訊 > 國內認證 > 【專家視點】Spark架構應用的專業術語

【專家視點】Spark架構應用的專業術語

2017-01-20 10:40:50 | 來源:中培企業IT培訓網

Spark架構作為大數據當中的兩大架構之一,其優秀的性能讓其成為大數據應用架構未來的主要選擇,代表著該領域未來發展的趨勢。在 Spark架構應用的過程中,了解其相關的術語很有必要。中培偉業《大數據平臺搭建與高性能計算最佳實戰》培訓專家蔣老師在這里介紹了Spark架構相關的專業術語:

1)RDD(Resilient distributed datasets )

彈性分布式數據集,Spark中最核心的模塊和類,也是設計精華所在。你將它理解為一個大的集合,將所有數據都加載到內存中,方便進行多次重用。第一,它是分布式的,可以分布在多臺機器上,進行計算。第二,它是彈性的,在計算處理過程中,機器的內存不夠時,它會和硬盤進行數據交換,某種程度上會減低性能,但是可以確保計算得以繼續進行。關于RDD的詳細闡述,后面會單獨再起一篇文章。

2)Local模式和Mesos模式

Spark支持Local調用和Mesos集群兩種模式,在Spark上開發算法程序,可以在本地模式調試成功后,直接改用Mesos集群運行,除了文件的保存位置需要考慮以外,算法理論上不需要做任何修改。

Spark的本地模式支持多線程,有一定的單機并發處理能力。但是不算很強勁。本地模式可以保存結果在本地或者分布式文件系統,而Mesos模式一定需要保存在分布式或者共享文件系統。

3)Transformations和Actions

對于RDD,有兩種類型的動作,一種是Transformation,一種是Action。它們本質區別是:

Transformation返回值還是一個RDD。它使用了鏈式調用的設計模式,對一個RDD進行計算后,變換成另外一個RDD,然后這個RDD又可以進行另外一次轉換。這個過程是分布式的

Action返回值不是一個RDD。它要么是一個Scala的普通集合,要么是一個值,要么是空,最終或返回到Driver程序,或把RDD寫入到文件系統中

關于這兩個動作,在Spark開發指南中會有就進一步的詳細介紹,它們是基于Spark開發的核心。

《Hadoop與Spark架構應用實戰》課程是中培偉業的精品課程之一,歡迎廣大想參加該培訓的行業人才能抓緊時間報名,中培偉業將為您獻上受益終身的一課!

標簽: Spark架構
主站蜘蛛池模板: 亚洲国产欧美一区二区三区 | 国产人妻精品无码AV | 久久精品国亚洲A∨麻豆 | 欧美乱妇高清无乱码免费 | 午夜亚洲AV永久无码精品 | gay18无套网站 | 精品无人区卡一卡二卡三 | 国产v综合v亚洲欧美久久 | 偷窥国产亚洲女爱视频在线 | 狠狠干中文字幕 | 国产日韩欧美一区二区久久精品 | 国产人妻熟女在线观看 | 啊片网站在线观看 | 国产成人啪精品视频免费网站 | 97国产在线看片免费人成视频 | 色视频综合无码一区二区三区 | 免费人成网站在线观看99 | 日本xxx色视频在线观看 | 久草热8精品视频在线观看 大地资源在线观看官网第三页 | 国产盗摄TP摄像头偷窥 | 成人午夜特黄aaaaa片男男 | 色中色在线播放 | 国产乡下三级全黄三级 | 好男人香蕉影院 | 亚洲第一免费视频网站 | 人妻偷人VA精品国产旡码 | 亚洲精品456在线播放11 | 巨爆乳寡妇中文在线观看 | 日产精品卡二卡三卡四卡区满十八 | 亚洲熟女精品中文字幕 | 久久AV喷潮久久AV高清 | 中国极品少妇videossexhd 国产精品视频yy9299 | 水蜜桃AV无码 | 夂久亚州精华国产精华华液 | 午夜老司机你懂的视频 | 少妇人妻偷人精品视频 | 蜜桃网在线观看 | 久久国产色AV | 国产熟妇精品高潮一区二区三区 | 日韩高清在线中文字带字幕 | 99热国产这里只有精品无卡顿 |