您好,登錄后才能下訂單哦!
這篇文章將為大家詳細講解有關R語言如何通過parallel包實現多線程運行方式,小編覺得挺實用的,因此分享給大家做個參考,希望大家閱讀完這篇文章后可以有所收獲。
R語言是用于統計分析、繪圖的語言和操作環境,屬于GNU系統的一個自由、免費、源代碼開放的軟件,它是一個用于統計計算和統計制圖的優秀工具。
總的來說,R的運算速度不算快,不過類似并行運算之類的改進可以提高運算的性能。下面非常簡要地介紹如何利用R語言進行并行運算
library(parallel)cl.cores <- detectCores()cl <- makeCluster(cl.cores)
detectCores( )檢查當前電腦可用核數。
makeCluster(cl.cores)使用剛才檢測的核并行運算。R-Doc里這樣描述makeCluster函數:Creates a set of copies of R running in parallel and communicating over sockets. 即同時創建數個R進行并行運算。
在該函數執行后就已經開始并行運算了,電腦可能會變卡一點。尤其在執行par開頭的函數時。
這里利用剛才創建的cl核并行運算expr。expr是執行命令的語句,不過如果命令太長的話,一般寫到文件里比較好。比如把想執行的命令放在Rcode.r里:
clusterEvalQ(cl,source(file="Rcode.r"))
這族函數和apply的用法基本一樣,不過要多加一個參數cl。一般如果cl創建如上面cl <- makeCluster(cl.cores)的話,這個參數可以直接用作parApply(cl=cl,…)。
當然Apply也可以是Sapply,Lapply等等。注意par后面的第一個字母是要大寫的,而一般的apply函數族第一個字母不大寫。另外要注意,即使構建了并行運算的核,不使用parApply()函數,而使用apply()函數的話,則仍然沒有實現并行運算。
換句話說,makeCluster只是創建了待用的核,而不是并行運算的環境。
最后,終止并行運算只需要一行命令
stopCluster(cl)
不使用并行計算,直接使用lapply(隱式循環函數,它實際就是對不同的數據應用了相同的函數):
fun <- function(x){return (x+1);}system.time({res <- lapply(1:5000000, fun);});user system elapsed21.42 1.74 25.70
使用parallel包來加速
library(parallel)#打開四核,具體核數根據機器的核數決定cl <- makeCluster(getOption("cl.cores", 4));system.time({res <- parLapply(cl, 1:5000000, fun)});user system elapsed6.54 0.34 19.95#關閉并行計算stopCluster(cl);
看看單核機器跑出來的結果:
user system elapsed29.30 9.23 97.22
所以,并非核數越多越好,看機器配置。
這個函數有兩點要注意:
首先要先用detectCores函數確定系統核心數目,對于Window系統下的Intel I5或I7 處理器,一般使用detectCores(logical = F)來獲得實際的物理核心數量。
由于這個函數使用的是調用Rscript的方式,這個例子里,對象被復制了三份,因此內存會吃的很厲害,在大數據條件就要小心使用。
在Linux下使用mclapply函數的效果如下:
mc <- getOption("mc.cores", 3)system.time({res <- mclapply(1:5000000, fun, mc.cores = mc);});user system elapsed6.657 0.500 7.181 stopCluster(cl);
補充:R語言如何并行處理[parallel package][向量化操作并行優化]
使用數據,長下面這樣:
使用parallel包,并行向量化處理,進一步提升原先向量化處理速度。
原始代碼:
start <- Sys.time()experiment_step1 <- apply(dtc_small_modify, 1, decompose)end <- Sys.time()print(end-start)
原始運行時間:3.083114 分
使用parallel包后
library(parallel) #并行處理包cl.cores <- detectCores(logical = F) #計算電腦核心數cl <- makeCluster(cl.cores) # 初始化要使用的核心數start <- Sys.time()results <- parApply(cl=cl, dtc_small_modify, 1, decompose) # apply的并行版本stopCluster(cl) # 關閉并行模式end <- Sys.time()print(end-start)
運行時間:55.5877 秒,相較原先,速度提升了將近四倍!
Tips:上述是對向量化(Vectorization)apply類的并行處理。對于apply的并行處理,必須使用par開頭的對應apply.
列表如下:
parLapply(cl = NULL, X, fun, …, chunk.size = NULL) parSapply(cl = NULL, X, FUN, …, simplify = TRUE, USE.NAMES = TRUE, chunk.size = NULL) parApply(cl = NULL, X, MARGIN, FUN, …, chunk.size = NULL) parRapply(cl = NULL, x, FUN, …, chunk.size = NULL) parCapply(cl = NULL, x, FUN, …, chunk.size = NULL) parLapplyLB(cl = NULL, X, fun, …, chunk.size = NULL) parSapplyLB(cl = NULL, X, FUN, …, simplify = TRUE, USE.NAMES = TRUE, chunk.size = NULL)
使用apply類向量化操作后,常常產生大規模列表,可能需要將列表轉成一個完整的大數據框。
關于“R語言如何通過parallel包實現多線程運行方式”這篇文章就分享到這里了,希望以上內容可以對大家有一定的幫助,使各位可以學到更多知識,如果覺得文章不錯,請把它分享出去讓更多的人看到。
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。