中文字幕av专区_日韩电影在线播放_精品国产精品久久一区免费式_av在线免费观看网站

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

怎樣深入理解batched_reduce_size

發布時間:2021-12-10 11:30:56 來源:億速云 閱讀:146 作者:柒染 欄目:大數據

這期內容當中小編將會給大家帶來有關怎樣深入理解batched_reduce_size,文章內容豐富且以專業的角度為大家分析和敘述,閱讀完這篇文章希望大家可以有所收獲。

在search 流程中,協調節點收到客戶端的查詢請求后,將請求涉及到的轉發到其他數據節點,這個過程中會以 shard 為單位發送 query請求,待所有的請求都收到響應(QuerySearchResult)后進行下一步處理。

batched_reduce_size 參數用于控制在Search過程中,當協調節點收到指定的結果時執行一次 reduce。

官網對他的解釋如下:

(Optional, integer) The number of shard results that should be reduced at once on the coordinating node. This value should be used as a protection mechanism to reduce the memory overhead per search request if the potential number of shards in the request can be large. Defaults to 512.

這個解釋看上去難以理解本質,因此查閱一下代碼,重新解釋一下這個參數的含義:協調節點并行發送完 query 請求后,收到的響應QuerySearchResult達到batched_reduce_size數量時,執行一次 reduce,reduce 執行以下操作:

  1. 如果請求中含有聚合,則對這批結果執行聚合

  2. 如果請求中需要計算 TopN,則對這批結果執行計算

因此這個參數的主要作用是防止協調節點為了匯總全部結果而占用太多內存。

主要實現代碼如下,bufferSize就是batched_reduce_size設置的值,默認為512

private synchronized void consumeInternal(QuerySearchResult querySearchResult) {
   if (index == bufferSize) {
       if (hasAggs) {
           InternalAggregations reducedAggs = InternalAggregations.reduce(Arrays.asList(aggsBuffer), reduceContext);
           Arrays.fill(aggsBuffer, null);
           aggsBuffer[0] = reducedAggs;
       }
       if (hasTopDocs) {
           TopDocs reducedTopDocs = mergeTopDocs(Arrays.asList(topDocsBuffer),
                   querySearchResult.from() + querySearchResult.size(), 0);
           Arrays.fill(topDocsBuffer, null);
           topDocsBuffer[0] = reducedTopDocs;
       }
       numReducePhases++;
       index = 1;
   }
   final int i = index++;
   if (hasAggs) {
       aggsBuffer[i] = (InternalAggregations) querySearchResult.consumeAggs();
   }
   if (hasTopDocs) {
       topDocsBuffer[i] = topDocs.topDocs;
   }
}

上述就是小編為大家分享的怎樣深入理解batched_reduce_size了,如果剛好有類似的疑惑,不妨參照上述分析進行理解。如果想知道更多相關知識,歡迎關注億速云行業資訊頻道。

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

黄梅县| 绥滨县| 万全县| 岗巴县| 夏邑县| 巨鹿县| 周至县| 岱山县| 五指山市| 仁布县| 白沙| 老河口市| 汉沽区| 瑞金市| 共和县| 阳原县| 巨野县| 襄城县| 徐闻县| 安化县| 桐庐县| 嘉荫县| 武邑县| 特克斯县| 台北县| 吴忠市| 博罗县| 山东省| 青田县| 大连市| 汶川县| 宁海县| 尉犁县| 南靖县| 城步| 平潭县| 五家渠市| 九寨沟县| 依兰县| 平邑县| 建水县|