對于處理大文件,可以使用Linux的shuf命令來隨機地對文件進行排序。以下是一些處理大文件的技巧:
shuf -n 100 input_file > output_file
split -b 1G input_file part_
然后,對每個小文件進行隨機排序:
for file in part_*; do shuf $file -o $file.sorted; done
最后,可以合并所有排序后的小文件:
cat *.sorted > output_file
shuf --random-source=/dev/urandom input_file > output_file
通過這些技巧,可以更有效地處理大文件并對其進行隨機排序。