您好,登錄后才能下訂單哦!
這篇文章將為大家詳細講解有關python如何流式讀取大文件,小編覺得挺實用的,因此分享給大家做個參考,希望大家閱讀完這篇文章后可以有所收獲。
如何流式讀取大文件
使用with…open…可以從文件中讀取數據,這是所有Python開發人員都非常熟悉的操作。
但是,如果使用不當,也會造成很大的麻煩。
例如,當您使用讀取功能時,Python會將文件內容一次全部加載到內存中。 如果文件具有10 GB或更多,則計算機將消耗的內存非常大。
對于此問題,您可能會考慮使用readline作為生成器來逐行返回。
但是,如果此文件的內容在一行中,則每行10 GB,您仍將一次讀取所有內容。
最優雅的解決方案是使用read方法指定一次只讀取固定大小的內容。 例如,在下面的代碼中,一次僅返回8kb。
上面的代碼在功能上沒有問題,但是代碼看起來還是有點腫。
使用部分函數和迭代函數,您可以像這樣優化代碼
關于“python如何流式讀取大文件”這篇文章就分享到這里了,希望以上內容可以對大家有一定的幫助,使各位可以學到更多知識,如果覺得文章不錯,請把它分享出去讓更多的人看到。
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。