您好,登錄后才能下訂單哦!
之前使用數據編碼風格檢測的模塊chardet比較多一點,今天提到的兩個模塊是檢測數據的語言類型,比如是:中文還是英文,模塊的使用方法也比較簡單,我這里只是簡單地使用了一下,因為項目中有這個需求,所以拿來用了一下,并沒有深入地去研究這兩個模塊,模塊的地址鏈接我都給出來了,需要的話可以去研究下:
def langidFunc(): ''' https://github.com/yishuihanhan/langid.py ''' print langid.classify("We Are Family") print langid.classify("Questa e una prova") print langid.classify("我們都有一個家") identifier=LanguageIdentifier.from_modelstring(model,norm_probs=True) print identifier.classify("We Are Family") def langdetectFunc(): ''' https://github.com/yishuihanhan/langdetect ''' s1=u"本篇文章主要介紹兩款語言探測工具,用于區分文本到底是什么語言," s2=u'We are pleased to introduce today a new technology' print detect(s1) print detect(s2) print detect_langs(s2) # detect_langs()輸出探測出的所有語言類型及其所占的比例 print detect_langs("Otec matka syn.")
結果如下:
('en', 9.061840057373047)
('it', -35.41771221160889)
('zh', -85.79573845863342)
('en', 0.16946150595865334)
zh-cn
en
[en:0.999998109575]
[pl:0.571426592237, fi:0.428568772028]
總結
以上就是這篇文章的全部內容了,希望本文的內容對大家的學習或者工作具有一定的參考學習價值,謝謝大家對億速云的支持。如果你想了解更多相關內容請查看下面相關鏈接
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。