中文字幕av专区_日韩电影在线播放_精品国产精品久久一区免费式_av在线免费观看网站

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

BigDecimal遇到的坑有哪些

發布時間:2021-10-21 16:06:39 來源:億速云 閱讀:148 作者:iii 欄目:web開發

這篇文章主要介紹“BigDecimal遇到的坑有哪些”,在日常操作中,相信很多人在BigDecimal遇到的坑有哪些問題上存在疑惑,小編查閱了各式資料,整理出簡單好用的操作方法,希望對大家解答”BigDecimal遇到的坑有哪些”的疑惑有所幫助!接下來,請跟著小編一起來學習吧!

避免用Double來進行運算

使用Double來計算,我們以為的算術運算和計算機計算的并不完全一直,這是因為計算機是以二進制存儲數值的,我們輸入的十進制數值都會轉換成二進制進行計算,十進制轉二進制再轉換成十進制就不是原來那個十進制了,再也不是曾經那個少年了。舉個例子:十進制的0.1轉換成二進制是0.0  0011 0011  0011...(無數個0011),再轉換成十進制就是0.1000000000000000055511151231,看到了吧,沒有騙你的。

計算機無法精確地表達浮點數,這是不可避免的,這是為什么浮點數計算后精度損失的原因。

System.out.println(0.1+0.2); System.out.println(1.0-0.8); System.out.println(4.015*100); System.out.println(123.3/100);

BigDecimal遇到的坑有哪些

通過簡單的例子,我們發現精度損失并不是很大,但是這并不代表我們可以使用,特別是電商類系統中,每天少說幾百萬的單量,每筆訂單哪怕少計算一分錢,算下來也是一筆不小的金額,所以說,這不是個小事情,然后很多人就說,金額計算啊,你用BigDecimal啊,對的,這個沒毛病,但是用了BigDecimal就完事大吉了嗎?當問出這句話的時候,就說明這其中必有蹊蹺。

BigDecimal你遇見過哪些坑?

還是通過一個簡單的例子,計算上邊例子中的運算,來看一下結果:

System.out.println(new BigDecimal(0.1).add(new BigDecimal(0.2))); System.out.println(new BigDecimal(1.0).subtract(new BigDecimal(0.8))); System.out.println(new BigDecimal(4.015).multiply(new BigDecimal(100))); System.out.println(new BigDecimal(123.3).divide(new BigDecimal(100)));

BigDecimal遇到的坑有哪些

我們發現使用了BigDecimal之后計算結果還是不精確,這里就要記住BigDecimal的第一個坑了:

BigDecimal來表示和計算浮點數的時候,要使用String的構造方法來初始化BigDecimal。

小的改進一下再來看看結果:

System.out.println(new BigDecimal("0.1").add(new BigDecimal("0.2"))); System.out.println(new BigDecimal("1.0").subtract(new BigDecimal("0.8"))); System.out.println(new BigDecimal("4.015").multiply(new BigDecimal("100"))); System.out.println(new BigDecimal("123.3").divide(new BigDecimal("100")));

BigDecimal遇到的坑有哪些

那么接下來一個問題,使用了BigDecimal就萬事大吉了嗎?并不是的!

接下來我們來看一下BigDecimal的源碼,這里面有一個地方需要注意,先看圖:

BigDecimal遇到的坑有哪些

注意看這兩個屬性,scale表示小數點右邊幾位,precision表示精度,就是我們常說的有效長度。

前邊我們已經知道,BigDecimal必須傳入字符串類型數值,那么如果我們現在是一個Double類型數值,該如何操作呢?通過一個簡單的測試我們來看一下:

 private static void testScale() {      BigDecimal bigDecimal1 = new BigDecimal(Double.toString(100));      BigDecimal bigDecimal2 = new BigDecimal(String.valueOf(100d));      BigDecimal bigDecimal3 = BigDecimal.valueOf(100d);      BigDecimal bigDecimal4 = new BigDecimal("100");      BigDecimal bigDecimal5 = new BigDecimal(String.valueOf(100));       print(bigDecimal1);      print(bigDecimal2);      print(bigDecimal3);      print(bigDecimal4);      print(bigDecimal5);      }  private static void print(BigDecimal bigDecimal) {         System.out.println(String.format("scale %s precision %s result %s", bigDecimal.scale(), bigDecimal.precision(), bigDecimal.multiply(new BigDecimal("1.001")))); }

run一下我們發現,以上前三種方式是將double轉換成BigDecimal之后,得到的BigDecimal的scale都是1,precision都是4,后兩種方式的toString方法得到的scale都是0,precision都是3,與1.001進行乘運算后,我們發現,scale是兩個數的scale相加的結果。

BigDecimal遇到的坑有哪些

我們在處理浮點數的字符串的時候,應該顯式的方式通過格式化表達式或者格式化工具來明確小數位數和舍入方式。

浮點數的舍入和格式化該如何選擇?

我們首先來看看使用String.format的格式化舍入,會有什么結果,我們知道浮點數有double和float兩種,下邊我們就用這兩種來舉例子:

double num1 = 3.35; float num2 = 3.35f; System.out.println(String.format("%.1f", num1)); System.out.println(String.format("%.1f", num2));

BigDecimal遇到的坑有哪些

得到的結果似乎與我們的預期有出入,其實這個問題也很好解釋,double和float的精度是不同的,double的3.35相當于3.350000000000000088817841970012523233890533447265625,而float的3.35相當于3.349999904632568359375,String.format才有的又是四舍五入的方式舍入,所以精度問題和舍入方式就導致了運算結果與我們預期不同。

Formatter類中默認使用的是HALF_UP的舍入方式,如果我們需要使用其他的舍入方式來格式化,可以手動設置。

到這里我們就知道通過String.format的方式來格式化這條路坑有點多,所以,「浮點數的字符串格式化還得要使用BigDecimal來進行」。

來,上代碼,測試一下究竟是不是那么回事:

BigDecimal num1 = new BigDecimal("3.35"); //小數點后1位,向下舍入 BigDecimal num2 = num1.setScale(1, BigDecimal.ROUND_DOWN); System.out.println(num2); //小數點后1位,四舍五入 BigDecimal num3 = num1.setScale(1, BigDecimal.ROUND_HALF_UP); System.out.println(num3); 輸入結果: 3.3 3.4

這次得到的結果與我們預期一致。

BigDecimal不能使用equals方法比較?

我們都知道,包裝類的比較要使用equals,而不能使用==,那么這一條在Bigdecimal中也適用嗎?數據說話,簡單的一個測試來說明:

System.out.println(new BigDecimal("1").equals(new BigDecimal("1.0"))) 結果:false

按照我們的理解1和1.0是相等的,也應該是相等的,但是Bigdecimal的equals在比較中不只是比較了value,還比較了scale,我們前邊說了scale是小數點后的位數,明顯兩個值的小數點后位數不一樣,所以結果為false。

實際的使用中,我們常常是只希望比較兩個BigDecimal的value,這里就要注意,要使用compareTo方法:

System.out.println(new BigDecimal("1").compareTo(new BigDecimal("1.0"))) 結果:true

到此,關于“BigDecimal遇到的坑有哪些”的學習就結束了,希望能夠解決大家的疑惑。理論與實踐的搭配能更好的幫助大家學習,快去試試吧!若想繼續學習更多相關知識,請繼續關注億速云網站,小編會繼續努力為大家帶來更多實用的文章!

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

钟祥市| 东兴市| 绥滨县| 鲁山县| 庄河市| 南通市| 漯河市| 东山县| 利川市| 永定县| 吉林省| 德安县| 玉门市| 禹城市| 武功县| 通海县| 山东省| 吐鲁番市| 峨眉山市| 左云县| 禹州市| 兰坪| 浮梁县| 类乌齐县| 大港区| 融水| 大新县| 洪江市| 汉川市| 公安县| 阿巴嘎旗| 襄城县| 北宁市| 阿城市| 镇江市| 辉南县| 姚安县| 邯郸县| 久治县| 将乐县| 遂昌县|