中文字幕av专区_日韩电影在线播放_精品国产精品久久一区免费式_av在线免费观看网站

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

浮點型轉字符型有效位數問題

發布時間:2020-07-05 12:45:45 來源:網絡 閱讀:361 作者:38734603 欄目:開發技術

float是單精度型占4個字節(32位),只能提供7位有效數字,小數點后最多保留6位。
double是雙精度型占4個字節(64位),只能提供16位有效數字,小數點后最多保留6位。



遇到的問題: 83427.746 在float類型下轉成NSstring 類型 變成83427.742188產生巨大偏差,導致四舍五入,在Double類型下正常,經測試發現大于65536之后,三位小數都會失真


向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

泸州市| 南华县| 乌兰察布市| 绵竹市| 安塞县| 吉木乃县| 中超| 渭南市| 清丰县| 资中县| 聊城市| 大姚县| 韩城市| 台中市| 吉林市| 海门市| 肇源县| 永年县| 丰县| 抚松县| 子长县| 通州市| 扎兰屯市| 临西县| 同心县| 和顺县| 定安县| 曲麻莱县| 滁州市| 茂名市| 峨边| 三河市| 德阳市| 栾川县| 高邑县| 湘潭县| 河津市| 湖州市| 玉龙| 衡山县| 镇宁|