解決JS浮點數(小數)計算加減乘除的BUG

lewinlee 發布于2019-08-19 14:21 / 3723人閱讀

摘要：調用返回值乘以的精確結果給類型增加一個方法，調用起來更加方便。除法函數，用來得到精確的除法結果除法函數，用來得到精確的除法結果說明的除法結果會有誤差，在兩個浮點數相除的時候會比較明顯。這個函數返回較為精確的除法結果。

加法函數，用來得到精確的加法結果

/**
 ** 加法函數，用來得到精確的加法結果
 ** 說明：javascript的加法結果會有誤差，在兩個浮點數相加的時候會比較明顯。這個函數返回較為精確的加法結果。
 ** 調用：accAdd(arg1,arg2)
 ** 返回值：arg1加上arg2的精確結果
 **/
function accAdd(arg1, arg2) {
    var r1, r2, m, c;
    try {
        r1 = arg1.toString().split(".")[1].length;
    }
    catch (e) {
        r1 = 0;
    }
    try {
        r2 = arg2.toString().split(".")[1].length;
    }
    catch (e) {
        r2 = 0;
    }
    c = Math.abs(r1 - r2);
    m = Math.pow(10, Math.max(r1, r2));
    if (c > 0) {
        var cm = Math.pow(10, c);
        if (r1 > r2) {
            arg1 = Number(arg1.toString().replace(".", ""));
            arg2 = Number(arg2.toString().replace(".", "")) * cm;
        } else {
            arg1 = Number(arg1.toString().replace(".", "")) * cm;
            arg2 = Number(arg2.toString().replace(".", ""));
        }
    } else {
        arg1 = Number(arg1.toString().replace(".", ""));
        arg2 = Number(arg2.toString().replace(".", ""));
    }
    return (arg1 + arg2) / m;
}

//給Number類型增加一個add方法，調用起來更加方便。
Number.prototype.add = function (arg) {
    return accAdd(arg, this);
};

減法函數，用來得到精確的減法結果

/**
 ** 減法函數，用來得到精確的減法結果
 ** 說明：javascript的減法結果會有誤差，在兩個浮點數相減的時候會比較明顯。這個函數返回較為精確的減法結果。
 ** 調用：accSub(arg1,arg2)
 ** 返回值：arg1加上arg2的精確結果
 **/
function accSub(arg1, arg2) {
    var r1, r2, m, n;
    try {
        r1 = arg1.toString().split(".")[1].length;
    }
    catch (e) {
        r1 = 0;
    }
    try {
        r2 = arg2.toString().split(".")[1].length;
    }
    catch (e) {
        r2 = 0;
    }
    m = Math.pow(10, Math.max(r1, r2)); //last modify by deeka //動態控制精度長度
    n = (r1 >= r2) ? r1 : r2;
    return ((arg1 * m - arg2 * m) / m).toFixed(n);
}

// 給Number類型增加一個mul方法，調用起來更加方便。
Number.prototype.sub = function (arg) {
    return accMul(arg, this);
};

乘法函數，用來得到精確的乘法結果

/**
 ** 乘法函數，用來得到精確的乘法結果
 ** 說明：javascript的乘法結果會有誤差，在兩個浮點數相乘的時候會比較明顯。這個函數返回較為精確的乘法結果。
 ** 調用：accMul(arg1,arg2)
 ** 返回值：arg1乘以 arg2的精確結果
 **/
function accMul(arg1, arg2) {
    var m = 0, s1 = arg1.toString(), s2 = arg2.toString();
    try {
        m += s1.split(".")[1].length;
    }
    catch (e) {
    }
    try {
        m += s2.split(".")[1].length;
    }
    catch (e) {
    }
    return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m);
}

// 給Number類型增加一個mul方法，調用起來更加方便。
Number.prototype.mul = function (arg) {
    return accMul(arg, this);
};

除法函數，用來得到精確的除法結果

/** 
 ** 除法函數，用來得到精確的除法結果
 ** 說明：javascript的除法結果會有誤差，在兩個浮點數相除的時候會比較明顯。這個函數返回較為精確的除法結果。
 ** 調用：accDiv(arg1,arg2)
 ** 返回值：arg1除以arg2的精確結果
 **/
function accDiv(arg1, arg2) {
    var t1 = 0, t2 = 0, r1, r2;
    try {
        t1 = arg1.toString().split(".")[1].length;
    }
    catch (e) {
    }
    try {
        t2 = arg2.toString().split(".")[1].length;
    }
    catch (e) {
    }
    with (Math) {
        r1 = Number(arg1.toString().replace(".", ""));
        r2 = Number(arg2.toString().replace(".", ""));
        return (r1 / r2) * pow(10, t2 - t1);
    }
}

//給Number類型增加一個div方法，調用起來更加方便。
Number.prototype.div = function (arg) {
    return accDiv(this, arg);
};

GPU云服務器云服務器 js浮點數運算bug js取浮點數的絕對值 js浮點數存儲 js浮點數運算

文章版權歸作者所有，未經允許請勿轉載,若此文章存在違規行為，您可以聯系管理員刪除。

轉載請注明本文地址：http://m.specialneedsforspecialkids.com/yun/77933.html

關于js小數浮點數操作出現的精度問題的原因以及解決方法

摘要：我們可以利用該函數限定返回數值的位數，從而達到提高精度的效果。一、問題的引入今天在看基礎js文章的時候發現了一個浮點數的精度問題，當打印小數相加的時候有時候會出現數值不準確的情況，如果是在做一些需要數據精度要求較高的工作的時候稍有不慎就會出現問題 console.log(0.1+0.1) //0.2 console.log(0.1+0.2) //0.3000000000000000...

Chiclaim 2019-08-23 16:29 評論0 收藏0
JS魔法堂：徹底理解0.1 + 0.2 === 0.30000000000000004的背后

摘要：也就是說不僅是會產生這種問題，只要是采用的浮點數編碼方式來表示浮點數時，則會產生這類問題。到這里我們都理解只要采取的浮點數編碼的語言均會出現上述問題，只是它們的標準類庫已經為我們提供了解決方案而已。 Brief 一天有個朋友問我JS中計算0.7 * 180怎么會等于125.99999999998，坑也太多了吧！那時我猜測是二進制表示數值時發生round-off error所導致，但并不...

JerryWangSAP 2019-08-19 18:12 評論0 收藏0
JS中如何理解浮點數？

摘要：本文通過介紹的二進制存儲標準來理解浮點數運算精度問題，和理解對象的等屬性值是如何取值的，最后介紹了一些常用的浮點數精度運算解決方案。浮點數精度運算解決方案關于浮點數運算精度丟失的問題，不同場景可以有不同的解決方案。本文由云+社區發表相信大家在平常的 JavaScript 開發中，都有遇到過浮點數運算精度誤差的問題，比如 console.log(0.1+0.2===0.3)// fa...

bang590 2019-08-26 13:26 評論0 收藏0
系統的講解 - PHP 浮點數高精度運算

摘要：浮點數類型包括單精度浮點數和雙精度浮點數。小結通過浮點數精度的問題，了解到浮點數的小數用二進制的表示。以后，在使用浮點數運算的時候，一定要慎之又慎，細節決定成敗。概述記錄下，工作中遇到的坑 ... 關于 PHP 浮點數運算，特別是金融行業、電子商務訂單管理、數據報表等相關業務，利用浮點數進行加減乘除時，稍不留神運算結果就會出現偏差，輕則損失幾十萬，重則會有信譽損失，甚至吃上官司，我...

makeFoxPlay 2019-07-01 12:46 評論0 收藏0
「干貨」細說 Javascript 中的浮點數精度丟失問題（內附好課推薦）

摘要：前言最近，朋友問了我這樣一個問題在中的運算結果，為什么是這樣的雖然我告訴他說，這是由于浮點數精度問題導致的。由于可以用階碼移動小數點，因此稱為浮點數。它的實現遵循標準，使用位精度來表示浮點數。 showImg(https://segmentfault.com/img/remote/1460000018981071); 前言最近，朋友 L 問了我這樣一個問題：在 chrome 中的運算...

senntyou 2019-08-23 17:06 評論0 收藏0