成人无码视频,亚洲精品久久久久av无码,午夜精品久久久久久毛片,亚洲 中文字幕 日韩 无码

資訊專欄INFORMATION COLUMN

解決JS浮點數(shù)(小數(shù))計算加減乘除的BUG

lewinlee / 3775人閱讀

摘要：調(diào)用返回值乘以的精確結(jié)果給類型增加一個方法，調(diào)用起來更加方便。除法函數(shù)，用來得到精確的除法結(jié)果除法函數(shù)，用來得到精確的除法結(jié)果說明的除法結(jié)果會有誤差，在兩個浮點數(shù)相除的時候會比較明顯。這個函數(shù)返回較為精確的除法結(jié)果。

加法函數(shù)，用來得到精確的加法結(jié)果

/**
 ** 加法函數(shù)，用來得到精確的加法結(jié)果
 ** 說明：javascript的加法結(jié)果會有誤差，在兩個浮點數(shù)相加的時候會比較明顯。這個函數(shù)返回較為精確的加法結(jié)果。
 ** 調(diào)用：accAdd(arg1,arg2)
 ** 返回值：arg1加上arg2的精確結(jié)果
 **/
function accAdd(arg1, arg2) {
    var r1, r2, m, c;
    try {
        r1 = arg1.toString().split(".")[1].length;
    }
    catch (e) {
        r1 = 0;
    }
    try {
        r2 = arg2.toString().split(".")[1].length;
    }
    catch (e) {
        r2 = 0;
    }
    c = Math.abs(r1 - r2);
    m = Math.pow(10, Math.max(r1, r2));
    if (c > 0) {
        var cm = Math.pow(10, c);
        if (r1 > r2) {
            arg1 = Number(arg1.toString().replace(".", ""));
            arg2 = Number(arg2.toString().replace(".", "")) * cm;
        } else {
            arg1 = Number(arg1.toString().replace(".", "")) * cm;
            arg2 = Number(arg2.toString().replace(".", ""));
        }
    } else {
        arg1 = Number(arg1.toString().replace(".", ""));
        arg2 = Number(arg2.toString().replace(".", ""));
    }
    return (arg1 + arg2) / m;
}

//給Number類型增加一個add方法，調(diào)用起來更加方便。
Number.prototype.add = function (arg) {
    return accAdd(arg, this);
};

減法函數(shù)，用來得到精確的減法結(jié)果

/**
 ** 減法函數(shù)，用來得到精確的減法結(jié)果
 ** 說明：javascript的減法結(jié)果會有誤差，在兩個浮點數(shù)相減的時候會比較明顯。這個函數(shù)返回較為精確的減法結(jié)果。
 ** 調(diào)用：accSub(arg1,arg2)
 ** 返回值：arg1加上arg2的精確結(jié)果
 **/
function accSub(arg1, arg2) {
    var r1, r2, m, n;
    try {
        r1 = arg1.toString().split(".")[1].length;
    }
    catch (e) {
        r1 = 0;
    }
    try {
        r2 = arg2.toString().split(".")[1].length;
    }
    catch (e) {
        r2 = 0;
    }
    m = Math.pow(10, Math.max(r1, r2)); //last modify by deeka //動態(tài)控制精度長度
    n = (r1 >= r2) ? r1 : r2;
    return ((arg1 * m - arg2 * m) / m).toFixed(n);
}

// 給Number類型增加一個mul方法，調(diào)用起來更加方便。
Number.prototype.sub = function (arg) {
    return accMul(arg, this);
};

乘法函數(shù)，用來得到精確的乘法結(jié)果

/**
 ** 乘法函數(shù)，用來得到精確的乘法結(jié)果
 ** 說明：javascript的乘法結(jié)果會有誤差，在兩個浮點數(shù)相乘的時候會比較明顯。這個函數(shù)返回較為精確的乘法結(jié)果。
 ** 調(diào)用：accMul(arg1,arg2)
 ** 返回值：arg1乘以 arg2的精確結(jié)果
 **/
function accMul(arg1, arg2) {
    var m = 0, s1 = arg1.toString(), s2 = arg2.toString();
    try {
        m += s1.split(".")[1].length;
    }
    catch (e) {
    }
    try {
        m += s2.split(".")[1].length;
    }
    catch (e) {
    }
    return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m);
}

// 給Number類型增加一個mul方法，調(diào)用起來更加方便。
Number.prototype.mul = function (arg) {
    return accMul(arg, this);
};

除法函數(shù)，用來得到精確的除法結(jié)果

/** 
 ** 除法函數(shù)，用來得到精確的除法結(jié)果
 ** 說明：javascript的除法結(jié)果會有誤差，在兩個浮點數(shù)相除的時候會比較明顯。這個函數(shù)返回較為精確的除法結(jié)果。
 ** 調(diào)用：accDiv(arg1,arg2)
 ** 返回值：arg1除以arg2的精確結(jié)果
 **/
function accDiv(arg1, arg2) {
    var t1 = 0, t2 = 0, r1, r2;
    try {
        t1 = arg1.toString().split(".")[1].length;
    }
    catch (e) {
    }
    try {
        t2 = arg2.toString().split(".")[1].length;
    }
    catch (e) {
    }
    with (Math) {
        r1 = Number(arg1.toString().replace(".", ""));
        r2 = Number(arg2.toString().replace(".", ""));
        return (r1 / r2) * pow(10, t2 - t1);
    }
}

//給Number類型增加一個div方法，調(diào)用起來更加方便。
Number.prototype.div = function (arg) {
    return accDiv(this, arg);
};

文章版權(quán)歸作者所有，未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為，您可以聯(lián)系管理員刪除。

轉(zhuǎn)載請注明本文地址：http://m.hztianpu.com/yun/77933.html

相關(guān)文章

  • 關(guān)于js小數(shù)浮點數(shù)操作出現(xiàn)的精度問題的原因以及解決方法

    摘要：我們可以利用該函數(shù)限定返回數(shù)值的位數(shù)，從而達到提高精度的效果。 一、問題的引入 今天在看基礎(chǔ)js文章的時候發(fā)現(xiàn)了一個浮點數(shù)的精度問題，當(dāng)打印小數(shù)相加的時候有時候會出現(xiàn)數(shù)值不準確的情況，如果是在做一些需要數(shù)據(jù)精度要求較高的工作的時候稍有不慎就會出現(xiàn)問題 console.log(0.1+0.1) //0.2 console.log(0.1+0.2) //0.3000000000000000...

    Chiclaim 評論0 收藏0

  • JS魔法堂：徹底理解0.1 + 0.2 === 0.30000000000000004的背后

    摘要：也就是說不僅是會產(chǎn)生這種問題，只要是采用的浮點數(shù)編碼方式來表示浮點數(shù)時，則會產(chǎn)生這類問題。到這里我們都理解只要采取的浮點數(shù)編碼的語言均會出現(xiàn)上述問題，只是它們的標準類庫已經(jīng)為我們提供了解決方案而已。 Brief 一天有個朋友問我JS中計算0.7 * 180怎么會等于125.99999999998，坑也太多了吧！那時我猜測是二進制表示數(shù)值時發(fā)生round-off error所導(dǎo)致，但并不...

    JerryWangSAP 評論0 收藏0

  • JS中如何理解浮點數(shù)？

    摘要：本文通過介紹的二進制存儲標準來理解浮點數(shù)運算精度問題，和理解對象的等屬性值是如何取值的，最后介紹了一些常用的浮點數(shù)精度運算解決方案。浮點數(shù)精度運算解決方案關(guān)于浮點數(shù)運算精度丟失的問題，不同場景可以有不同的解決方案。 本文由云+社區(qū)發(fā)表 相信大家在平常的 JavaScript 開發(fā)中，都有遇到過浮點數(shù)運算精度誤差的問題，比如 console.log(0.1+0.2===0.3)// fa...

    bang590 評論0 收藏0

  • 系統(tǒng)的講解 - PHP 浮點數(shù)高精度運算

    摘要：浮點數(shù)類型包括單精度浮點數(shù)和雙精度浮點數(shù)。小結(jié)通過浮點數(shù)精度的問題，了解到浮點數(shù)的小數(shù)用二進制的表示。以后，在使用浮點數(shù)運算的時候，一定要慎之又慎，細節(jié)決定成敗。 概述 記錄下，工作中遇到的坑 ... 關(guān)于 PHP 浮點數(shù)運算，特別是金融行業(yè)、電子商務(wù)訂單管理、數(shù)據(jù)報表等相關(guān)業(yè)務(wù)，利用浮點數(shù)進行加減乘除時，稍不留神運算結(jié)果就會出現(xiàn)偏差，輕則損失幾十萬，重則會有信譽損失，甚至吃上官司，我...

    makeFoxPlay 評論0 收藏0

  • 「干貨」細說 Javascript 中的浮點數(shù)精度丟失問題（內(nèi)附好課推薦）

    摘要：前言最近，朋友問了我這樣一個問題在中的運算結(jié)果，為什么是這樣的雖然我告訴他說，這是由于浮點數(shù)精度問題導(dǎo)致的。由于可以用階碼移動小數(shù)點，因此稱為浮點數(shù)。它的實現(xiàn)遵循標準，使用位精度來表示浮點數(shù)。 showImg(https://segmentfault.com/img/remote/1460000018981071); 前言 最近，朋友 L 問了我這樣一個問題：在 chrome 中的運算...

    senntyou 評論0 收藏0

發(fā)表評論

0條評論

lewinlee

男|高級講師

TA的文章

閱讀更多
最新活動
閱讀需要支付1元查看
<