LOADING...
LOADING...
LOADING...
当前位置: 玩币族首页 > 区块链资讯 > JavaScript策略设计时数值计算精度问题解决方案

JavaScript策略设计时数值计算精度问题解决方案

2020-04-01 发明者量化 来源:火星财经

在编写JavaScript策略时,由于脚本语言自身的一些问题,经常导致计算时数值精确度问题。对于程序中一些计算、逻辑判断有一定影响。例如,在计算1 - 0.8或者0.33 * 1.1时,会计算出有误差的数据:

那么如何解决此类问题呢?问题根源在于:浮点数值的最高进度是17位小数,但在进行运算的时候其精确度却远远不如整数;整数在进行运算的时候都会转成10进制; 而Java和JavaScript中计算小数运算时,都会先将十进制的小数换算到对应的二进制,一部分小数并不能完整的换算为二进制,这里就出现了第一次的误差。待小数都换算为二进制后,再进行二进制间的运算,得到二进制结果。然后再将二进制结果换算为十进制,这里通常会出现第二次的误差。

为了解决这个问题,在网上搜索了一些解决方案,经过测试使用,如下方案比较好的解决了这个问题:

究其原理,是把要做运算的两个操作数转换为整数去计算避免精度问题,在计算后(根据转换为整数时的放大倍数)对计算结果运算还原,得出准确结果。

这样当我们想让程序在盘口价格加一跳最小价格精度的时候挂单,就不用担心数值精度问题了

有兴趣的同学,可以读一下代码,了解计算过程,欢迎提出问题,一起学习一起进步。

本文来源:发明者量化
原文标题:JavaScript策略设计时数值计算精度问题解决方案

  • 添加新手交流群:币种分析、每日早晚盘分析
  • 添加虎哥微信,一对一亲自指导:hugelunbi02
  • —-

    编译者/作者:发明者量化

    玩币族申明:玩币族作为开放的资讯翻译/分享平台,所提供的所有资讯仅代表作者个人观点,与玩币族平台立场无关,且不构成任何投资理财建议。文章版权归原作者所有。

    LOADING...
    LOADING...