- Умножение, Michael, 12:38 , 11-Фев-04 (1)
>В качестве отступления еще один вопрос. Почему в нижеприведенном скрипте: ><script language="JavaScript"><!-- >s=16.3*101; >// --></script> > >s=1646.3000000000001 ??? > >Откуда 000000000001 ??? стандартная сиутация с числами с плавающей запятой.далеко не всегда можно математически точно преобразровать десятичное число в двоичное с плавающей запятой, обратно так же... кроме того, при операции умножения тоже вполне возможна погрешность в младшем разряде.
- Умножение, Andrew z, 13:58 , 11-Фев-04 (2)
И что же делать. Как можно избавиться от этих хвостов?
- Умножение, Michael, 17:42 , 11-Фев-04 (3)
>И что же делать. >Как можно избавиться от этих хвостов? пользоваться округляющими функциями... или функциями, аналогичными printf в Си... впрочем, не знаю есть ли такие в JS...
|