Discussion :

[REMACC1]

Bonjour,

J'ai un petit souci avec des arondis dans des formules de calcul et je ne comprends vraiment pas d'ou vient le pb. J'utilise IE 6.0.

J'ai la formule suivante :
Formule 1 : Solde - ( somme des crédts - somme des débits )

qui peut également s'écrire
Formule 2 : Solde - somme des crédits + somme des débits


Mes débits et mes crédits ont tout le temps au maximum 2 décimales.

Si je prends un exemple concret, j'obtiens 2 résultats différents
Form 1.
121.95 - ( (121.95 + 129) - (10.00) ) donne - 118.999999

Alors qu'avec le formule 2
121.95 - ( 125.95 + 129 ) + 10 j'obtiens - 119

Je ne comprends pas pourquoi j'obtiens 2 résultats différents sachant que c'est le 2ième qui est correct. Cependant dans certains cas c'est l'inverse qui ce passe. c à d que j'obtiens le résultat précis avec la formule 1 et un arrondi avec la formule 2.
Est ce que le pb vient de IE ? ou est ce purement javascript et comment puis je le règler ?
Merci par avance.

[SpaceFrog]

ajoute un petit toFixed ...

[REMACC1]

le ToFixed fait un formattage de la chaine de caractère en faisant un arrondi Ok, mais cela ne m'explique pas la différence entre les 2 calculs !!!
Pourquoi dans un cas j'ai la valeur exact et dans l'autre une valeur arrondi à 0.000...001 près.

[SpaceFrog]

c'est javascript avec ses erreurs de virgules flottantes ...

un cas d'école :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
num = 162.295
num *= 100 // 16229.499999999998
num = Math.round(num) // 16229
num /= 100 // 162.29

Certains browser ne retournent pas ces erreurs ...