[C++.NET] Comment résoudre un problème d'arrondi avec Single ?

**KaeRZed** · 20/04/2006, 11h50

Salut tout le monde...
Voilà mon problème :
j'ai 3 variables de type System::Single.
Lorsque j'effectue une "simple" multiplication, j'ai des arrondis étranges...

Du style : 1,5300000 * 2,0000000 = 3,0599999999

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
System::Single pu,qte,total;
 
total = pu * qte;

ou encore : 1,5300000 * 100 = 152

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
 
System::Int16 myInt;
System::Single mySingle;
 
myInt = mySingle * 100;

Vous savez pourquoi ???

**NicolasG** · 20/04/2006, 12h30

Les nombres réels sont représentés en mémoire par des puissances de 2 (mantisse et exposant).
Ce qu'on voit est une représentation en base 10, donc forcément arrondie.

Dans le deuxième exemple, on a aussi une conversion en entier qui revient à tronquer un réel.
1,5300000 * 100 = 152,9999999 converti en int on trouve donc 152

**KaeRZed** · 20/04/2006, 12h40

Merci pour l'explication...

Mais... comment je règle le problème ??

**NicolasG** · 20/04/2006, 12h46

Pour la conversion, le plus simple est de réaliser un arrondi au plus proche entier:

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

int myInt = mySingle + 0.5F;

Pour le reste, la valeur calculée est aussi juste que le permet un float.
Le problème est identique avec un double.

En général, cela n'apparait pas car l'affichage est réalisé avec un arrondi à n décimales.