Discussion :

[zitoun]

Salut,
je fais des calcul assez poussé dans mon appli, mais je me suis aperçu que ça donnait pas des valeurs correcte voici un exemple:

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
Dim a As Double = 120.6
Dim b As Double = 120
Dim c As Double
MsgBox(c)

Ce bout de code m'affiche 0.599999999999994
J'aurais besoin que ça donne 0.6
Une solution...?
Merci d'avance

[Invité]

Deja dans ton exemple la variable "c" n'est pas initialisé.

Tu peux utiliser la methode Maths.Round qui permet de faire un arrondi.

[Feilong]

Je suppose que c = a - b vu le résultat attendu.

Maintenant, ton probléme est normal. Le codage de nombre réels en informatique n'est pas une science exacte et tu aura toujours des valeurs approchantes.

http://msdn2.microsoft.com/fr-fr/lib...em.double.aspx

[neguib]

Ceci te donnera le resultat attendu

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7

Dim a As Decimal = 120.6D
Dim b As Decimal = 120D
Dim c As Decimal = a - b
Console.WriteLine(c)
Console.ReadLine()

[cinemania]

comme l'a si bien dit feilong, n'oublie pas qu'en informatique tu travail en numérique certes mais en mathématique discretes. Par essence, c'est l'opposé des maths réelles que tu connais habituellement qui sont des maths discretes !

En informatique tout repose sur la modélisation des données. Pour un nombre entier par exemple, il existe plétor de modélisation différentes. Chacune à ses caractèristique exemple byte gere les nombre entier allant de 0 a 255 mais pas au dela ou négatifs (là il faut utiliser alors l'arithmétique signée)

Le probleme c'est qu'en math tu travail dans un univers dit infini, c'est le fondement des maths tel que tu les connais. Malheureusement en informatique, tu travail dans un univers FINI, et oui la notion d'infini n'existe pas en informatique, meme si tu code dans ta représentation une option INFINIE, ca ne règlera pas le probleme car ta modélisation aura TOUJOURS une limite ! supposons pour cela que tu travail alos avec l'expression INFINI-1, en math ca existe, en informatique là tu sera bien ... beeeeep ... si tu vois ce que je veux dire.
pour les nombres réels, on utilise donc les types float et double pour la représentation. Il s'agit du dégré de précision du modele. Les doubles ont comme leur nom l'indique une double précision par rapport au modele d'origine. Cependant comme je l'ai déja indiqué, il sont finis et par conséquent limités et donc, approximatifs, les résultats obtenus ne sont donc pas FORMELS mais APPROXIMATIFS. C'est pourquoi en math certaines expressions donnent le meme résultat mais pas lorsque tu effectue le calcul sur un ordinateur.
Tâche donc de toujours garder à l'esprit ces notions quand tu travaille avec des données numériques dans un programme, surtout quand les données numérique sont réelles.