Discussion :

[Sancha]

Re bonjour à tout le monde !

Décidement, je ne peux plus me passer de vous !

J'ai un petit problème : je dois travailler avec des nombres très précis, dans le cadre de mon travail.
Je déclare une variable Value de type Single.

Je donne à cette variable la valeur 1.1.

Mais, quand j'exécute mon programme en pas à pas, je m'aperçoie que Value ne contient pas 1.1 mais 1.100000000023.

Je sais que c'est pas grand chose, mais, ça a beaucoup d'importance dans ce que je fais...

Y'a-t-il un moyen d'améliorer la précision selon vous ?
Ou, une astuce pour ne pas avoir ce problème ?

En tous cas je vous remercie !!!


[EDIT] Si je déclare Value en Double, il n'y a plus ce problème de précision. Mais, je dois travailler avec un Single (protocole oblige).
D'autre part, si j'esaye de "forcer" la précision, c'est à dire que je donne à Value la valeur 1.10000000000000, il me met quand même 1.10000000023...
[/EDIT]

[Cl@udius]

Salut

Les types Single et Double ne sont pas des plus précis (virgule flottante donc approximation et non représentation de la valeur).
En fait cela dépend de la précision dont tu as besoin. Tu peux utiliser le type Extended ou mieux le type Currency si tu travailles au plus avec 5 décimales.

Une entrée de la FAQ parle du sujet: ici

@+ Claudius

[Sancha]

Bonjour Cl@udius !

Merci pour ta réponse, je suis allée lire l'entrée de la FAQ que tu m'as donné et c'est très clair. En fait, je ne sais pas vraiment sur quelle précision je dois travailler. Je sais simplement que j'ai besoin d'un type de données qui permette la virgule mais qui ne prenne pas plus de 4 octets en mémoire (à part le Single, je vois pas).

J'avais peur que la précision me pose un problème. Mais, vu les contraintes, je vais devoir faire avec !

En tous cas, une fois de plus, tu as répondu à ma question avec beaucoup d'expertise et je t'en remercie !

(si tu cherches du boulot, n'hésite pas à envoyer un CV à ma boîte ! Je suis certaine qu'on aura une place pour toi ! )