Probleme d'imprecision avec FLOAT

**elvivo** · 08/10/2007, 16h26

Salut,

Dans une GUI je recupere un champ float d'une table qui contient: -58.89
Pour l'extraire je fais un bete SELECT:

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
 
SELECT
   Id
   , Value
FROM
   MaTable
WHERE
   Id = @Id

Ca me retourne: -58.890000000000001

Les probleme c'est que dans la GUI, l'utilisateur peut ajuster cette valeur et dans certains cas l'annuler en saisissant l'inverse. La valeur finale etant donc la valeur initiale plus la somme des ajustements. Donc mon gentil user va voir ca, va copier/coller et changer le signe puis valider.
Ceci va me donner une erreur infime sur le total (genre 1e-16) mais une erreur quand meme qui va faire que je ne pourrais pas tester "valeur = 0.0".

Comment puis je faire pour empecher SQL server de me retourner toutes ces decimales sans arrondir la valeur et quelle que soit la precision du nombre concerne ?

Merci d'avance !!

**rudib** · 08/10/2007, 16h39

Bonjour,

float et real sont des valeurs approchées. Il n'y a aucune garantie en SQL Server de consistance dans les opérations sur ces types. Utilise des decimal à la place.

**elvivo** · 08/10/2007, 23h06

Mais je perds en precision si je cast en decimal non ?

**rudib** · 09/10/2007, 08h31

Il n'y a aucune précision quoi que tu fasses avec un float, la valeur est approchée. Citation des BOL :

Types de données approximatives à utiliser avec des données numériques à virgule flottante. Les données à virgule flottante sont approximatives ; il n'est donc pas possible de représenter précisément toutes les valeurs de ce type de données.

http://msdn2.microsoft.com/fr-fr/library/ms173773.aspx

Donc, tu castes comme tu peux dans des nouvelles colonnes de type decimal, et tu arrêtes de travailler avec des float, ce type de données n'est pas fait pour stocker des valeurs fixes.