Discussion :

[ami44]

Je créer une table avec Sql Server Management Studio TabTmp et une colonne ColTmp de type float. J'ajoute une ligne et j'écris 1,19.
Si je fais un select * from TabTmp depuis Sql Server Management Studio : il me retourne 1,19.
Si je fais un select * from TabTmp depuis sqlcmd.exe : il me retourne 1,18999999999999.
Pourquoi cet écart ?

J'ai fait un script .sql que je lance avec sqlcmd.exe
CREATE TABLE [dbo].[TabTmp2] ( [ColTmp] [float] NULL ) ON [PRIMARY] ;
INSERT INTO [dbo].[TabTmp2] ([ColTmp]) VALUES (1.19) ;
select * from TabTmp2

Si je fais un select * from TabTmp2 depuis sqlcmd.exe : il me retourne 1,18999999999999.

Ma question : pourquoi SQL Server 2005 enregistre 1,8999999999999999 au lieu de 1.19 ?
Sqlcmd me semble le plus précis car il m'affiche bien les 10 décimales après la virgule , contrairement à Sql Server Management Studio qui masque les décimales et arrondi la valeur à 1,19

Merci de votre aide
Ami


Serveur : Intel Xeon, SQL Server 2005
Client : Amd 64 avec Sql Server Management Studio Express

[serge0934]

c'est normal car un float est stocké en numeric (c a d int divisé par int)

si tu veux t'affranchir des approximations fais un ROUND(valeur,nb décimales)

A+
serge

[ami44]

c'est normal car un float est stocké en numeric (c a d int divisé par int) si tu veux t'affranchir des approximations fais un ROUND(valeur,nb décimales)

Vous confirmez que SQL Server enregistre 1,18999999999 dans la base quand on lui demande d'y écrire que 1,19 ( ou 1,19000000000000000) ?

Je ne trouve pas ca normal !
Vraiment je ne comprend toujours pas ....

Ami

[rudib]

Bonjour,

Aide en ligne de SQL Server (http://msdn2.microsoft.com/fr-fr/library/ms187912.aspx) :

Les types de données float et real sont des types de données approximatifs. Le comportement de float et de real suit la spécification IEEE 754 sur les types de données numériques approximatifs.

Les types de données numériques approximatifs ne stockent pas les valeurs exactes spécifiées pour de nombreux chiffres mais une approximation extrêmement précise de la valeur. Pour de nombreuses applications, l'infime différence qui existe entre la valeur spécifiée et l'approximation stockée n'est pas perceptible, sauf occasionellement. Les types de données float et real présentant un caractère approximatif, ne les utilisez pas lorsqu'un comportement numérique exact est requis, comme dans les applications financières, les opérations comprenant des arrondis ou les vérifications d'égalité. Utilisez plutôt les types de données integer, decimal, money ou smallmoney.

Évitez d'utiliser les colonnes float ou real dans les conditions de recherche de la clause WHERE, plus particulièrement les opérateurs = et <>. L'idéal est de limiter les colonnes float et real aux signes de comparaison > ou <.

La spécification IEEE 754 fournit quatre méthodes d'arrondi : arrondi à la valeur la plus proche, à la valeur supérieure, à la valeur inférieure et à zéro. Microsoft SQL Server 2005 utilise l'arrondi à la valeur supérieure. Toutes garantes de la précision, ces méthodes peuvent néanmoins créer des valeurs en virgule flottante légèrement différentes. Comme la représentation binaire d'un nombre en virgule flottante peut utiliser un des nombreux schémas d'arrondi autorisés, il est impossible de quantifier de manière fiable une valeur en virgule flottante.

[ami44]

Merci rudib pour ce lien qui confirme que 1,19 et bien écrit 1.8999999999 dans SQL Server .
Très cordialement
Ami