Discussion :

[pguiheu]

Bonjour à tous,

Voici l'énoncé du sujet :
Dans une table, j'ai 3 champs numériques, entiers longs NCE, NCP et NCC. Comme valeurs, j'ai NCE=360 NCP=150 et NCC=10.

Dans une première requête je fais les calculs suivants :
NP:[NCE]/[NCP] soit 2,4
NPE:Ent([NP]) donc 2 (jusque là tout se passe bien...)
RP:[NP]-[NPE] la partie décimale, donc, soit 0,4
NC: [RP]*[NCP]/[NCC] donc 0,4 * 150 / 10 qui donne 6

Dans une seconde requête, basée sur la première :
NCE: Ent([NC]) et ça donne 5 !! Pas mal, non ??

Par contre, si je pars d'une table avec RP en réel double et 0,4 en valeur, et le reste inchangé, avec une requête dont les calculs sont identiques :
NC: [RP]*[NCP]/[NCC] toujours à 6
NCE: Ent([NC]) donne 6, cette fois ci.

Quelqu'un comprend-il quelque chose à ce phénomène pour le moins bizzarre ?
C'est à douter des Maths, cette affaire...

Merci par avance pour vos lumières...

Patrick

[Sonic]

C'est un problème de perte de précisions dû à l'utilisation de vigule flotante. Ton calcul 0.4*150/10 donne en fait 5,9999999... (à quelque chose près). Le problème c'est que Int(5.999) donne bien 5, essaye plutot un Round(0.4*150/10)

[pguiheu]

Merci de ta proposition d'utiliser Round. J'ai cru un moment que ça marchait.
Avec les valeurs données ça donne bien 6, en effet, mais j'ai d'autres valeurs pour lesquelles j'ai besoin de la partie entière aussi, 6,666667 par exemple, et, là, évidemment ça donne 7...

Juste pour ma culture générale, comment tu fais pour savoir que 0,4 *150 / 10 donne 5,999999 ?

A part ça, en fouinant, j'ai trouvé quelque chose qui semble fonctionner, d'autant que je n'ai pas de nombres négatifs :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
10
11
12
 
function pe(x)
 
dim texte as string
dim partieentieretexte as string
 
texte = x (je récupère mon nombre dans une variable chaîne)
 
partieentieretexte = Split(texte,",")(0) (je prends à gauche de la virgule)
pe = CInt(partieentieretexte) (je convertis en integer)
 
end function

Qu'en penses tu ?
merci en tout cas

Patrick

[Sonic]

Oui ca fonctionne, je me sers également d'une conversion en chaîne de caractères dans une de mes requetes mais j'avais pas osé te le proposer, ca fait pas super propre quand même dans certain cas y a pas plus simple

[Tofalu]

Dans la première requête essaie :

NP:CCur([NCE]/[NCP]) soit 2,4
NPE:Ent([NP]) donc 2 (jusque là tout se passe bien...)
RP:CCur([NP]-[NPE]) la partie décimale, donc, soit 0,4
NC: CCur([RP]*[NCP]/[NCC]) donc 0,4 * 150 / 10 qui donne 6

[pguiheu]

Merci Sonic,

C'est vrai que la méthode n'est sans doute pas très orthodoxe, mais, en attendant, ça fonctionne, et c'est l'essentiel, n'est-ce pas ?

Merci Tofalu pour ta proposition d'utiliser Ccur, mais ça ne change rien : Si je demande la partie entière de NC dans la 2nde requête, j'ai toujours 5...

Bonne continuation, et à une prochaine fois,

Patrick