Discussion :

[petitcoucou31]

bonjour a tous.

Tous est dans le titre !!

Le programme sur lequel je travaille, me retourne ce défaut "aléatoirement" sans que j'arrive vraiment a déterminer ou !! car tout les fonctions utilisées dans la partie du programme qui génèrent ce défaut, son fréquemment utilisés ailleurs et sans problèmes.

j'ai tout de même trouvé une piste qui me semble complétement incohérente.

si le résultat d'un calcul est hors gamme la routine de calcul me renvoie 1E99. si nous passons cette valeur de 1E99 à 1E15 l'erreur ne semble plus de produire !! qu'en pensez vous ??

merci de votre avis

[Charly910]

Bonjour,

il faudrait que tu donnes un peu plus de détail sur le type de calcul, les variables utilisées ... Est ce un calcul simple ou long et complexe à décrire ?

que veux tu dire par "hors gamme" - le résultat prévisible dépasse le domaine de définition de la variable dans lequel tu le stockes ?

@+

Charly

[Caribensila]

Salut,

si le résultat d'un calcul est hors gamme la routine de calcul me renvoie 1E99. si nous passons cette valeur de 1E99 à 1E15 l'erreur ne semble plus de produire !! qu'en pensez vous ??

1E99, c'est bien supérieur au nombre de particules dans l'Univers ( ~ 1E80) !
En revanche, 1E15 est dans l'étendue de Extended...
Ceci explique sans doute cela.

Cela vient peut-être d'une fonction qui renvoie +infini.
Essaie IsInfinite de l'unité Math.


PS : Et si tu bosses dans une banque, surtout attends la fin du G20 !

[petitcoucou31]

Salut a vous deux ,

Pour répondre a : Charly910

le calcul effectué est le résultat d'une mesure physique qui est exécuté dans une DLL qui renvoie soit le résultat du calcul soit "1E99".
L'envoie de la valeur 1E99 est juste pour indiquer que le résultat du calcul est hors gamme pour la mesure en cours (x > a la valeur max admise).
Cette DLL est utilisée par ailleurs et fonctionne sans soucis et sans ce plantage.

D ou ma recherche de ce problème pas dans le calcul , mais dans le traitement de ce calcul (en fait un affichage et la progression d'une bargraph). Le résultat se trouve bien dans l’étendue de la variable est est un réel.


Pour répondre a :Caribensila

Comme quoi l'informatique et le nombre d'atome de l'univers ...lol

Real 5.0 x 10^-324 .. 1.7 x 10^308
Extended 3.6 x 10^-4951 .. 1.1 x 10^4932


je cherche toujours !

[ShaiLeTroll]

Pourquoi ne pas utiliser la valeur dédiée à l'absence de résultat NaN et IsNan
Ou encore Infinity et IsInfinite

Je n'ai pas Delphi, mais sous C++ les types équivalent fonctionnent avec 1E99 !
Il y a confusion entre la précision 15 pour un Double et la valeur de l'exposant, 1E99 ou 1E15 sont tout à fait valable en Double !

le Real \ Real48 est a proscrire !

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
  Single S99 = 1E99; // float
  Double D99 = 1E99; // double
  Extended E99 = 1E99; // long double
  MemoTrace->Lines->Add(Format("Single: %f - Double: %f | %e - Extended : %f | %e", OpenArray<TVarRec>(S99, D99, D99, E99, E99), 4));
  MemoTrace->Lines->Add(Format("Single: %f - Double: %f | %e - Extended : %f | %e", OpenArray<TVarRec>(++S99, ++D99, D99, ++E99, E99), 4));
  MemoTrace->Lines->Add(Format("Single: %f - Double: %f | %e - Extended : %f | %e", OpenArray<TVarRec>(--S99, --D99, D99, --E99, E99), 4));
  MemoTrace->Lines->Add(Format("Single: %f - Double: %f | %e - Extended : %f | %e", OpenArray<TVarRec>(--S99, --D99, D99, --E99, E99), 4));

Single passe en Infinity
Double et Extended s'affiche 9,99999999999999967E98 ou 1,00000000000000E+099 selon %f ou %e
Attention à cela si il y a des conversions en chaine et vice-versa !

Je penche plutôt pour une erreur d'arrondi et que le teste sur 1E99 ne se passe pas correctement laissant la suite du code provoquer une erreur