Discussion :

[Jlmat]

Bonjour,

Je teste une limite dans une fonction qui ne doit pas dépasser la valeur d'un QWord, soit 18 446 744 073 709 551 615.

Voici la fonction qui plante sur la dernière ligne de result et qui devrait également planter sur l'instruction Limite := QWord(Trunc(ResVal)) qui utilise également Trunc(ResVal)!;

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
 
{--- fCellMax ------------------------------------------------------------------
Les limites (nombre maximum de la population des cellules identifiables de manière
unique sont celles du type des varaibles X,Y,Z et T selon la dimension
Si l'on prend une seule limite et que l'on prend :
1. Type Word pour X,Y,Z, T
    => Limite Max = 65535×65535×65535×65535 = 1 853 020 188 851 841;
    => c'est donc un UInt64 ou un QWord =  0 .. 18 446 744 073 709 551 615
    => Le Longword n'est pas assez grand : (0 .. 4 294 967 295)
-------------------------------------------------------------------------------}
function fCellMax(aDim : Tdim) : QWord;
  var Limite : QWord;
    ResVal   : Extended;
    Fmt      : string;
begin
  result := 0;
  ResVal := IntPower(65535, 4);
 
  {Vérification limite du Qword}
  if (ResVal < 0) or (ResVal > High(QWord)) then
     begin
       Limite := QWord(Trunc(ResVal));
       Fmt    := Format('%d', [Limite]); // Afficher sans décimales
       MessageDlg('Dépassement des limites du nombre de cellules individuelles : ' +
                 Fmt + #13#10 + 'Valeur Maximale autorisée = 1 853 020 188 851 841'
                 , mtError, [mbOk], 0);
       exit;
     End;
  Result := Trunc(ResVal);
end;

L'erreur à l'exécution est :



Note : Je souhaite un résultat numérique et non pas un string qui a déjà été suggéré sur ce site!

merci

[tourlourou]

Bonjour,
Si je reprends :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
18 446 744 073 709 551 615 = High(QWord)
18 445 618 199 572 250 625 = 65535 ^ 4
 9 223 372 036 854 775 807 = High(int64)
     1 853 020 188 851 841 = limite max <> 65535^4

Il est à mon avis impossible de comparer fiablement en faisant autant de conversions entre types : Trunc renvoie la partie entière d'un Float dans la limite d'un Int64.
Enfin, tu fais un test sur une constante, évalué toujours faux, donc le compilateur omet probablement le code conditionnel, puisque inutile, et l'erreur se manifeste sur la seule expression compilée.
Je ne conçois pas de solution en dehors des bibliothèques de calculs sur grands entiers.

[Jlmat]

Merci tourlourou,

Oui, merci Tourlourou, je suis d'accord avec ton analyse! Je pensais que je pouvais utiliser Trunc..., Mais il détecte l'erreur effectivement avant...
J'avais pensé qu'il y aurait peut être une astuce! De toute façon, cette fonction n'est utilisée que pour un paramétrage, donc pas de problème de temps d'exécution...
Je vais donc faire des comparaisons de String des valeurs et ne faire le calcul et la conversion qu'après validation si je suis en dessous des limites.

A+