Discussion :

[Cirdan Telemnar]

j'ai d'éclarer un Long et je fais un calcul pour l'initialiser mais j'ai une erreur d'Overflow sauf si je met le resultat en dur mais je ne peu pas mettre le valeur en dure vu que le calcul dépend d'un variable

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
Dim Val As Long
Val = ((1016 * 648) * 5) / 8

[jmfmarques]

A quoi sert le type double ?

[Cirdan Telemnar]

j'ai essayer mais cela ne change rien de plus situ fait le calcul tous seul tu veras que le total est egal a 411480 et la valeur max d'un long est 2147483647

[jmfmarques]

Ah !
Je vois !
Ce serait pourtant la même chose en VB.NET dont tu nous a dit que tu le connaissais


Ma vieille machine et mes vieilles versions (VB5) semblent avoir de très belles qualités car :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
Private Sub Command3_Click()
  Dim Val As Double, toto As Double
  toto = 999999999
  Val = ((toto * 648) * 5) / 8
  MsgBox Val
End Sub

ne pose aucun problème

[ThierryAIM]

petite subtililite de VB
une operation sur des entiers est convertie en entier
il faut forcer le type Long sur une des valeurs

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
Dim Val As Long
Val = ((CLng(1016) * 648) * 5) / 8

[Cirdan Telemnar]

merci ThierryAIM pour cette petit subtilité qui m'etais inconnu

[MGD_Software]

j'ai d'éclarer un Long et je fais un calcul pour l'initialiser mais j'ai une erreur d'Overflow sauf si je met le resultat en dur mais je ne peu pas mettre le valeur en dure vu que le calcul dépend d'un variable

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
Dim Val As Long
Val = ((1016 * 648) * 5) / 8

Le problème vient tout simplement que VB donne comme format de résultat le type le plus grand des opérandes du calcul. Dans ce cas, le résultat est (pour VB) un entier court, puisque tous les opérandes sont des entiers courts. Donc si le résultat dépasse 32767, on a l'erreur d'overflow.

Par contre, si l'un des termes est un long (ou un flottant), VB détermine que le résultat est un long ou un flottant. La solution du problème est donc très simple : il suffit qu'UN au moins des termes de l'aquations soit un long, en écrivant par exemple (je les ai tous mis au même type, c'est plus pur)

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
Dim Val As Long
Val = ((1016& * 648&) * 5&) / 8&

ou encore

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
Dim Val As Long
Val = ((1016! * 648!) * 5!) / 8!

On peut panacher, etc.

PS. J'ai écrit cette contrib ce matin et je ne l'ai pas envoyée! Mais d'autres ont répondu (la même chose). Désolé pour ce retard.