Bonjour à tous,

J'ai constaté une erreur lors de l'exécution de mon programme. Cette erreur vient soit de moi, si j'ai oublié un détail, dans ce cas, vous pourrez m'éclaircir, soit du compilateur de Delphi 6 avec lequel je travaille.

J'ai deux entiers, de valeurs assez grande (par exemple 908652 et 19998), et selon les types desquels il sont déclarés, le calcul de leur variance peut être négatif. Je précise que je fais le calcul de la variance manuellement, en appliquant var(a,b)=(a*a+b*b-a*b)*2/9, et rappelle pour ceux qui auraient oublié leurs lointains cours de math qu'une variance ne peut par définition pas être négative.

<span style="color:#0000FF">function</span> CalculeLaVariance1(A: Cardinal; B: Cardinal): Comp;
<br /><span style="color:#0000FF">begin</span>
<br /> Result := (A*A + B*B - A*B)*2/9;
<br /><span style="color:#0000FF">end</span>;
<br />
<br /><span style="color:#0000FF">function</span> CalculeLaVariance2(A: Int64; B: Cardinal): Comp;
<br /><span style="color:#0000FF">begin</span>
<br /> Result := (A*A + B*B - A*B)*2/9;
<br /><span style="color:#0000FF">end</span>;<br />
<!-- Code colorisé via http://tools.codes-sources.com/colorizeCode.aspx -->

CalculeLaVariance1(908652, 19998) me renvoie -3723681536. Alors que CalculeLaVariance2(908652, 19998) me renvoie 1.7952825344e+11, ce qui est la bonne valeur.

J'espère ne pas être le seul chez qui cette erreur se produit. En attendant vos avis, bonne journée

désolé pour le code qui est copié en html, je le recopie lisiblement:


function CalculeLaVariance1(A: Cardinal; B: Cardinal): Comp;
begin
  Result := (A*A + B*B - A*B)*2/9;
end;


function CalculeLaVariance2(A: Int64; B: Cardinal): Comp;
begin
  Result := (A*A + B*B - A*B)*2/9;
end;

Merci pour ta réponse.

Y aurait-il un moyen de déclarer quand même A et B en Cardinal, et de préciser que les calculs intermédiaires se fassent en Int64. Puisque du moment que le résultat peut être stocké dans le type de Result, ici Comp, le reste du calcul devrait être transparent.

Peut-être que quelque chose dans ce goût la ferait l'affaire:

function CalculeLaVariance3(A: Cardinal; B: Cardinal): Comp;
begin
  Result := (Int64(A)*Int64(A) + Int64(B)*Int64(B) - Int64(A)*Int64(B))*2/9;
end;

   Type                               Étendue
Real48                       2.9 x 10^-39 .. 1.7 x 10^38
Single                       1.5 x 10^-45 .. 3.4 x 10^38
Double                     5.0 x 10^-324 .. 1.7 x 10^308
Real                       5.0 x 10^-324 .. 1.7 x 10^308
Extended                 3.6 x 10^-4951 .. 1.1 x 10^4932
Comp                                  -2^63+1 .. 2^63 -1
Currency    -922337203685477.5808.. 922337203685477.5807

Si le type Comp est à proscrire, car entier non scalaire, il ne reste bien que le type Currency pour satisfaire mes exigences ?