Précision des réels (type real) dans un OEF

[eric]

Up

0

Down

::

Pour information :

Dans un exercice OEF, les variables de type « real » sont calculées avec une précision relative de 8 chiffres significatifs. Par exemple, le texte

[code]
\real{x=4.3^12}
\statement{\x}
[/code]

renvoie 39959631 : c’est la valeur approchée à 8 chiffres de la vraie valeur. Le fait que ce soit un entier est un hasard, pas un bug.

Si on désire une plus grande précision on peut utiliser un logiciel spécialisé comme pari ou maxima, en prenant soin de choisir un type text pour ne pas arrondir le résultat. Ainsi :

[code]
\text{x=pari(4.3^12)}
\statement{\x}
[/code]

renvoie 39959630.7972625764 (et pari permet d’augmenter encore la précision si nécessaire).

Une autre solution est d’employer le type « complex » qui travaille aussi sur 18 chiffres.

[Auteur]

Messages