> Tech > La perte de précision décimale

La perte de précision décimale

Tech - Par Renaud ROSSET - Publié le 24 juin 2010
email

La perte de précision décimale est un autre bogue radioactif. Bien que moins fréquente que les erreurs d'arrondi, elle peut avoir des conséquences bien plus graves. En effet, alors qu'une erreur d'arrondi n'affecte que le dernier chiffre significatif d'une zone de résultat, la précision décimale peut affecter tous les chiffres

La perte de précision décimale

à  droite de la virgule.
Pour contrôler la perte de précision, voyons comment le compilateur RPG IV traduit des expressions arithmétiques en code exécutable. Le compilateur divise une expression complexe en une suite d’expressions simples. Chaque expression simple se voit attribuer sa propre zone de résultat intermédiaire. Le compilateur sait que le résultat d’une multiplication peut être supérieur au multiplicande ou au multiplicateur. Par conséquent, le compilateur essaie d’utiliser une zone de résultat intermédiaire qui contient le plus grand produit de multiplication possible. Les zones numériques en RPG sont limitées à  30 chiffres. S’il le doit, le compilateur utilisera les 39 chiffres pour la partie entière d’un nombre, au détriment de sa partie décimale. Quand le compilateur prend une telle décision et abandonne la partie décimale d’un nombre, il y a perte de précision.
On peut éviter la perte de précision décimale de deux manières. Pour une opération Eval isolée, on peut définir l’extension d’opération de positions décimales du résultat (R) :

C Eval(HR) PrfPc = (RtlAmt – CstAmt) /
C RtlAmt * 100

Ou bien, pour préserver la précision décimale de toutes les expressions arithmétiques d’un programme, on peut définir les positions décimales de résultat sur le mot-clé ExprOpts (expression options) sur une définition de contrôle :

H ExprOpts( *ResDecPos )

Notons que les deux techniques peuvent entraîner la perte des données d’ordre supérieur, c’est-à -dire situées à  gauche de la zone. Quand on définit les positions décimales de résultat, le compilateur RPG IV préserve les positions décimales dans les zones de travail au détriment de la portion entière des zones.

Téléchargez cette ressource

Préparer l’entreprise aux technologies interconnectées

Préparer l’entreprise aux technologies interconnectées

Avec la « quatrième révolution industrielle », les environnements hyperconnectés entraînent de nouveaux risques en matière de sécurité. Découvrez, dans ce guide Kaspersky, comment faire face à cette nouvelle ère de vulnérabilité.

Tech - Par Renaud ROSSET - Publié le 24 juin 2010