> Tech > La perte de précision décimale

La perte de précision décimale

Tech - Par iTPro - Publié le 24 juin 2010
email

La perte de précision décimale est un autre bogue radioactif. Bien que moins fréquente que les erreurs d'arrondi, elle peut avoir des conséquences bien plus graves. En effet, alors qu'une erreur d'arrondi n'affecte que le dernier chiffre significatif d'une zone de résultat, la précision décimale peut affecter tous les chiffres

La perte de précision décimale

à  droite de la virgule.
Pour contrôler la perte de précision, voyons comment le compilateur RPG IV traduit des expressions arithmétiques en code exécutable. Le compilateur divise une expression complexe en une suite d’expressions simples. Chaque expression simple se voit attribuer sa propre zone de résultat intermédiaire. Le compilateur sait que le résultat d’une multiplication peut être supérieur au multiplicande ou au multiplicateur. Par conséquent, le compilateur essaie d’utiliser une zone de résultat intermédiaire qui contient le plus grand produit de multiplication possible. Les zones numériques en RPG sont limitées à  30 chiffres. S’il le doit, le compilateur utilisera les 39 chiffres pour la partie entière d’un nombre, au détriment de sa partie décimale. Quand le compilateur prend une telle décision et abandonne la partie décimale d’un nombre, il y a perte de précision.
On peut éviter la perte de précision décimale de deux manières. Pour une opération Eval isolée, on peut définir l’extension d’opération de positions décimales du résultat (R) :

C Eval(HR) PrfPc = (RtlAmt – CstAmt) /
C RtlAmt * 100

Ou bien, pour préserver la précision décimale de toutes les expressions arithmétiques d’un programme, on peut définir les positions décimales de résultat sur le mot-clé ExprOpts (expression options) sur une définition de contrôle :

H ExprOpts( *ResDecPos )

Notons que les deux techniques peuvent entraîner la perte des données d’ordre supérieur, c’est-à -dire situées à  gauche de la zone. Quand on définit les positions décimales de résultat, le compilateur RPG IV préserve les positions décimales dans les zones de travail au détriment de la portion entière des zones.

Téléchargez gratuitement cette ressource

Le Guide d’Orchestration du Parcours client

Le Guide d’Orchestration du Parcours client

Au-delà de la clarification des nouveaux concepts de gestion du parcours client, ce guide vous permettra de définir, créer et mettre œuvre une orchestration complète articulée autour des trois volets essentiels au succès de l’expérience client et de l’entreprise.

Tech - Par iTPro - Publié le 24 juin 2010