> Tech > Arrondir les résultats intermédiaires

Arrondir les résultats intermédiaires

Tech - Par iTPro.fr - Publié le 24 juin 2010
email

Les trucs & astuces de la semaine du 11 au 17 Juillet 2005 : Arrondir les résultats intermédiaires, Index Evaluator d’iSeries Navigator, 

L’opération Eval supporte l’extenseur d’opération (H) pour
obtenir un demi-ajustement, ou arrondi. Mais l’arrondi se
produit une seule fois pour une expression – après que la totalité
de l’expression ait été évaluée à  l’aide des règles de dimensionnement
internes de RPG pour les valeurs intermédiaires.
Vous souhaiterez parfois mieux maîtriser la précision
et l’exactitude des résultats intermédiaires, que ne le permettent
Eval et l’extenseur (H). Pour contrôler les résultats
intermédiaires d’une expression, vous pouvez inclure les
fonctions de conversion décimale %Dec et %Dech dans l’expression.
Ainsi, les deux instructions de la figure 2 pourraient fournir
des résultats différents. La première instruction confie à 
RPG le soin de déterminer la taille et la précision des valeurs
intermédiaires et elle arrondit le résultat final une seule fois.
La seconde instruction contrôle la taille et la précision des
valeurs intermédiaires (13 chiffres avec deux décimales)
et arrondit chaque valeur intermédiaire. La seconde instruction
donnera un résultat plus exact pour cet exemple de
calcul.

Téléchargez cette ressource

Préparer l’entreprise à l’IA et aux technologies interconnectées

Préparer l’entreprise à l’IA et aux technologies interconnectées

Avec la « quatrième révolution industrielle », les environnements hyperconnectés entraînent de nouveaux risques en matière de sécurité. Découvrez, dans ce guide Kaspersky, comment faire face à cette nouvelle ère de vulnérabilité.

Tech - Par iTPro.fr - Publié le 24 juin 2010