> Tech > Arrondir les résultats intermédiaires

Arrondir les résultats intermédiaires

Tech - Par iTPro.fr - Publié le 24 juin 2010
email

Les trucs & astuces de la semaine du 11 au 17 Juillet 2005 : Arrondir les résultats intermédiaires, Index Evaluator d’iSeries Navigator, 

L’opération Eval supporte l’extenseur d’opération (H) pour
obtenir un demi-ajustement, ou arrondi. Mais l’arrondi se
produit une seule fois pour une expression – après que la totalité
de l’expression ait été évaluée à  l’aide des règles de dimensionnement
internes de RPG pour les valeurs intermédiaires.
Vous souhaiterez parfois mieux maîtriser la précision
et l’exactitude des résultats intermédiaires, que ne le permettent
Eval et l’extenseur (H). Pour contrôler les résultats
intermédiaires d’une expression, vous pouvez inclure les
fonctions de conversion décimale %Dec et %Dech dans l’expression.
Ainsi, les deux instructions de la figure 2 pourraient fournir
des résultats différents. La première instruction confie à 
RPG le soin de déterminer la taille et la précision des valeurs
intermédiaires et elle arrondit le résultat final une seule fois.
La seconde instruction contrôle la taille et la précision des
valeurs intermédiaires (13 chiffres avec deux décimales)
et arrondit chaque valeur intermédiaire. La seconde instruction
donnera un résultat plus exact pour cet exemple de
calcul.

Téléchargez gratuitement cette ressource

HP Elite Slice G2 : optimisez la collaboration… et votre budget !

HP Elite Slice G2 : optimisez la collaboration… et votre budget !

Téléchargez cette étude Forrester et découvrez comment booster la collaboration tout en dégageant un excellent R.O.I grâce au système de vidéoconférence HP Elite Slice G2 avec Microsoft Teams !

Tech - Par iTPro.fr - Publié le 24 juin 2010