> Tech > Arrondir les résultats intermédiaires

Arrondir les résultats intermédiaires

Tech - Par iTPro.fr - Publié le 24 juin 2010

Les trucs & astuces de la semaine du 11 au 17 Juillet 2005 : Arrondir les résultats intermédiaires, Index Evaluator d’iSeries Navigator, 

L’opération Eval supporte l’extenseur d’opération (H) pour
obtenir un demi-ajustement, ou arrondi. Mais l’arrondi se
produit une seule fois pour une expression – après que la totalité
de l’expression ait été évaluée à  l’aide des règles de dimensionnement
internes de RPG pour les valeurs intermédiaires.
Vous souhaiterez parfois mieux maîtriser la précision
et l’exactitude des résultats intermédiaires, que ne le permettent
Eval et l’extenseur (H). Pour contrôler les résultats
intermédiaires d’une expression, vous pouvez inclure les
fonctions de conversion décimale %Dec et %Dech dans l’expression.
Ainsi, les deux instructions de la figure 2 pourraient fournir
des résultats différents. La première instruction confie à 
RPG le soin de déterminer la taille et la précision des valeurs
intermédiaires et elle arrondit le résultat final une seule fois.
La seconde instruction contrôle la taille et la précision des
valeurs intermédiaires (13 chiffres avec deux décimales)
et arrondit chaque valeur intermédiaire. La seconde instruction
donnera un résultat plus exact pour cet exemple de
calcul.

Téléchargez cette ressource

Microsoft 365 Tenant Resilience

Microsoft 365 Tenant Resilience

Face aux failles de résilience des tenants M365 (configurations, privilèges, sauvegarde). Découvrez 5 piliers pour durcir, segmenter et surveiller vos environnements afin de limiter l’impact des attaques. Prioriser vos chantiers cyber et améliorer la résilience de vos tenants Microsoft 365.

Les plus consultés sur iTPro.fr

A lire aussi sur le site

À la une de la chaîne Tech