Pour une Intelligence Artificielle éthique et responsable en 2022

Parmi les 5 tendances IA évoquées par Pegasystems, parvenir à une IA éthique et responsable, digne de confiance et proche des utilisateurs est une priorité. Il est urgent de voir des mesures et outils concrets émerger.

Une IA éthique et responsable = l’urgence 2022

Le concept d’IA responsable s’accompagnera de la mise en place de lois et règlements. Ainsi, la proposition, de l’Union Européenne permettra d’avancer vers des réglementations. Cette législation interdira l’utilisation de l’IA lorsqu’elle comporte un risque inacceptable. En cas de risque élevé, ces applications seront strictement réglementées. Le Royaume-Uni a rendu publique sa stratégie nationale en matière d’IA, le gouvernement chinois a annoncé un projet de réglementation dans certains domaines plus contraignante que celle de l’UE. Des tendances aux États-Unis vont dans le même sens.

Une meilleure mise en œuvre = disparition des applications malveillantes

Quid des malveillantes manipulant l’IA intentionnellement pour des résultats nocifs ? Les ransomwares bloquent l’accès à un système informatique si une certaine somme d’argent n’a pas été versée. Des systèmes de décisions automatisées peuvent comporter des biais algorithmiques non souhaités envers des groupes protégés. Ces exemples peuvent être évités avec une réflexion structurée lors du développement des applications, et notamment en documentant la réponse à des questions simples : Quelles informations l’application contient-elle et pourquoi ? Comment fonctionne l’application ? Que développe-t-on et pourquoi ? Quel est l’objectif de l’application ? Peut-on prouver que le biais algorithmique est limité ?

L’adoption de l’IA = comprendre son potentiel

Les professionnels commencent à comprendre son potentiel de transformation des organisations. Avec une meilleure conscience des bénéfices, des utilisateurs plus matures, une application efficace et appropriée, l’IA atteindra sa maturité. Les organisations automatisent les décisions pour optimiser les interactions avec les clients et processus métier.