Intelligence Artificielle & Ethique : la réponse à valeur ajoutée du groupe Magellan Partners via ses entités Magellan Consulting et Exakis Nelite

Pas de doute, cette technologie interpelle, les interrogations abondent et l’accompagnement des entreprises est primordial.

Au travers de ses différentes entités, le groupe Magellan Partners offre l’ensemble des compétences pour aborder ces sujets complexes, notamment au travers d’Exakis Nelite, 1^er pure player indépendant des technologies Microsoft et de Magellan Consulting, dédié à l’activité de conseil en management.

Trois experts du groupe reviennent sur leurs expériences sur ce thème : Christophe Gueguen, Senior Manager Security4business chez Magellan Consulting, Jérémy Sanglier, CTO Infrastructure & Sécurité Exakis Nelite et Victor Salas, Development Service Director, Exakis Nelite.

Des enjeux majeurs

Toutes les activités autour de l’Intelligence artificielle sont extrêmement récentes et puissantes. Si le cadre juridique est partiellement fixé, les cas d’usages et l’appropriation par les particuliers et les entreprises n’en sont qu’à leurs débuts.

Tout le monde a bien compris l’infini des possibilités offertes par les IA et l’importance des données qui vont servir à les alimenter. Dans les consciences, ces points font très vite écho au RGPD (Règlement Général de la Protection des Données) et aux enjeux de discrimination (Déclaration des Droits de l’Homme). Ces lois sont d’autant plus prégnantes dans les esprits que les responsables ont compris qu’ « une divulgation publique d’une utilisation de modèles discriminatoires en interne va indéniablement ternir l’image de marque et atteindre irrémédiablement l’activité business » alerte Christophe Gueguen

Il s’agit donc d’aller vers l’IA dans une démarche qualitative où les risques sont évalués pour mesurer notamment l’intérêt métier, la conformité et les impacts d’image. Il convient de distinguer les services à valeur ajoutée et la bonne utilisation des données dans un cadre juridique, des usages inappropriés.

L’éthique, cette composante clé de l’IA

L’Intelligence Artificielle fait désormais partie des sujets phares des organisations, si les entreprises se questionnent de plus en plus, les données et l’usage autour des données constituent les deux volets clés.

Depuis quelques années, les IA sont utilisées par les équipes sécurité pour les aider à repérer des incidents de sécurité. Aujourd’hui, les technologies sont capables d’analyser de grands volumes de données et détecter des signaux faibles qu’un humain ne perçoit pas forcément, « ainsi, ces solutions intégrées sur les environnements des entreprises décèlent des événements anormaux nécessitant d’être analysés plus en profondeur » explique Christophe Gueguen. Des éléments de fraude peuvent être constatés, par exemple, tel qu’un accès à une base RH de paye depuis des postes qui n’y vont jamais en temps normal ».

Dorénavant, les entreprises commencent à utiliser l’IA pour leurs besoins métiers et se retrouvent confrontées à tous les champs du possible. Le cas de l’utilisation des données des caméras et des reconnaissances faciales a fait beaucoup parler de lui et permet de comprendre toutes les possibilités (anticipation d’attaques ou d’actes malveillants) comme toutes les dérives (surveillance des allers et venues des populations). Bien d’autres cas existent dans tous les secteurs d’activités.  « L’éthique au cœur de l’Intelligence Artificielle devient un élément décisif de la gouvernance et de l’utilisation des données » complète Christophe Gueguen. « De plus en plus d’entreprises nous interrogent : qu’a-t-on le droit de faire avec les données ? Est-on conforme ?

Il faut également évaluer les critères donnés à l’Intelligence Artificielle par rapport aux scénarios envisagés, et les problématiques d’alimentation des intelligences artificielles par les données qui vont orienter les modèles. Sur ce point, la vigilance est de rigueur, « nous conseillons nos clients par rapport à leur éthique. « Les règlementations et jurisprudences sont en cours de discussion. Nous intervenons donc pour identifier les conditions de mise en œuvre des initiatives et évaluer les risques ; la mise en place de garde fous est primordiale » précise Christophe Gueguen.

Une réponse à bon niveau nécessite de disposer d’une vision 360° des sujets et de mixer des expertises juridiques, d’organisation de la sécurité et de la protection des données, d’évaluation et d’audit de la sécurité des services mis en œuvre ainsi que de communication de crise en cas de problème. Nous avons la chance de disposer de l’ensemble de ces compétences au sein de Magellan Partners et de pouvoir nous appuyer sur les practices qu’elles soient orientées métier ou expertes sur les offres comme celle de Microsoft