Les entreprises doivent analyser leurs données avant d'exécuter un algorithme.

De nos jours, vous trouverez des algorithmes partout où vous allez. Ils déterminent les résultats de recherche sur Google et ce que vous voyez sur les réseaux sociaux. Mais les algorithmes sont également fréquemment utilisés dans d'autres domaines et activités. Par exemple, les systèmes de caméras de sécurité dans les magasins, les doubles vérifications à une caisse en libre-service et les contrôles de crédit en ligne.

Un algorithme est un morceau de code conçu pour résoudre un problème et peut être auto-apprenant. Les données sont introduites dans l'algorithme, ce qui produit un résultat. Il s'agit d'intelligence artificielle si ces algorithmes prennent des décisions indépendantes basées sur des données ou des signaux de leur environnement et en tirent des enseignements. Cependant, les algorithmes apprennent en fonction de ce que les personnes injectent dans l'algorithme. « Si des biais conscients ou inconscients sont présents dans les données, l'algorithme les utilisera dans le résultat. Les données peuvent contenir des préjugés concernant le genre, l'âge, l'origine ethnique ou le lieu de résidence. Prenez, par exemple, la sélection des candidats. Il est important de vérifier si les données reflètent bien le groupe cible. Mais également, comment cela se rapporte au reste de la société. Pour éviter les biais, les entreprises doivent d'abord analyser en profondeur leurs données avant d'exécuter un algorithme. Elles doivent comprendre le contexte dans lequel les données ont été collectées, afin que les éventuelles failles dans les données deviennent évidentes. »

Évaluation objective

Plusieurs exemples montrent que cela ne se produit pas toujours. Aux Pays-Bas, de plus en plus d'entreprises effectuent des vérifications de crédit pour d'autres organisations. Les NS utilisent ce service. Grâce à l'intelligence artificielle, une autre entreprise vérifie si une personne peut demander une carte OV ou NS business sous forme d'abonnement. Si une personne souhaite s'opposer lorsque le résultat de cette vérification est négatif, elle peut uniquement le faire auprès de l'entreprise qui effectue les vérifications. NS elle-même ne prend pas la responsabilité du résultat. Cela est apparu clairement suite à plusieurs signalements via le point de contact de l'Association des consommateurs intitulé « les victimes de vos données ». Plusieurs personnes n'ont pas pu obtenir un abonnement NS en raison de cette vérification de crédit automatique. « Une demande n'est pas toujours basée sur des sources de données payantes telles que les enregistrements auprès du BKR. Les sources souvent utilisées incluent la Chambre de commerce, les journaux quotidiens et hebdomadaires, les agences de recouvrement et/ou les clients avec lesquels une personne a (eu) une relation financière, pour n'en citer que quelques exemples. Cela pourrait rendre les données parfois inexactes ou obsolètes, et contenir des informations concernant une autre personne. Cela aboutit à un système d'IA incapable de tirer des conclusions correctes. Pourtant, sans vérifier le résultat, on suppose qu'une personne n'est pas solvable. »

Mesurer les préjugés et l'équité

« Si vous travaillez avec des applications d'IA impliquant des personnes, une vérification supplémentaire doit être intégrée dans le processus. De plus, il est important non seulement d'utiliser correctement les données, les algorithmes et l'intelligence artificielle, mais aussi de former les données. Si vous ne le faites pas, un système peut, sans le vouloir, intégrer des biais. Dans le cas des autorités fiscales, par exemple, une deuxième nationalité était un critère de sélection officiel pour déterminer s’il y avait un risque accru de fraude. En conséquence, des groupes ont été injustement étiquetés comme des « fraudeurs ». Avec plusieurs méthodes, vous pouvez – et devez – mesurer les biais et l’équité de vos données et résultats. Vous ne savez simplement pas toujours pourquoi un système fait une certaine prédiction. Et vous voulez empêcher à tout prix que les choses tournent mal, comme cela a été le cas avec l’affaire des allocations. Ce comportement était dû à une mauvaise utilisation de l’IA, au résultat d’un algorithme incorrect et à un manque de contrôle sur le résultat. Tant que cela concerne des personnes, les contrôles doivent toujours être effectués par des personnes. »

Conséquences de grande envergure

Pour les entreprises qui travaillent avec des algorithmes et l'intelligence artificielle, mais aussi pour les consommateurs, il est important de comprendre pourquoi et comment les préjugés se forment dans l'IA. Surtout si nous travaillons avec des données liées à vos données personnelles. Nous vivons dans une époque où les données sont le nouvel or. Mais si des données vous concernant sont incorrectes ou utilisées de manière inappropriée, cela peut avoir un impact négatif avec des conséquences importantes. « Nous ne devrions pas aveuglément faire confiance aux résultats des algorithmes, et une supervision des entreprises utilisant des algorithmes est nécessaire. Cela est crucial lorsqu'il s'agit de personnes. Le gouvernement doit en faire une priorité, et les entreprises doivent reconnaître et assumer leurs responsabilités. De plus, les consommateurs doivent être conscients des enjeux. Il est essentiel pour tout le monde de comprendre ce que fait un algorithme et pourquoi l'intelligence artificielle fait certains choix ! »

En intégrant une intelligence artificielle explicable dans l'algorithme, certaines décisions peuvent être justifiées. De plus, cela peut mettre en évidence les forces et faiblesses potentielles de ces décisions. Cela semble (trop) biaisé ? Alors il est possible de les modifier ou de les améliorer. Cela conduit en définitive à un système d'IA meilleur, dont tout le monde peut bénéficier !