digital_it_16x12.jpg

Les entreprises doivent analyser leurs données avant d'exécuter un algorithme.

29 mars min.

L'intelligence artificielle (IA) devient de plus en plus importante pour les entreprises et les consommateurs. Mais cela va bien au-delà de la technologie. Selon Natasja van de L'Isle, consultante en science des données chez TMC, les résultats des systèmes d'IA peuvent contenir des biais pour diverses raisons, avec des conséquences potentiellement énormes. Les systèmes d'IA ne sont pas toujours objectifs, même aux Pays-Bas. « Les biais dans les données peuvent poser problème, tout comme un entraînement ou une évaluation incorrects. »

Plusieurs exemples montrent que cela ne se produit pas toujours. Aux Pays-Bas, de plus en plus d'entreprises effectuent des vérifications de crédit pour d'autres organisations. NS utilise ce service. Grâce à l'intelligence artificielle, une autre entreprise vérifie si une personne peut demander une carte OV ou une carte NS business sous forme d'abonnement. Si quelqu'un souhaite contester un résultat négatif issu de cette vérification, il ne peut le faire qu'auprès de l'entreprise qui réalise les vérifications. NS elle-même ne prend pas la responsabilité du résultat. Cela est devenu clair à partir de plusieurs signalements via le point de contact de l'Association des consommateurs intitulé "la victime de vos données". Plusieurs personnes n'ont pas pu obtenir un abonnement NS en raison de cette vérification de crédit automatique. « Une demande n'est pas toujours basée sur des sources de données payantes, telles que les enregistrements BKR. Les sources souvent utilisées incluent la Chambre de Commerce, les journaux quotidiens et hebdomadaires, les agences de recouvrement et/ou les clients avec lesquels une personne a (eu) une relation financière, pour en citer quelques exemples. Cela pourrait entraîner des données qui ne sont pas toujours exactes ou mises à jour et qui pourraient également contenir des informations concernant une autre personne. Cela génère un système d'IA qui ne peut pas tirer des conclusions correctes. Pourtant, sans vérifier le résultat, on suppose qu'une personne n'est pas solvable. »

contactusattmc.png
Découvrez-nous !

Contactez-nous pour des opportunités, des collaborations ou des questions. Nous sommes là pour créer des liens.