Les clients des banques, génèrent constamment et massivement des données à partir de leurs interactions avec les médias électroniques, que ce soit directement ou indirectement. Ces données sont à leur tour canalisées pour en extraire des informations qui peuvent être utiles à la banque. En collectant, stockant et traitant ces données, le travail d'analyse effectué par le système d'IA est grandement facilité, car il fournit une énorme base d'entraînement pour l'amélioration du système. Pour que les résultats produits par l'algorithme soient aussi concis que possible, les données d'entraînement doivent être variées, étendues et, de préférence, abondantes.
[...] L'utilisation de la big data dans le secteur des banques de détail dites universelles - Des biais de décision interrogeant sur la fiabilité des résultats L'IA se présente comme une nouvelle technologie introduite sur le marché il y a seulement une soixantaine d'années (Zouinar, 2020)1. Bien que son développement soit assez précoce, elle est considérée comme une option viable pour la prise de décision dans des domaines bancaires. En principe, cette technologie est considérée comme un outil permettant de neutraliser la subjectivité associée à la prise de décision humaine en éliminant les traitements discriminatoires et les préjugés à l'égard de certaines personnes ou de certains groupes. [...]
[...] Une prémisse fondamentale à prendre en compte est que les données avec lesquelles le modèle travaillera à l'avenir seront quelque peu similaires, mais pas identiques, à celles avec lesquelles le modèle a été formé. Les données dont le système est alimenté tout au long du processus de formation de l'IA constituent la base fondamentale de sa prise de décision ultérieure. Les clients des banques, génèrent constamment et massivement des données à partir de leurs interactions avec les médias électroniques, que ce soit directement ou indirectement. Ces données sont à leur tour canalisées pour en extraire des informations qui peuvent être utiles à la banque. [...]
[...] Ces deux étapes peuvent introduire des biais qui s'intègrent dans les systèmes d'IA (Smith et Rustagi, 2021) Les systèmes d'IA sont biaisés en raison du fait qu'ils sont des créations humaines. Les personnes qui prennent les décisions concernant les systèmes d'IA et celles qui font partie de l'équipe chargée de développer les systèmes d'IA influencent leur développement. Et sans surprise, il existe un énorme fossé entre les hommes et les femmes : Seuls des professionnels dans les domaines de l'IA et de la science des données sont des femmes - et elles sont plus susceptibles d'occuper des emplois associés à un statut moindre (Smith et Rustagi, 2021). [...]
[...] En 2019, Geneviève, co-auteur de cet article, et son mari ont sollicité la même carte de crédit. Malgré un score de crédit légèrement supérieur et les mêmes revenus, dépenses et dettes que son mari, la société émettrice de la carte de crédit a fixé sa limite de crédit à près de la moitié du montant. Cette expérience fait écho à une autre qui a fait la une des journaux plus tard dans l'année : Un mari et sa femme ont comparé les limites de dépenses de leur carte Apple et ont constaté que la ligne de crédit du mari était 20 fois plus élevée. [...]
[...] Le risque est d'autant plus grand que les bases de données sont riches en prédicteurs et que les algorithmes d'IA disposent de nombreux moyens de les combiner pour identifier les interactions entre un grand nombre de variables. [...]
Source aux normes APA
Pour votre bibliographieLecture en ligne
avec notre liseuse dédiée !Contenu vérifié
par notre comité de lecture