par Joel Li, FICA, Rolly Molisho, AICA, et Harrison Jones, membres de la Commission de l’ICA sur la modélisation prédictive
Introduction à l’éthique et à la réglementation en matière d’IA
L’intelligence artificielle (IA) est un vaste domaine qui évolue constamment grâce à de nouvelles recherches innovantes. On la définit comme étant la théorie et la conception de systèmes ayant la capacité d’accomplir des tâches qui nécessitent habituellement l’intelligence humaine. L’apprentissage machine, entre autres, relève de l’IA. Pour une introduction complète à ces concepts, consulter « Science des données et science actuarielle : Les similarités sont nombreuses. »
Vu le recours accru à l’IA tant dans le secteur privé que dans le secteur public, on propose et on adopte des réglementations et des lois en la matière partout dans le monde. Au Canada, notamment, on a déposé la Loi sur la protection de la vie privée des consommateurs (LPVPC) à la Chambre des communes. La LPVPC ainsi que d’autres réglementations et lois visent la responsabilité des organisations quant à la collecte et l’utilisation acceptables des données, à la mise en œuvre et à la transparence des algorithmes et aux procédures de résolution des litiges. Les sanctions imposées aux organisations qui ne respectent pas cette réglementation sont considérables. La sanction proposée dans la LPVPC est le montant le plus élevé de 5 % du revenu global ou 25 millions de dollars.
Au-delà du fardeau réglementaire, les entreprises qui font usage de l’IA devront tenir compte de considérations d’ordre éthique. Les algorithmes auxquels ont recours les assureurs ont une incidence pour les consommateurs et les actionnaires. Les algorithmes de tarification, par exemple, influencent le montant des primes que doivent payer les consommateurs. Ces algorithmes pourraient être injustement discriminatoires s’ils étaient biaisés à l’égard de certains groupes démographiques d’une manière qui serait considérée, selon les méthodes traditionnelles, comme une forme inacceptable de discrimination. Les assureurs fondent depuis toujours leurs affaires sur le concept de « discrimination équitable » en établissant la tarification des titulaires de police en fonction de variables qui différencient leurs risques de manière acceptable. Les sociétés d’assurances qui optent pour le recours aux algorithmes d’IA se lancent actuellement dans une situation susceptible d’être jugée contraire à l’éthique.
Le rôle des actuaires en ce qui concerne l’éthique et la réglementation en matière d’IA
Les entreprises qui choisissent d’exploiter l’IA devront sans contredit adhérer à ces normes, sur le plan tant réglementaire qu’éthique. Bien des fonctions au sein d’une société d’assurance touchent à l’IA, et les actuaires sont bien placés pour diriger ces initiatives pour plusieurs raisons :
- Les normes de pratique actuarielle en place peuvent être appliquées à la conception et à la mise en œuvre d’algorithmes d’IA;
- Tous possèdent un amalgame unique de connaissances techniques en matière d’assurances et de gestion des affaires;
- Tous exercent déjà un jugement professionnel dans leur travail courant.
Les biais et la discrimination dans les algorithmes d’IA
Les algorithmes d’IA sont fondés sur des procédures et des processus s’appuyant sur des formules et cherchent à optimiser l’efficacité prédictive. Toutefois, comme ils ne sont dotés d’aucune capacité de raisonnement autonome, ils négligent la contrainte d’équité et sont susceptibles de produire des prédictions biaisées inacceptables (c.-à-d., des prédictions favorisant certains groupes par rapport à d’autres selon des notions préconçues plutôt que sur la base d’une évaluation impartiale des faits). Ces prédictions discriminatoires sont souvent attribuables à des biais implicites dans les données sous-jacentes ou à la façon dont les décisions ont été prises dans le passé.
Afin d’illustrer ce concept, réfléchissons à un exemple provenant du secteur bancaire. En matière d’évaluation du crédit, la loi interdit la discrimination fondée sur certains motifs (p. ex., l’âge, le sexe ou la race) et, bien que ces variables soient généralement exclues, d’autres variables (ou combinaisons de variables) fortement corrélées avec les variables exclues (p. ex., le code postal pouvant servir de substitut à la race) peuvent être saisies dans les algorithmes. De plus, les algorithmes d’évaluation internes sont susceptibles d’être discriminatoires envers certains groupes de population en faisant fi de certaines sources des données (p. ex., en raison de limites relatives aux déclarations, le loyer et les services publics ne sont pas toujours pris en compte dans la chronologie des paiements. Or, ceux-ci représentent un important indicateur de la cote de crédit et comprennent habituellement les habitudes de paiement en ce qui concerne les prêts hypothécaires et autres types de crédit, ce qui rend difficile pour certains groupes de démontrer leur solvabilité et d’établir leur cote de crédit). Le fait de ne pas tenir compte de ces corrélations et limitations de données peut avoir pour effet d’amplifier ou de perpétuer les restrictions à l’accès au crédit pour certains groupes de population qui ont toujours été marginalisés.
Cet exemple peut se transposer à la souscription et à la tarification dans le secteur des assurances, lequel doit prendre en considération des facteurs tels que l’accès juste et équitable à une couverture abordable. En ce qui concerne la tarification de l’assurance, il faut ainsi aller au-delà de l’exigence traditionnelle selon laquelle les tarifs doivent être « justifiables du point de vue actuariel », évaluer l’impact socioéconomique et le coût de tarifs plus élevés pour certains groupes, et se poser la question à savoir si les tarifs sont « justifiables du point de vue social ». Étant donné leur expertise technique rigoureuse et leur sens aigu des affaires, et compte tenu de l’importance qu’accorde la profession à la protection de l’intérêt public, les actuaires sont particulièrement bien placés pour jouer un rôle de premier plan pour ce qui est de veiller à ce que les contraintes d’ordre éthique soient prises en considération à toutes les étapes du cycle de vie de l’IA.
En conclusion
Les actuaires ont toujours joué un rôle à deux volets au sein des sociétés d’assurance, soit de veiller au maintien des compétences techniques en matière de tarification, de provisionnement, de modélisation du capital, etc., tout en prenant en considération l’incidence commerciale des décisions clés. Les algorithmes d’IA présentent, il est vrai, une nouvelle approche théorique à l’égard des questions courantes relatives aux assurances. Toutefois, la nature de leur déploiement est bien connue des actuaires. Les actuaires sont donc en mesure de jouer un rôle de premier plan dans le domaine des algorithmes d’IA et de contribuer à guider les sociétés d’assurance dans ce domaine de recherche à la fois très technique et captivant.
