De nombreuses organisations ont publié des principes sur l'IA cette année. L'Union européenne a publié ses lignes directrices en matière d'éthique pour une IA digne de confiance en avril. En mai, les pays de l'OCDE, dont le Canada, ont adopté les leurs, et le G20 les a entérinés en juin. Montréal avait déjà publié sa déclaration pour un développement responsable de l'IA à la fin de l'an dernier.
Ces documents portent sur l'équité, la transparence, la responsabilité et la surveillance humaine. Leur publication constitue un pas positif, mais elle soulève la question de leur public cible.
Les organisations qui commencent à utiliser l'IA concrètement ne sont pas seulement des gouvernements et de grandes entreprises technologiques; ce sont aussi des propriétaires de petites entreprises. Un commerce qui teste un filtre automatisé pour les candidatures, un voyagiste qui laisse une plateforme publicitaire choisir son public, une clinique qui installe un robot sur sa page Facebook. Peu d'entre eux liront un document de l'OCDE. Ce billet traduit donc les grands principes en termes pratiques.
Comment les biais s'introduisent-ils dans les systèmes d'IA?
L'exemple le plus clair est une histoire rapportée par Reuters en octobre dernier. Amazon avait conçu un outil expérimental pour classer les candidats à l'emploi, entraîné sur les CV reçus par l'entreprise sur une dizaine d'années. La plupart provenaient d'hommes, et le système a appris à les privilégier. Amazon a abandonné le projet.
Personne n'avait programmé le système pour discriminer. Il a appris à partir de données historiques, et ces données étaient déséquilibrées.
C'est le point essentiel au sujet des biais en IA : la machine reproduit le modèle qu'elle reçoit, efficacement et sans le remettre en question. Si le modèle est injuste, le résultat l'est aussi.
Facebook s'est heurtée au même problème en mars. L'entreprise a conclu une entente avec des groupes de défense des droits civiques aux États-Unis et accepté de ne plus permettre le ciblage des annonces de logement, d'emploi et de crédit selon l'âge, le sexe ou le code postal. Quelques jours plus tard, le ministère américain du Logement a néanmoins porté des accusations contre elle en raison de la façon dont son système publicitaire détermine qui voit quelles annonces.
Pour une petite entreprise, l'effet est généralement moins visible. Prenons un public publicitaire constitué à partir d'anciens clients, appelé public « similaire ». Si ces clients appartenaient surtout à un groupe d'âge ou à un pays, la plateforme recherchera davantage de personnes ayant exactement ces caractéristiques. Cela peut convenir, ou signifier que l'entreprise ne rejoindra jamais la clientèle qu'elle souhaite attirer ensuite. Dans les deux cas, il importe d'en être conscient.
Quelles responsabilités accompagnent les données des clients?
Bon nombre de ces outils reposent sur des données clients : listes de courriels, historiques d'achats, journaux de clavardage. L'approche la plus simple consiste à tout téléverser et à laisser l'outil traiter l'information.
Une règle plus simple que n'importe quelle politique s'applique : ne fournissez à un outil rien que vous ne seriez pas à l'aise d'expliquer directement au client. Si vous hésiteriez à dire « J'ai téléversé vos coordonnées dans ce service pour qu'il prédise ce que vous achèterez ensuite », reconsidérez la décision.
Il ne s'agit pas seulement de courtoisie. Le RGPD européen est en vigueur depuis mai l'an dernier, et il s'applique à la façon dont vous traitez les données des personnes qui se trouvent dans l'Union européenne, même si votre entreprise est située ailleurs dans le monde. De nombreux clients en plongée sont européens. Le RGPD accorde aussi aux personnes des droits à l'égard des décisions prises à leur sujet uniquement au moyen d'un traitement automatisé. Ce billet ne constitue pas un avis juridique, mais si votre liste comprend des clients européens, une heure de lecture sur le sujet en vaut la peine.
Pourquoi informer les clients lorsqu'une machine intervient?
L'exemple le plus débattu est Google Duplex, présenté à Google I/O l'an dernier. Une IA a appelé un salon de coiffure pour prendre rendez-vous, avec des hésitations et des marques d'approbation verbales, et la personne au bout du fil ne s'est pas rendu compte qu'il s'agissait d'une machine. Le public a réagi avec enthousiasme, mais de nombreuses personnes ont ensuite exprimé un malaise. Google a par la suite indiqué que le système s'identifierait.
Ce malaise était une réaction justifiée. En général, les gens ne s'opposent pas à interagir avec une machine; ils s'opposent à être amenés à croire qu'il s'agit d'une personne.
Pour une entreprise, la solution est simple et gratuite. Si la fenêtre de clavardage est un robot, indiquez-le clairement. Si une machine a rédigé une réponse et qu'une personne l'a révisée, c'est acceptable. Un robot ne devrait pas être présenté comme « Julie du service à la clientèle ». Les clients pardonnent beaucoup de choses, mais le sentiment d'avoir été trompés n'en fait pas partie.
Quelles décisions devraient demeurer entre les mains d'une personne?
C'est la règle la plus importante.
Si vous ne pouvez pas expliquer une décision à un client, ne laissez pas une machine la prendre.
Refuser un service à quelqu'un, demander à une personne un prix différent de celui d'une autre, décider qui obtient une entrevue d'embauche, fermer un compte : ces décisions exigent une personne capable d'examiner le dossier et d'en expliquer le raisonnement. La machine peut préparer le dossier, mais elle ne devrait pas prendre la décision finale.
De nombreuses décisions comportent peu de risques, comme choisir entre deux lignes d'objet ou déterminer quelle photo apparaît en premier dans une annonce. Celles-ci peuvent être déléguées sans inquiétude.
La difficulté consiste à distinguer honnêtement ces deux catégories, car un outil pratique tend à s'étendre graduellement aux décisions qui comptent.
Une pratique est utile. Avant d'activer un outil qui prend des décisions au sujet des clients, posez deux questions au fournisseur : Puis-je voir pourquoi il a pris une décision donnée? Une personne de mon équipe peut-elle la renverser? Si la réponse à l'une de ces questions est non, ou reste floue, tenez l'outil à l'écart des décisions importantes. C'est l'entreprise, et non le fournisseur, qui devra en répondre auprès du client.
Pourquoi l'éthique de l'IA deviendra-t-elle une responsabilité des petites entreprises?
Les Principes de l'OCDE sur l'IA sont brefs et méritent vingt minutes de lecture. Ils sont rédigés pour les gouvernements, mais leurs principes s'appliquent tout aussi bien aux entreprises.
Actuellement, la réflexion sur l'éthique se déroule surtout entre grandes entreprises, chercheurs et gouvernements, là où l'IA est présentement déployée. Ces outils deviennent toutefois de moins en moins coûteux et de plus en plus faciles à utiliser. Les propriétaires de petites entreprises disposeront tôt ou tard de capacités puissantes accessibles en un clic, sans personne dans l'organisation dont le rôle est de poser ces questions.
À ce moment, le propriétaire deviendra de fait le service d'éthique. Nous recommandons aux entreprises de commencer à réfléchir à ces questions dès maintenant, pendant que les enjeux sont modestes et que le recours à des services-conseils en IA ou à un deuxième avis demeure une discussion posée plutôt qu'une réponse à un problème.