Membre principal et directeur de l'axe de recherche Robotique et intelligence artificielle de l'ISSP
Professeur adjoint à l'École de génie électrique et de science informatique, Faculté de génie, uOttawa
Publié originalement par Options politiques, le 15 avril 2020.
Nous participons tous à une expérience mondiale sans précédent visant à déterminer quelle est la meilleure façon de faire face à la pandémie de COVID-19. Et selon les dernières données, une stratégie bien établie semble fonctionner; le message sur la distanciation sociale semble motiver la plupart des Canadiens de la bonne façon: nous aplanissons la courbe.
Mais, en théorie, nous pouvons faire mieux, c'est pourquoi les gouvernements du monde entier envisagent d'autres stratégies d'aplatissement des courbes, y compris une nouvelle application qui utilise les données de localisation des téléphones portables pour suivre les cas de COVID-19. Mais même si l'application génère des données de recherche de contacts parfaites, il y a des raisons de penser qu'elle ne produira pas les résultats souhaités. En fait, cela pourrait éventuellement aggraver les choses.
Cette semaine, nous avons appris que les gouvernements du Québec et du Canada sont en discussion avec Yoshua Bengio, un éminent chercheur canadien en intelligence artificielle (IA), pour lancer une application de recherche de contacts COVID-19 basée sur l'IA dans la semaine.
Bien que les détails soient rares, un article décrivant l'application déclare qu'elle « fonctionne comme une sorte de feuille de route COVID-19 », utilise Bluetooth pour partager le profil de risque COVID-19 anonymisé de chaque utilisateur avec d'autres téléphones à moins de 10 mètres, «aidant ses utilisateurs à naviguer les personnes et les lieux à risque plus élevé.
L'application, basée sur la participation volontaire, connaîtra les profils COVID-19, y compris le statut infectieux de ceux avec qui vous entrez en contact relativement étroit lors de vos déplacements. En fonction de vos mouvements quotidiens, il pourrait vous envoyer une notification suggérant davantage de lavage des mains. Cela pourrait suggérer que vous restiez à la maison. Il informe également les utilisateurs sur « les personnes ou les lieux qui présentent un risque d'infection plus élevé ».
Bengio a déclaré à The Logic qu'il espérait que l'application «nous [permettrait] de concentrer un confinement plus fort sur les personnes les plus à risque et faciliterait le retour des activités extérieures, du travail, etc., jusqu'à ce qu'elles se croisent avec des personnes à haut risque (qui leur diraient alors de rester à la maison, etc.). »
Cependant, il y a cinq résultats problématiques et raisonnablement prévisibles (en plus des préoccupations importantes en matière de confidentialité) que les Canadiens et nos gouvernements devraient considérer avant de lancer une application de recherche de contacts COVID-19 non testée et non éprouvée sur le public. Ces considérations doivent être mises en balance avec les avantages probables (et pas seulement optimistes) qu'une application de recherche des contacts offrira dans le contexte canadien. Il est important de garder à l’esprit que le Canada est très différent des autres pays dans lesquels ces applications ont été déployées.
Les applications de recherche de contacts COVID-19 peuvent renforcer les biais sociaux existants, stigmatisant ainsi les lieux et les communautés. Bengio est rapide à souligner que son application n'utilisera que des données anonymisées pour éviter de stigmatiser les individus. Cependant, il fournira aux utilisateurs des informations sur les emplacements à haut risque.
Même s'il ne marque pas des emplacements spécifiques, il permet aux utilisateurs de «trianguler» ces emplacements en fonction des notifications concernant leurs mouvements quotidiens. En effet, cela peut conduire à distinguer des individus ou des groupes d'individus par un processus imparfait d'inférence et d'élimination. Nous voyons comment cette maladie affecte de manière disproportionnée les communautés afro-américaines au sud de la frontière. Cette application alimenterait-elle les préjugés existants en marquant numériquement leurs communautés et leurs établissements comme « dangereux »?
Nous entendons également comment la maladie a entraîné diverses formes de discrimination à l'égard des communautés asiatiques ici au Canada. Des informations vagues sur les lieux «infectés» alimenteraient-elles encore de tels biais?
Il y a de fortes chances que les gens fassent trop confiance à l'application pour assurer leur sécurité, ce qui pourrait augmenter par inadvertance les contacts sociaux. Il existe un effet psychologique bien documenté appelé « biais d'automatisation », selon lequel les utilisateurs traitent une technologie avec beaucoup plus d'autorité qu'elle ne l'est réellement. De bons principes de conception et de bons principes éthiques suggèrent que nous devrions pécher par excès de prudence ici et nous attendre à ce qu'un grand nombre d'utilisateurs soient victimes de biais d'automatisation lors de l'utilisation de cette application. Ceux qui le font pourraient l'interpréter à tort comme une sorte de détecteur de COVID, capable de les alerter de la maladie avant et après qu'ils entrent en contact avec elle.
Malheureusement, le biais d'automatisation pourrait amener certains utilisateurs, ceux qui sont faussement convaincus que l'application les surveille, à baisser leur garde en ce qui concerne les pratiques de distanciation sociale. Ce serait un double coup dur si cet effet était inégalement réparti dans la société. Par exemple, cela pourrait avoir un impact plus important sur les utilisateurs qui ont plus de mal à interpréter la conception de l'application ou qui ont du mal à l'utiliser.
Les notifications pourraient surcharger par inadvertance certains aspects du système de santé. Sans tests rigoureux en conditions réelles, il est difficile de savoir avec certitude comment les gens interpréteront et répondront aux notifications qu'ils reçoivent de cette application.
Si le niveau surprenant de confusion qui a éclaté autour des messages de santé publique au cours des dernières semaines est un indicateur, il est tout à fait possible que ces notifications basées sur des applications provoquent une confusion et un stress accrus chez les personnes qui ne savent pas quoi en faire. Cela pourrait se traduire par une augmentation soudaine des appels téléphoniques inutiles vers la télésanté ou la santé publique, ou pire, des visites inutiles dans les établissements de santé. À tout le moins, les prestataires de soins de santé doivent être préparés à ce type de réponse.
Une application de recherche de contacts COVID-19 pourrait simplement nuire psychologiquement à ses utilisateurs. Ce serait dommage, mais plus important encore, une augmentation des niveaux d'anxiété générale pourrait entraîner une augmentation des méfaits connexes tels que la violence familiale, la dépression et le suicide.
Les notifications de l'application COVID-19 pourraient contribuer à désensibiliser les utilisateurs à ces messages et à d'autres messages de santé publique. Beaucoup d'entre nous ont connu une surcharge de notifications peuvent avoir sur nos vies.
Mais une étude récente aux Pays-Bas suggère que les notifications pourraient en fait atténuer le lien de motivation entre la notification et les actions que la notification vous demande d'effectuer. En d'autres termes, une notification de lavage des mains peut en fait réduire la probabilité que vous vous laviez les mains en temps opportun.
De plus, il existe des preuves anecdotiques que l'application que le gouvernement sud-coréen utilise semble contribuer à un effet de désensibilisation, ce qui oblige les gens à désactiver les messages de santé publique. Encore une fois, ces effets pourraient en fait contribuer à une augmentation des taux d'infection.
Il est important de reconnaître que, même s'il semble que les messages concernant la distanciation sociale fonctionnent, nous ne savons pas exactement pourquoi cela fonctionne. Il se pourrait que les gens soient motivés par des préoccupations concernant la transmission de la maladie ou sa propagation. Ils pourraient aussi être motivés par l'idée de faire leur devoir civique, d'en prendre un pour Équipe Canada. Ce pourrait être une combinaison de tous ces facteurs.
Sans tests appropriés, nous ne savons pas non plus quel effet les applications de recherche de contacts auront sur ce qui pourrait se révéler être un équilibre délicat de facteurs de motivation. Bien entendu, nous ne devons pas abandonner notre recherche de bonnes solutions technologiques à cette pandémie.
Mais nous devons procéder de manière responsable. Tout comme il serait dangereux de précipiter un vaccin non testé en production, les applications de recherche de contacts non éprouvées, aussi bien intentionnées soient-elles, n'amélioreront pas nécessairement les choses. En exigeant que les développeurs d'applications prennent en compte ces cinq considérations lors de la conception de la technologie, une application de suivi des contacts COVID-19 fonctionnera plus probablement à notre avantage.