Conscience informatique

​J’ai eu la chance d’effectuer de nombreux voyages au cours de ma vie : j’ai mis les pieds sur tous les continents, sauf l’Antarctique, que je me promets de visiter un jour. Mon récent voyage dans la métropole très animée de Tokyo, mes multiples séjours dans le village préféré de ma famille situé au centre de l’Italie et ma visite de la majestueuse ancienne cité de Machu Picchu, pour ne nommer que quelques expéditions remarquables, m’ont inculqué un merveilleux sens de la perspective relativement à notre planète et à l’espèce humaine. Toutefois, deux voyages, à deux décennies d’écart, ont été particulièrement mémorables.

En 1998, ma femme et moi nous sommes envolés vers l’Argentine. Après avoir passé un peu de temps à Buenos Aires, nous nous sommes dirigés vers la Patagonie, où nous sommes restés pendant quelques jours.Là-bas, nous avons visité l’incroyable glacier Perito Moreno situé haut dans la cordillère des Andes et appris qu’il s’agissait, à l’époque, de l’unique glacier au monde encore en expansion. Voir des morceaux de glace se détacher du glacier et s’écraser dans l’eau du lac en dessous s’est avéré une expérience mémorable. Et ce, surtout après avoir réalisé que tous les autres glaciers du monde rétrécissent; il est ainsi difficile d’ignorer les répercussions des changements climatiques.

En 2019, ma famille et moi avons entrepris notre dernier grand voyage avant la pandémie : un périple au Portugal, avec un détour au Maroc. À Casablanca et à Rabat, nous avons remarqué que de nombreuses flèches arboraient trois symboles, soit un croissant, une croix et un orbe. Notre guide nous a fièrement expliqué que ces symboles représentaient la cohabitation harmonieuse de trois grandes religions.En effet, le Maroc est un pays pacifique qui, jusqu’à présent, n’est toujours pas affecté par les conflits religieux qui perturbent de nombreuses autres régions du monde. Cette expédition m’a amené à réfléchir au concept d’inclusion en général, et à espérer qu’un effort collectif pourrait permettre de trouver des terrains d’entente et aider l’ensemble de la population à profiter des avantages de notre économie mondiale, intégrée et axée sur la technologie.

Dans un billet de blogue précédent, « L’IA a le vent dans les voiles », j’ai survolé l’incidence environnementale des centres de données de taille colossale nécessaires à l’exploitation de systèmes d’intelligence artificielle (IA), et j’ai parlé de certains problèmes de préjugés inhérents et d’inexactitude qui nuisent à leur utilisation. Je souhaite approfondir ce sujet dans ce billet et dans certains de ceux qui suivront, car ces problèmes s’étendent bien au-delà de l’IA, et y trouver des solutions exigera de la volonté et des efforts de la part des sociétés privées, des gouvernements et des organisations non gouvernementales (ONG).

Un problème à multiples facettes
De nombreux écrits sur les risques sociaux liés à l’IA, en particulier l’IA générative, ont récemment été publiés. De la possibilité que les travailleurs du savoir perdent leur emploi au scénario catastrophique où l’IA sentiente se retournerait contre ses créateurs humains, les écrits de pseudo-experts et le battage médiatique semblent connaître un essor fulgurant.Je souhaite toutefois faire abstraction de cela et examiner en détail ce que je considère comme les risques réels et immédiats de l’IA.

Parlons tout d’abord des risques pour l’environnement. Les centres de données qui soutiennent les systèmes d’IA à grande échelle d’aujourd’hui consomment d’énormes quantités d’électricité et ont donc une empreinte carbone importante. On estime que la quantité d’énergie requise pour exploiter un système d’IA générative actuel au cours du mois de janvier 2023 s’est élevée à environ neuf millions de kWh en moyenne. Puisque le centre d’excellence en technologies émergentes de KPMG est situé à Copenhague, comparons cette consommation d’énergie à celle du citoyen danois moyen, qui se chiffre à environ 1 600 kWh d’électricité par année, soit 133,3 kWh par mois. Un système d’IA générative pourrait donc alimenter une petite ville danoise de 67 500 habitants.

N’oubliez pas qu’on ne parle ici que d’un seul et unique système. Il en existe beaucoup d’autres sur le marché et leur utilisation augmente rapidement, puisqu’ils sont intégrés aux moteurs de recherche, aux assistants virtuels pour le service à la clientèle et à tout le reste, apparemment. Malgré cela, l’IA est loin d’être le pire des pollueurs. Dans un document publié en septembre 2022, le gouvernement américain a estimé que la consommation d’électricité associée au minage de cryptomonnaies et à la gestion des cryptoactifs totalisait entre 120 et 240 milliards de kWh par année, ce qui équivaut à un pourcentage se situant entre 0,4 et 0,9 % de la consommation totale annuelle d’électricité mondiale. Pensons maintenant aux grands fournisseurs de services infonuagiques publics et superscalaires, et même aux grandes sociétés qui possèdent leur propre infrastructure infonuagique privée. Cet enjeu ne touche pas que l’IA; il est clair que la soif de pouvoir de l’ensemble du secteur des technologies de l’information ne cesse de croître, ce qui entraîne un sérieux problème d’empreinte carbone. J’aborderai justement cela dans mon prochain billet.

La deuxième série de risques concerne la société en général. J’ai déjà mentionné que des systèmes d’IA ont présenté des préjugés inhérents à l’égard des femmes et des personnes autochtones, noires et de couleur (PANDC). Des systèmes d’IA des secteurs de l’assurance, de l’administration publique, des soins de santé et d’autres secteurs ont tous démontré des partis pris pouvant avoir de graves répercussions sur les personnes qu’ils sont censés aider. Mais ce n’est pas parce que ces préjugés sont issus des données et des règles que nous codons dans les systèmes d’IA, et qu’ils sont inhérents à la société en général, qu’ils sont acceptables. Au contraire, étant donné la confiance implicite que la société accorde à ses systèmes informatiques, il incombe clairement aux développeurs d’IA de faire mieux. Selon moi, l’IA devrait être un exemple idéal d’inclusion et d’équité plutôt que de nous refléter nos propres préjugés.

On remarque aussi une tendance inquiétante de production de réponses complètement fausses chez des systèmes d’IA. S’il est amusant de voir des inexactitudes lorsqu’on tente de berner des systèmes d’IA générative commerciaux, de tels résultats s’avéreront plus graves dans d’autres situations. Par exemple, les diagnostics fondés sur l’imagerie par résonance magnétique améliorée par l’IA ne sont pas fiables, puisque la manipulation des images effectuée par le système peut fausser les résultats.De faux positifs et de faux négatifs pourraient entraîner des répercussions tout aussi mauvaises sur les patients. En outre, les voitures sans conducteur, dont le taux d’accidents est deux fois plus élevé que celui des conducteurs humains, ne sont pas particulièrement utiles.

En cas de parti pris et d’inexactitude, on peut retracer la mauvaise conclusion en question et expliquer comment l’IA y est parvenue, ce qui nous offre la possibilité de revenir en arrière et de corriger des cas précis. Mais ce n’est pas suffisant : il faut adopter une meilleure approche de conception qui permette d’éviter ces problèmes en premier lieu. J’approfondirai la question dans quelques semaines.

Une vision claire
La gestion de l’incidence environnementale et sociétale de l’IA – et du secteur technologique en général – représente un défi de taille. Pour le surmonter, il faudra faire preuve de responsabilisation, de compassion et de prévoyance. KPMG et bon nombre des grands acteurs du secteur consacrent déjà du temps et des ressources à cet effort, en plus de collaborer avec le secteur public et des ONG pour établir un nouveau cadre, ce qui est encourageant en soi. L’objectif est de produire une nouvelle génération de systèmes d’IA qui sont inclusifs, fiables et durables. Pour décrire ce concept, certains utilisent les termes « informatique responsable », « informatique éthique » ou même le néologisme « algor-éthique ». Personnellement, je trouve que « conscience informatique » sonne plutôt bien.

Je suis convaincu que nous y arriverons. L’informatique durable et les systèmes d’IA équitables qui ne laissent personne de côté auront une meilleure incidence sur l’économie, sur la planète et sur tout le reste, en fin de compte. C’est la voie de l’avenir.