Quelles sont les limites éthiques de l’IA ?

L’intelligence humaine fait appel à différentes sources pour appréhender une situation donnée : la Raison, les Sentiments, les Sensations et l’Intuition. Ce qui lui permet de "faire preuve d’intelligence". D’aucun diront que seule la raison permet d’être objectif, mais c’est oublier que l’homme est un animal social avec des liens affectifs, des sens et une intuition. Certains humains, dont on peut penser qu’ils ont perdu leur "humanité", ont une intelligence très proche de l’IA basée sur des calculs et sans aucune empathie pour les autres humains les entourant.
Les narratifs et campagnes voulant nous vendre l’IA comme la seule objective, indemne de tout sentimentalisme ou approximation est un réel danger pour l’humanité dans le sens même de la recherche d’un modèle sans humanité : un monde basé sur le seul profit bien calculé, sans aucune culture ou sentiments envers les autres.

Seul reste le calcul froid et, soi-disant, objectif de la meilleure solution en termes de profit. S’en remettre à une IA (ce qui inévitablement arrivera si l’on suppose, par des algorithmes "savants", qu’elle est supérieure à celle de l’homme) pour prendre des décisions ("objectives") peut supposer que la meilleure solution pour un malade du cœur avec un rein sain soit de l’euthanasier parce que son cœur est irréparable et d’en collecter le rein pour un futur usage.

Des exemples de ce style se trouvent à profusion dans la littérature de Science Fiction qui n’est pas en reste pour analyser toutes les dérives liées à un cerveau supérieur artificiel. Asimov et d’autres auteurs ont dû élaborer des lois éthiques universellement appliquées qui limitent le développement de ces cerveaux artificiels (IA) vis-à-vis des humains.

Quant à la Bible, elle a prévu un effondrement total de la structure algorithmique représentant un défi à Dieu par un éclatement dû à l’utilisation de différents algorithmes/concept/données conduisant à des communications incompréhensibles entre les différents acteurs : retour sur la Tour de Babel.

Pour ma part, je ne crains pas trop l’IA parce que je crois que l’archétype contenu dans l’histoire de la Tour de Babel est toujours d’actualité (orgueil, suprémacisme) et, comme tous les archétypes, donne toujours la même conclusion : des systèmes qui ne se comprennent pas, parlent différemment et donnent différents résultats.

Le concept de "l’Homme qui veut être aussi grand que Dieu" ou de "l’Homme qui veut refaire le Monde mieux que ce que Dieu l’a fait" prend ici toute sa valeur. La compréhension même de ces concepts se retrouve dans tous les "...ISMES" que l’homme s’est inventé.