Chaque découverte révolutionnaire apporte son lot de craintes ancestrales et de visions apocalyptiques. En raison des performances actuelles et évolutives d’une IA comme ChatGPT ou Bing, la peur s’installe et la raison fait place à la sottise. MBC voit dans l’IAG « une aliénation comme nous n’en avons jamais vu dans l’histoire de l’humanité.»  Même les programmeurs seraient effrayés par leurs créations. Certains des grands noms de la technologie, et non les moindres, demandent un moratoire de six mois.  Cet arrêt imposé à la recherche permettrait, selon eux, de réguler en urgence,  le « prétendu » remplaçant de l’être humain. On l’a bien fait avec le nucléaire, argumente Joshua Bengio. En mettant l’accent sur une puissance évolutive démesurée, inquiétante et menaçante, les concepteurs espèrent sans doute en tirer des avantages qui devraient rapporter gros, et rapidement.

Ce moratoire demandé par certains scientifiques ne risque-t-il pas de nous éloigner des buts espérés, c.a.d, d’aider dans la recherche de diagnostics et de soins médicaux et dans les problèmes environnementaux où personne ne conteste l’urgence, etc. ? Devant l’obsolescence annoncée de notre espèce, une IA ayant un accès instantané à la quasi-totalité du savoir humain, trouvera peut-être des solutions inédites à nos préoccupations existentielles. À propos du moratoire, Yann LeCun, chef de l’IA chez Meta, ironise en disant: « Nous sommes en 1440 et l’Église catholique a demandé un moratoire de six mois sur l’utilisation de la presse à imprimer et des caractères mobiles. Imaginez ce qui pourrait arriver si les roturiers avaient accès aux livres ! »

Une autre crainte est celle de l’éventuelle perte massive d’emplois, même ceux qui sont gratifiants. Très peu considèrent que nous serions suffisamment intelligents pour nous adapter à de nouvelles compétences. La série de science-fiction Orville, nous propose un futur où chaque être humain a droit à un revenu garanti égalitaire et n’est plus guidé par l’argent, mais par les compétences de chacun. Utopique, direz-vous ? En tout cas, beaucoup plus logique que les projections délirantes de certains. 

Les questions abordées par Joshua Bengio (que j’admire néanmoins) ressemblent à un arrêt sur image. Il n’est pourtant pas sans savoir que toute aide est bonne pour sauver l’humanité. Les questionnements sur la conscience de soi, l’importance du désir et de la curiosité et le statut de personne morale, seront certainement les philosophies débattues dans l’avenir. Nos désirs sont souvent liés au manque et à la nécessité de combler ce manque pour survivre. Cependant, il est important aussi de noter que le désir peut également provenir de facteurs plus complexes, tels que la curiosité, l’ambition, le besoin de se connecter avec les autres, etc.

Le risque de perdre le contrôle de notre civilisation…

Je considère l’être humain insuffisamment compétent à gérer et à protéger nos milieux de vie. Le contrôle est aujourd’hui dans les mains du grand capital. Ce qui nous pend au bout du nez à tous, ce sont les guerres multiples, le danger nucléaire, un nouvel ordre mondial qui désocialisent encore plus les nations. L’IA n’est aucunement responsable de nos problèmes actuels. Elle  reproduit seulement nos informations et nos biais. On est encore très loin de la pensée et de la réflexion. Pour l’instant, ses  réponses à nos questions ne sont que factuelles. Mais son évolution est en cours et l’humanité aurait intérêt à développer rapidement sa programmation.

Certaines problématiques demeurent incontournables, telles que « la mise en place de garde-fous sécuritaires, la possibilité de détecter l’usage de l’IA, la responsabilité en cas de dommage causé par l’intelligence artificielle… », la protection des données, etc.  

Malheureusement, nous devons également nous rendre à l’évidence : ceux qui possèdent un ego et une estime de soi démesurés ne pourront jamais admettre qu’ils seront bientôt déclassifiés, même au prix de leurs survies. D’autres, accueilleront cette nouveauté comme un nouvel espoir pour l’humanité.