IA: le choix de l’éthique ou du progrès

Publié le 5 mai 2023

© Andy Kelly via Unsplash

Révolution scientifique ou apocalypse anthropologique? Les systèmes conversationnels tels que ChatGPT créent la division chez les spécialistes, au point que certains réclament un moratoire de six mois sur leur développement. Quelques uns de leurs concepteurs disent même «regretter» cette invention... «Le Monde» a interrogé deux chercheurs en réseaux de neurones artificiels, aux vues diamétralement opposées.

Yoshua Bengio, chercheur canadien, est l’un des précurseurs des réseaux de neurones artificiels, la technologie sur laquelle reposent, entre autres, ChatGPT et Midjourney. Signataire de la demande de moratoire, il livre ses inquiétudes, fondées sur le fait que ChatGPT passe, haut la main, le «test de Turing», qui consiste à déterminer s’il est possible de savoir, en utilisant un système, si l’on a affaire à une machine ou à un humain. Selon lui, un dialogue avec ChatGPT peut donc être très aisément confondu avec une conversation entre amis.

Principe de précaution

La source d’inquiétude, pour Yoshua Bengio, ce sont les «boîtes noires» de ces outils. Car ces systèmes ne sont pas conçus comme n’importe quel logiciel, limité dans l’accomplissement d’une tâche, ils sont faits pour «apprendre» à partir des données fournies et «imiter» les conversations entre humains. On ne maitrise pas totalement le principe d’apprentissage de la machine. Mais attention, cela ne signifie pas que les machines pourraient «se retourner contre les humains» ou tenter de les réduire en esclavage. Aucun spécialiste sérieux n’envisage ce scénario qu’ils laissent aux amateurs de science-fiction apocalyptique…

En revanche, pour ce chercheur, un principe de précaution est nécessaire. Une telle révolution peut, peut-être, déclencher une série de réactions en chaine que nous sommes bien en peine d’anticiper. Le risque existe. En particulier pour la démocratie: à terme, il anticipe une explosion de la désinformation, qui ébranlera les démocraties. Il note également que les systèmes d’IA ont bien sûr une dimension politique. Pour le...

Ce contenu est réservé aux abonnés

En vous abonnant, vous soutenez un média indépendant, sans publicité ni sponsor, qui refuse les récits simplistes et les oppositions binaires.

Vous accédez à du contenu exclusif :

  • Articles hebdomadaires pour décrypter l’actualité autrement

  • Masterclass approfondies avec des intervenants de haut niveau

  • Conférences en ligne thématiques, en direct ou en replay

  • Séances de questions-réponses avec les invités de nos entretiens

  • Et bien plus encore… 

Déjà abonné ? Se connecter

S’abonner
Notification pour
0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
Commentaires en ligne
Afficher tous les commentaires

À lire aussi

Sciences & Technologies

La fabuleuse histoire du drone Silver

Depuis plusieurs années, les drones envahissent notre quotidien. Certains s’en amusent, d’autres les utilisent pour livrer des colis, surveiller ou encore faire la guerre pour ne citer que quelques finalités de leurs usages civils ou militaires. Plutôt que de commenter l’actualité des conflits où ils sont impliqués, plutôt que d’évoquer (...)

Solange Ghernaouti
Politique, Histoire, Philosophie

La philosophie et la haine de la démocratie

Depuis Platon, la philosophie occidentale entretient un rapport ambivalent, souvent hostile, à la démocratie. Derrière l’éloge contemporain de cette dernière se cache une méfiance profonde à l’égard du «dêmos», le peuple, jugé instable, passionnel ou incapable de vérité. Et si la «vraie» démocratie ne pouvait advenir qu’au prix d’une transformation (...)

Barbara Stiegler
Economie, Politique, Sciences & Technologies

Comment la Chine est devenue le nouveau leader technologique du monde

A Pékin, des robots humanoïdes exécutent des chorégraphies martiales avec une précision saisissante. Derrière le spectacle du Nouvel An chinois, une réalité s’impose: en deux décennies, la Chine s’est hissée au sommet de la hiérarchie technologique mondiale. Recherche scientifique, intelligence artificielle, transition énergétique, spatial… L’Empire du Milieu ne se contente (...)

Hicheme Lehmici
Sciences & Technologies, PhilosophieAccès libre

Le fossé cognitif s’élargit: l’IA évolue, mais nos questions suivent-elles?  

A mesure que l’intelligence artificielle progresse, elle révèle moins ses propres limites que les nôtres. Un fossé cognitif se creuse entre ceux qui apprennent à questionner, comprendre et gouverner l’outil, et ceux qui s’en remettent à ses réponses. Plus qu’un défi technologique, l’IA impose une transformation profonde de notre rapport (...)

Igor Balanovski
Sciences & Technologies

Pour un droit fondamental à ne pas être sous dépendance de l’IA et sous surveillance informatique

Le droit à ne pas être dépendant de l’IA va de pair avec celui de ne pas être mis systématiquement sous surveillance informatique. Cela pourrait être un nouveau droit humain fondamental contribuant à faire respecter une dizaine d’autres qui sont inscrits dans la Déclaration universelle des droits de l’homme adoptée (...)

Solange Ghernaouti
Sciences & Technologies

Des géants de la tech donnent désormais la priorité à la quête de sens

A contre-courant des discours focalisés sur la seule performance technologique, certains dirigeants de la Silicon Valley appellent désormais à rééquilibrer l’innovation vers ce qui donne sens à son usage. A mesure que l’intelligence artificielle transforme le travail et les compétences, la valeur se déplacerait vers des qualités longtemps associées aux (...)

Igor Balanovski
Sciences & Technologies

Le marché de l’IA stagne face à son angle mort: la gouvernance de l’usage

Si l’intelligence artificielle gagne en puissance, la valeur qu’elle génère ne suit pas toujours la même trajectoire. Non pas parce que la technologie plafonne, mais parce que nos usages, nos cadres mentaux et notre gouvernance tardent à évoluer. Entre complémentarité humain-machine, littératie numérique et enjeux économiques, une question s’impose: et (...)

Igor Balanovski
Sciences & Technologies

Au-delà des risques et des promesses, la force du grain de sable

Les événements récents, corroborés par la publication des derniers rapports annuels sur les risques, confirment la persistance des menaces existantes, désormais amplifiées par le développement de l’intelligence artificielle. Celles-ci s’inscrivent dans une dynamique de long terme marquée par la fragilisation des sociétés, sous l’effet conjugué des tensions géopolitiques, de l’érosion (...)

Solange Ghernaouti
PolitiqueAccès libre

Multipolarité et démocratie: quand le discours se heurte à la réalité

Le discours moral international — science contre complotisme, droit contre force — apparaît de plus en plus déconnecté des pratiques réelles du pouvoir. Il ne tient plus dans un monde devenu multipolaire et se heurte à un système néo capitaliste qui neutralise le débat public. Mais si la multipolarité révèle (...)

Bon pour la tête
Sciences & Technologies

Les limites du contrôle dans le monde multipolaire

Dans un monde multipolaire de plus en plus interconnecté, la tentation du contrôle total se heurte aux lois de la complexité. A mesure que les systèmes gagnent en densité et en vitesse, les stratégies de domination révèlent leurs limites, exposant les acteurs les plus centralisateurs à des effets de retour (...)

Igor Balanovski
Politique, Histoire

Zahra Banisadr, un regard sur l’Iran et la Suisse

Cette rayonnante personnalité neuchâteloise — elle a reçu le doctorat honoris causa en 2025, le prix de la Ville en 2015 — a une connaissance approfondie de l’Iran, son pays d’origine, du nôtre, de la France aussi. Après le fracas des manifestations iraniennes et leur abominable répression, après les commentaires (...)

Jacques Pilet
Sciences & Technologies

L’IA fossoyeuse de la démocratie et du politique

Dans un monde hyperconnecté, à l’heure de la dépendance informatique, les opérations d’influence et de désinformation ajoutées à la cybercriminalité et aux dysfonctionnements informatiques sont de plus en plus dévastatrices. L’intelligence artificielle comme les réseaux sociaux, leurs natures, modes de fonctionnement et les modèles économiques qui les sous-tendent, sont au (...)

Solange Ghernaouti
Accès libre

«Il ne s’agit pas de réfuter ses analyses, mais de les rendre inaccessibles»

L’article de Jacques Pilet sur les sanctions dont est victime Jacques Baud, ex-colonel suisse des services de renseignement, ex-expert de l’ONU, ex-délégué auprès de l’OTAN, a suscité de nombreux commentaires, dont celui-ci qui nous semble particulièrement intéressant.

Bon pour la tête
Philosophie

Les non-dits du monde multipolaire

Le nouveau contexte mondial en pleine reconfiguration se situe non seulement dans un espace à comprendre, mais aussi dans un temps particulier à reconnaître.

Igor Balanovski
PolitiqueAccès libre

Rogner les libertés au nom de la démocratie

Il se lève, en Europe, une vague de fond, peu bruyante, qui néanmoins atteint au cœur ce à quoi nous tenons tant: la liberté d’expression. Partout, les Etats concoctent des appareils de surveillance des propos qui courent. Nous avons parlé ici des tracasseries policières et judiciaires — surtout en Allemagne (...)

Jacques Pilet
Sciences & Technologies

IA générative et travail: libération ou nouvelle aliénation?

L’avènement de l’intelligence artificielle, en particulier les modèles génératifs comme ChatGPT, semble annoncer une importante transformation de l’économie mondiale. Plus en profondeur, elle questionne le sens même du travail et de notre humanité. Tour d’horizon des enjeux humains, environnementaux et éducatifs de cette révolution numérique.

Jonathan Steimer