IA: le choix de l’éthique ou du progrès

Publié le 5 mai 2023

© Andy Kelly via Unsplash

Révolution scientifique ou apocalypse anthropologique? Les systèmes conversationnels tels que ChatGPT créent la division chez les spécialistes, au point que certains réclament un moratoire de six mois sur leur développement. Quelques uns de leurs concepteurs disent même «regretter» cette invention... «Le Monde» a interrogé deux chercheurs en réseaux de neurones artificiels, aux vues diamétralement opposées.

Yoshua Bengio, chercheur canadien, est l’un des précurseurs des réseaux de neurones artificiels, la technologie sur laquelle reposent, entre autres, ChatGPT et Midjourney. Signataire de la demande de moratoire, il livre ses inquiétudes, fondées sur le fait que ChatGPT passe, haut la main, le «test de Turing», qui consiste à déterminer s’il est possible de savoir, en utilisant un système, si l’on a affaire à une machine ou à un humain. Selon lui, un dialogue avec ChatGPT peut donc être très aisément confondu avec une conversation entre amis.

Principe de précaution

La source d’inquiétude, pour Yoshua Bengio, ce sont les «boîtes noires» de ces outils. Car ces systèmes ne sont pas conçus comme n’importe quel logiciel, limité dans l’accomplissement d’une tâche, ils sont faits pour «apprendre» à partir des données fournies et «imiter» les conversations entre humains. On ne maitrise pas totalement le principe d’apprentissage de la machine. Mais attention, cela ne signifie pas que les machines pourraient «se retourner contre les humains» ou tenter de les réduire en esclavage. Aucun spécialiste sérieux n’envisage ce scénario qu’ils laissent aux amateurs de science-fiction apocalyptique…

En revanche, pour ce chercheur, un principe de précaution est nécessaire. Une telle révolution peut, peut-être, déclencher une série de réactions en chaine que nous sommes bien en peine d’anticiper. Le risque existe. En particulier pour la démocratie: à terme, il anticipe une explosion de la désinformation, qui ébranlera les démocraties. Il note également que les systèmes d’IA ont bien sûr une dimension politique. Pour le...

Ce contenu est réservé aux abonnés

En vous abonnant, vous soutenez un média indépendant, sans publicité ni sponsor, qui refuse les récits simplistes et les oppositions binaires.

Vous accédez à du contenu exclusif :

  • Articles hebdomadaires pour décrypter l’actualité autrement

  • Masterclass approfondies avec des intervenants de haut niveau

  • Conférences en ligne thématiques, en direct ou en replay

  • Séances de questions-réponses avec les invités de nos entretiens

  • Et bien plus encore… 

Déjà abonné ? Se connecter

S’abonner
Notification pour
0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
Commentaires en ligne
Afficher tous les commentaires

À lire aussi

Sciences & Technologies

Monoculture numérique intensive: quel devenir?

La dépendance aux infrastructures numériques, celle aux solutions informatisées par l’intelligence artificielle, comme les interdépendances des ressources et des infrastructures critiques, ont fait apparaître de nouveaux risques systémiques. Ce n’est pas la technique informatique qui en est la cause mais la manière d’organiser et de réaliser l’informatisation de la société (...)

Solange Ghernaouti
Politique, Sciences & Technologies

L’hégémonie américaine décrite par un géant de la tech 

Les errances du pouvoir de Trump nous égarent. L’appareil de son Etat et les puissants acteurs américains de la high-tech ont bel et bien un programme cohérent. Pour la suprématie de l’Occident, rien de moins… C’est le patron de Palantir, Alex Karp, qui vient de le dire en toute clarté.

Jacques Pilet
Sciences & Technologies

Technobiocide: un crime de guerre comme les autres?

Il est de plus en plus difficile d’ignorer les conséquences de notre dépendance aux hydrocarbures. La guerre au Moyen-Orient les met en avant comme d’ailleurs celles liés à notre dépendance à l’IA, aux centres de données et à leurs fournisseurs hégémoniques. Pourquoi ne pas imaginer et faire vivre d’autres possibles (...)

Solange Ghernaouti
Politique, Philosophie

Les «Lumières sombres» ou le retour de la tentation monarchique aux Etats-Unis

Et si la démocratie libérale n’était qu’une illusion? Derrière cette hypothèse se déploie la pensée des «Lumières sombres», une nébuleuse intellectuelle radicale qui séduit une partie des élites technologiques et politiques américaines, jusqu’à l’entourage de Trump lui-même.

Martin Bernard
Politique

Vainqueur ou vaincu, Viktor Orban continuera à compter

A quelques jours d’échéances électorales décisives en Hongrie et en Bulgarie, l’Union européenne tente, une fois de plus, de peser sur des scrutins à haut risque politique pour elle. Entre tensions avec Budapest, recomposition des forces à Sofia et montée des courants souverainistes, les résultats de ces élections pourraient compliquer (...)

Guy Mettan
Sciences & Technologies

La littérature révélatrice des pièges de l’intelligence artificielle

Regarder le phénomène de société qu’est l’intelligence artificielle au travers du prisme de la littérature permet de questionner le monde dans lequel nous vivons. L’écriture romanesque peut éclairer, entre autres, la complexité des relations individuelles et collectives entretenues avec la politique, l’économie et la technique ainsi que les jeux de (...)

Solange Ghernaouti
Sciences & Technologies

La fabuleuse histoire du drone Silver

Depuis plusieurs années, les drones envahissent notre quotidien. Certains s’en amusent, d’autres les utilisent pour livrer des colis, surveiller ou encore faire la guerre pour ne citer que quelques finalités de leurs usages civils ou militaires. Plutôt que de commenter l’actualité des conflits où ils sont impliqués, plutôt que d’évoquer (...)

Solange Ghernaouti
Politique, Histoire, Philosophie

La philosophie et la haine de la démocratie

Depuis Platon, la philosophie occidentale entretient un rapport ambivalent, souvent hostile, à la démocratie. Derrière l’éloge contemporain de cette dernière se cache une méfiance profonde à l’égard du «dêmos», le peuple, jugé instable, passionnel ou incapable de vérité. Et si la «vraie» démocratie ne pouvait advenir qu’au prix d’une transformation (...)

Barbara Stiegler
Economie, Politique, Sciences & Technologies

Comment la Chine est devenue le nouveau leader technologique du monde

A Pékin, des robots humanoïdes exécutent des chorégraphies martiales avec une précision saisissante. Derrière le spectacle du Nouvel An chinois, une réalité s’impose: en deux décennies, la Chine s’est hissée au sommet de la hiérarchie technologique mondiale. Recherche scientifique, intelligence artificielle, transition énergétique, spatial… L’Empire du Milieu ne se contente (...)

Hicheme Lehmici
Sciences & Technologies, PhilosophieAccès libre

Le fossé cognitif s’élargit: l’IA évolue, mais nos questions suivent-elles?  

A mesure que l’intelligence artificielle progresse, elle révèle moins ses propres limites que les nôtres. Un fossé cognitif se creuse entre ceux qui apprennent à questionner, comprendre et gouverner l’outil, et ceux qui s’en remettent à ses réponses. Plus qu’un défi technologique, l’IA impose une transformation profonde de notre rapport (...)

Igor Balanovski
Sciences & Technologies

Pour un droit fondamental à ne pas être sous dépendance de l’IA et sous surveillance informatique

Le droit à ne pas être dépendant de l’IA va de pair avec celui de ne pas être mis systématiquement sous surveillance informatique. Cela pourrait être un nouveau droit humain fondamental contribuant à faire respecter une dizaine d’autres qui sont inscrits dans la Déclaration universelle des droits de l’homme adoptée (...)

Solange Ghernaouti
Sciences & Technologies

Des géants de la tech donnent désormais la priorité à la quête de sens

A contre-courant des discours focalisés sur la seule performance technologique, certains dirigeants de la Silicon Valley appellent désormais à rééquilibrer l’innovation vers ce qui donne sens à son usage. A mesure que l’intelligence artificielle transforme le travail et les compétences, la valeur se déplacerait vers des qualités longtemps associées aux (...)

Igor Balanovski
Sciences & Technologies

Le marché de l’IA stagne face à son angle mort: la gouvernance de l’usage

Si l’intelligence artificielle gagne en puissance, la valeur qu’elle génère ne suit pas toujours la même trajectoire. Non pas parce que la technologie plafonne, mais parce que nos usages, nos cadres mentaux et notre gouvernance tardent à évoluer. Entre complémentarité humain-machine, littératie numérique et enjeux économiques, une question s’impose: et (...)

Igor Balanovski
Sciences & Technologies

Au-delà des risques et des promesses, la force du grain de sable

Les événements récents, corroborés par la publication des derniers rapports annuels sur les risques, confirment la persistance des menaces existantes, désormais amplifiées par le développement de l’intelligence artificielle. Celles-ci s’inscrivent dans une dynamique de long terme marquée par la fragilisation des sociétés, sous l’effet conjugué des tensions géopolitiques, de l’érosion (...)

Solange Ghernaouti
Sciences & Technologies

Les limites du contrôle dans le monde multipolaire

Dans un monde multipolaire de plus en plus interconnecté, la tentation du contrôle total se heurte aux lois de la complexité. A mesure que les systèmes gagnent en densité et en vitesse, les stratégies de domination révèlent leurs limites, exposant les acteurs les plus centralisateurs à des effets de retour (...)

Igor Balanovski
PolitiqueAccès libre

Multipolarité et démocratie: quand le discours se heurte à la réalité

Le discours moral international — science contre complotisme, droit contre force — apparaît de plus en plus déconnecté des pratiques réelles du pouvoir. Il ne tient plus dans un monde devenu multipolaire et se heurte à un système néo capitaliste qui neutralise le débat public. Mais si la multipolarité révèle (...)

Bon pour la tête