IA: le choix de l’éthique ou du progrès

Publié le 5 mai 2023

© Andy Kelly via Unsplash

Révolution scientifique ou apocalypse anthropologique? Les systèmes conversationnels tels que ChatGPT créent la division chez les spécialistes, au point que certains réclament un moratoire de six mois sur leur développement. Quelques uns de leurs concepteurs disent même «regretter» cette invention... «Le Monde» a interrogé deux chercheurs en réseaux de neurones artificiels, aux vues diamétralement opposées.

Yoshua Bengio, chercheur canadien, est l’un des précurseurs des réseaux de neurones artificiels, la technologie sur laquelle reposent, entre autres, ChatGPT et Midjourney. Signataire de la demande de moratoire, il livre ses inquiétudes, fondées sur le fait que ChatGPT passe, haut la main, le «test de Turing», qui consiste à déterminer s’il est possible de savoir, en utilisant un système, si l’on a affaire à une machine ou à un humain. Selon lui, un dialogue avec ChatGPT peut donc être très aisément confondu avec une conversation entre amis.

Principe de précaution

La source d’inquiétude, pour Yoshua Bengio, ce sont les «boîtes noires» de ces outils. Car ces systèmes ne sont pas conçus comme n’importe quel logiciel, limité dans l’accomplissement d’une tâche, ils sont faits pour «apprendre» à partir des données fournies et «imiter» les conversations entre humains. On ne maitrise pas totalement le principe d’apprentissage de la machine. Mais attention, cela ne signifie pas que les machines pourraient «se retourner contre les humains» ou tenter de les réduire en esclavage. Aucun spécialiste sérieux n’envisage ce scénario qu’ils laissent aux amateurs de science-fiction apocalyptique…

En revanche, pour ce chercheur, un principe de précaution est nécessaire. Une telle révolution peut, peut-être, déclencher une série de réactions en chaine que nous sommes bien en peine d’anticiper. Le risque existe. En particulier pour la démocratie: à terme, il anticipe une explosion de la désinformation, qui ébranlera les démocraties. Il note également que les systèmes d’IA ont bien sûr une dimension politique. Pour le...

Ce contenu est réservé aux abonnés

En vous abonnant, vous soutenez un média indépendant, sans publicité ni sponsor, qui refuse les récits simplistes et les oppositions binaires.

Vous accédez à du contenu exclusif :

  • Articles hebdomadaires pour décrypter l’actualité autrement

  • Masterclass approfondies avec des intervenants de haut niveau

  • Conférences en ligne thématiques, en direct ou en replay

  • Séances de questions-réponses avec les invités de nos entretiens

  • Et bien plus encore… 

Déjà abonné ? Se connecter

Commentaires

Les commentaires sont les bienvenus ! Pour préserver la qualité des échanges, merci de respecter notre charte des commentaires.

S’abonner
Notification pour
0 Commentaires
Le plus ancien
Le plus récent Le plus populaire

À lire aussi

Politique, Histoire

Les Etats-Unis se sont construits sur un mensonge

Washington fête ce week-end le quart de millénaire de son indépendance. Le récit est bien huilé: l’expérience américaine aurait en son cœur les principes démocratiques. L’histoire dit pourtant l’inverse: les pères fondateurs, hostiles à l’idée même de démocratie, ont bâti un gouvernement pensé pour protéger les privilèges d’une élite face (...)

Martin Bernard
Politique

Justice et politique, l’opaque méli-mélo

La Suisse fait volontiers la morale au monde entier. La leçon de démocratie commence par la séparation des pouvoirs et l’indépendance des juges. Fort bien. Mais chez elle, qu’en est-il? Le coup d’œil est troublant.

Jacques Pilet
Sciences & Technologies

Fable et Mythos hors-ligne: la cybersécurité prise en otage par le technopouvoir

Cybersécurité, intelligence artificielle, souveraineté technologique… ces enjeux figurent désormais parmi les priorités stratégiques des grandes puissances. La création, en 2024, d’un groupe de travail du G7 dédié à la cybersécurité illustre cette préoccupation croissante face à des menaces numériques jugées critiques pour la sécurité, l’économie et le fonctionnement des démocraties. (...)

Solange Ghernaouti

IA: déléguer ou ne pas déléguer la pensée humaine, telle est la question

L’intelligence artificielle bouleverse notre rapport à la connaissance, au travail et même à la pensée. Faut-il pour autant lui déléguer une partie de nos capacités cognitives? Entre risques de dépendance, souveraineté intellectuelle et nouvelles compétences à développer, la question dépasse largement la technologie. Elle touche à ce qui fait la (...)

Igor Balanovski
Sciences & Technologies, Philosophie

Quand la surstimulation nous éloigne du réel

Habiter le réel à l’ère du flux d’information et de l’intelligence artificielle devient un enjeu central. Dans un environnement où l’expérience tend à être lissée, immédiate et sans friction, les rapports au temps, à autrui et à la pensée se transforment en profondeur. Ce déplacement interroge les conditions mêmes de (...)

Yves Borgeaud
Politique, Culture

Sommes-nous entrés dans une nouvelle ère politique?

Après son roman très remarqué «Le Mage du Kremlin», Giuliano da Empoli nous livre, dans cet «essai littéraire», une analyse aussi incisive que mémorable de la scène politique internationale. Compte rendu de rencontres entre puissants auxquelles il a assisté à différents titres, mise en garde contre l’insouciance avec laquelle nous (...)

Bon pour la tête
Sciences & Technologies

Quelles sont les finalités des lunettes connectées?

A l’heure des lunettes connectées, de la reconnaissance faciale, des caméras de vidéosurveillance et des capteurs électroniques qui scrutent notre environnement, nos comportements et notre corps, avec l’intelligence artificielle qui conditionne nos pensées et nos actions, que reste-t-il de notre intimité et de nos libertés?

Solange Ghernaouti
Sciences & Technologies

Monoculture numérique intensive: quel devenir?

La dépendance aux infrastructures numériques, celle aux solutions informatisées par l’intelligence artificielle, comme les interdépendances des ressources et des infrastructures critiques, ont fait apparaître de nouveaux risques systémiques. Ce n’est pas la technique informatique qui en est la cause mais la manière d’organiser et de réaliser l’informatisation de la société (...)

Solange Ghernaouti
Politique, Sciences & Technologies

L’hégémonie américaine décrite par un géant de la tech 

Les errances du pouvoir de Trump nous égarent. L’appareil de son Etat et les puissants acteurs américains de la high-tech ont bel et bien un programme cohérent. Pour la suprématie de l’Occident, rien de moins… C’est le patron de Palantir, Alex Karp, qui vient de le dire en toute clarté.

Jacques Pilet
Sciences & Technologies

Technobiocide: un crime de guerre comme les autres?

Il est de plus en plus difficile d’ignorer les conséquences de notre dépendance aux hydrocarbures. La guerre au Moyen-Orient les met en avant comme d’ailleurs celles liés à notre dépendance à l’IA, aux centres de données et à leurs fournisseurs hégémoniques. Pourquoi ne pas imaginer et faire vivre d’autres possibles (...)

Solange Ghernaouti
Politique, Philosophie

Les «Lumières sombres» ou le retour de la tentation monarchique aux Etats-Unis

Et si la démocratie libérale n’était qu’une illusion? Derrière cette hypothèse se déploie la pensée des «Lumières sombres», une nébuleuse intellectuelle radicale qui séduit une partie des élites technologiques et politiques américaines, jusqu’à l’entourage de Trump lui-même.

Martin Bernard
Politique

Vainqueur ou vaincu, Viktor Orban continuera à compter

A quelques jours d’échéances électorales décisives en Hongrie et en Bulgarie, l’Union européenne tente, une fois de plus, de peser sur des scrutins à haut risque politique pour elle. Entre tensions avec Budapest, recomposition des forces à Sofia et montée des courants souverainistes, les résultats de ces élections pourraient compliquer (...)

Guy Mettan
Sciences & Technologies

La littérature révélatrice des pièges de l’intelligence artificielle

Regarder le phénomène de société qu’est l’intelligence artificielle au travers du prisme de la littérature permet de questionner le monde dans lequel nous vivons. L’écriture romanesque peut éclairer, entre autres, la complexité des relations individuelles et collectives entretenues avec la politique, l’économie et la technique ainsi que les jeux de (...)

Solange Ghernaouti
Sciences & Technologies

La fabuleuse histoire du drone Silver

Depuis plusieurs années, les drones envahissent notre quotidien. Certains s’en amusent, d’autres les utilisent pour livrer des colis, surveiller ou encore faire la guerre pour ne citer que quelques finalités de leurs usages civils ou militaires. Plutôt que de commenter l’actualité des conflits où ils sont impliqués, plutôt que d’évoquer (...)

Solange Ghernaouti
Economie, Politique, Sciences & Technologies

Comment la Chine est devenue le nouveau leader technologique du monde

A Pékin, des robots humanoïdes exécutent des chorégraphies martiales avec une précision saisissante. Derrière le spectacle du Nouvel An chinois, une réalité s’impose: en deux décennies, la Chine s’est hissée au sommet de la hiérarchie technologique mondiale. Recherche scientifique, intelligence artificielle, transition énergétique, spatial… L’Empire du Milieu ne se contente (...)

Hicheme Lehmici
Politique, Histoire, Philosophie

La philosophie et la haine de la démocratie

Depuis Platon, la philosophie occidentale entretient un rapport ambivalent, souvent hostile, à la démocratie. Derrière l’éloge contemporain de cette dernière se cache une méfiance profonde à l’égard du «dêmos», le peuple, jugé instable, passionnel ou incapable de vérité. Et si la «vraie» démocratie ne pouvait advenir qu’au prix d’une transformation (...)

Barbara Stiegler