IA: le choix de l’éthique ou du progrès

Publié le 5 mai 2023

© Andy Kelly via Unsplash

Révolution scientifique ou apocalypse anthropologique? Les systèmes conversationnels tels que ChatGPT créent la division chez les spécialistes, au point que certains réclament un moratoire de six mois sur leur développement. Quelques uns de leurs concepteurs disent même «regretter» cette invention... «Le Monde» a interrogé deux chercheurs en réseaux de neurones artificiels, aux vues diamétralement opposées.

Yoshua Bengio, chercheur canadien, est l’un des précurseurs des réseaux de neurones artificiels, la technologie sur laquelle reposent, entre autres, ChatGPT et Midjourney. Signataire de la demande de moratoire, il livre ses inquiétudes, fondées sur le fait que ChatGPT passe, haut la main, le «test de Turing», qui consiste à déterminer s’il est possible de savoir, en utilisant un système, si l’on a affaire à une machine ou à un humain. Selon lui, un dialogue avec ChatGPT peut donc être très aisément confondu avec une conversation entre amis.

Principe de précaution

La source d’inquiétude, pour Yoshua Bengio, ce sont les «boîtes noires» de ces outils. Car ces systèmes ne sont pas conçus comme n’importe quel logiciel, limité dans l’accomplissement d’une tâche, ils sont faits pour «apprendre» à partir des données fournies et «imiter» les conversations entre humains. On ne maitrise pas totalement le principe d’apprentissage de la machine. Mais attention, cela ne signifie pas que les machines pourraient «se retourner contre les humains» ou tenter de les réduire en esclavage. Aucun spécialiste sérieux n’envisage ce scénario qu’ils laissent aux amateurs de science-fiction apocalyptique…

En revanche, pour ce chercheur, un principe de précaution est nécessaire. Une telle révolution peut, peut-être, déclencher une série de réactions en chaine que nous sommes bien en peine d’anticiper. Le risque existe. En particulier pour la démocratie: à terme, il anticipe une explosion de la désinformation, qui ébranlera les démocraties. Il note également que les systèmes d’IA ont bien sûr une dimension politique. Pour le...

Ce contenu est réservé aux abonnés

En vous abonnant, vous soutenez un média indépendant, sans publicité ni sponsor, qui refuse les récits simplistes et les oppositions binaires.

Vous accédez à du contenu exclusif :

  • Articles hebdomadaires pour décrypter l’actualité autrement

  • Masterclass approfondies avec des intervenants de haut niveau

  • Conférences en ligne thématiques, en direct ou en replay

  • Séances de questions-réponses avec les invités de nos entretiens

  • Et bien plus encore… 

Déjà abonné ? Se connecter

S’abonner
Notification pour
0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
Commentaires en ligne
Afficher tous les commentaires

À lire aussi

Philosophie

Les non-dits du monde multipolaire

Le nouveau contexte mondial en pleine reconfiguration se situe non seulement dans un espace à comprendre, mais aussi dans un temps particulier à reconnaître.

Igor Balanovski
Accès libre

«Il ne s’agit pas de réfuter ses analyses, mais de les rendre inaccessibles»

L’article de Jacques Pilet sur les sanctions dont est victime Jacques Baud, ex-colonel suisse des services de renseignement, ex-expert de l’ONU, ex-délégué auprès de l’OTAN, a suscité de nombreux commentaires, dont celui-ci qui nous semble particulièrement intéressant.

Bon pour la tête
PolitiqueAccès libre

Rogner les libertés au nom de la démocratie

Il se lève, en Europe, une vague de fond, peu bruyante, qui néanmoins atteint au cœur ce à quoi nous tenons tant: la liberté d’expression. Partout, les Etats concoctent des appareils de surveillance des propos qui courent. Nous avons parlé ici des tracasseries policières et judiciaires — surtout en Allemagne (...)

Jacques Pilet
Sciences & Technologies

IA générative et travail: libération ou nouvelle aliénation?

L’avènement de l’intelligence artificielle, en particulier les modèles génératifs comme ChatGPT, semble annoncer une importante transformation de l’économie mondiale. Plus en profondeur, elle questionne le sens même du travail et de notre humanité. Tour d’horizon des enjeux humains, environnementaux et éducatifs de cette révolution numérique.

Jonathan Steimer
Sciences & Technologies

Intelligence artificielle: quelle place pour la liberté de la presse et le quatrième pouvoir?

Exercer son esprit critique alors que les promesses de facilité et de rapidité des systèmes d’IA nous invitent à l’endormir et à la paresse intellectuelle devient une nécessité vitale pour chacun d’entre nous. S’interroger sur ce que fait l’IA à la presse et aux médias est tout aussi impératif. Cela (...)

Solange Ghernaouti
Sciences & Technologies

Economie de la connaissance: un tournant éthique pour notre temps?

L’interconnexion mondiale a transformé l’économie. La valeur ne se crée plus seulement par les ressources ou la force de travail, mais par des systèmes qui apprennent, s’adaptent et utilisent l’information de manière intelligente. Autrement dit savoir apprendre, relier, contextualiser, interpréter, transmettre et créer du sens utilisable dans un environnement complexe. (...)

Igor Balanovski
Politique

La France est-elle entrée en révolution?

Le pays est devenu ingouvernable et la contestation populaire ne cesse d’enfler. La France fait face à une double crise de régime: celle de la Ve République et celle du système électif. Les Français, eux, réclament davantage de souveraineté. L’occasion, peut-être, de mettre fin à la monarchie présidentielle et de (...)

Barbara Stiegler
PolitiqueAccès libre

Qui a des droits et qui n’en a pas, la démocratie à géométrie variable

Les votations cantonales vaudoises en matière de droits politiques, notamment pour les résidents étrangers, soulèvent des questions allant bien au-delà des frontières cantonales et nationales. Qu’est-ce qu’une communauté? Qui a le droit d’en faire partie? Qui en est exclu? Est-ce la raison et la logique ou bien plutôt les affects (...)

Patrick Morier-Genoud
Sciences & Technologies

Dossier médical et soins informatisés, la grande soumission 

Les douze hôpitaux du canton de Vaud (Suisse) ont attribué à Epic Systems Corporation le remplacement du dossier patient informatisé. Derrière les arguments d’efficacité avancés pour justifier ce choix technique et organisationnel, l’opacité des coûts et la dépendance croissante aux solutions d’intelligence artificielle laissent présager une maîtrise toujours plus incertaine (...)

Solange Ghernaouti
Sciences & Technologies

Quand l’innovation vous pousse à mourir

L’innovation est devenue un impératif de survie plus qu’un moteur de progrès. Aucun dirigeant n’incarne mieux cette tension qu’Elon Musk, dont l’écosystème, mêlant voitures, satellites, robots et IA, fonctionne comme une machine à repousser l’effondrement et où chaque avancée devient une dette envers la suivante. Un cas d’école pour comprendre (...)

Tarik Lamkarfed
Histoire

80 ans de l’ONU: le multilatéralisme à l’épreuve de l’ère algorithmique

L’Organisation des Nations unies affronte un double défi: restaurer la confiance entre Etats et encadrer une intelligence artificielle qui recompose les rapports de pouvoir. Une équation inédite dans l’histoire du multilatéralisme. La gouvernance technologique est aujourd’hui un champ de coopération — ou de fracture — décisif pour l’avenir de l’ordre (...)

Igor Balanovski
Sciences & TechnologiesAccès libre

Les réseaux technologiques autoritaires

Une équipe de chercheurs met en lumière l’émergence d’un réseau technologique autoritaire dominé par des entreprises américaines comme Palantir. À travers une carte interactive, ils dévoilent les liens économiques et politiques qui menacent la souveraineté numérique de l’Europe.

Markus Reuter
Politique

En Afrique, à quoi servent (encore) les élections?

Des scrutins sans surprise, des Constitutions taillées sur mesure, des opposants muselés: la démocratie africaine tourne à la farce, soutenue ou tolérée par des alliés occidentaux soucieux de préserver leurs intérêts. Au grand dam des populations, notamment des jeunes.

Catherine Morand
Sciences & TechnologiesAccès libre

Compétences indispensables et professions émergentes pour un futur responsable avec l’IA

L’Histoire éclaire le présent et préfigure les futurs possibles. Les conférences de Macy (1946 1953) montrent comment le dialogue entre disciplines comble les angles morts de la connaissance et pose les bases de l’intelligence artificielle. Des enseignements essentiels pour guider l’utilisation responsable de celle-ci dans un monde où tout s’influence (...)

Igor Balanovski
Sciences & TechnologiesAccès libre

Comment naviguer dans un monde en perpétuelle mutation

Dans un océan d’informations, nos choix dépendent moins de ce que nous savons que de notre capacité à relier et organiser nos connaissances. Entre philosophie, psychologie et intelligence artificielle, découvrez comment naviguer dans un monde qui se reconfigure sans cesse afin de tirer parti du chaos et transformer l’incertitude en (...)

Igor Balanovski
Sciences & Technologies

Des risques structurels liés à l’e-ID incompatibles avec des promesses de sécurité

La Confédération propose des conditions d’utilisation de l’application Swiyu liée à l’e-ID qui semblent éloignées des promesses d’«exigences les plus élevées en matière de sécurité, de protection des données et de fiabilité» avancées par l’Administration fédérale.

Solange Ghernaouti