IA: le choix de l’éthique ou du progrès

Publié le 5 mai 2023
Révolution scientifique ou apocalypse anthropologique? Les systèmes conversationnels tels que ChatGPT créent la division chez les spécialistes, au point que certains réclament un moratoire de six mois sur leur développement. Quelques uns de leurs concepteurs disent même «regretter» cette invention... «Le Monde» a interrogé deux chercheurs en réseaux de neurones artificiels, aux vues diamétralement opposées.

Yoshua Bengio, chercheur canadien, est l’un des précurseurs des réseaux de neurones artificiels, la technologie sur laquelle reposent, entre autres, ChatGPT et Midjourney. Signataire de la demande de moratoire, il livre ses inquiétudes, fondées sur le fait que ChatGPT passe, haut la main, le «test de Turing», qui consiste à déterminer s’il est possible de savoir, en utilisant un système, si l’on a affaire à une machine ou à un humain. Selon lui, un dialogue avec ChatGPT peut donc être très aisément confondu avec une conversation entre amis.
Principe de précaution
La source d’inquiétude, pour Yoshua Bengio, ce sont les «boîtes noires» de ces outils. Car ces systèmes ne sont pas conçus comme n’importe quel logiciel, limité dans l’accomplissement d’une tâche, ils sont faits pour «apprendre» à partir des données fournies et «imiter» les conversations entre humains. On ne maitrise pas totalement le principe d’apprentissage de la machine. Mais attention, cela ne signifie pas que les machines pourraient «se retourner contre les humains» ou tenter de les réduire en esclavage. Aucun spécialiste sérieux n’envisage ce scénario qu’ils laissent aux amateurs de science-fiction apocalyptique...
En revanche, pour ce chercheur, un principe de précaution est nécessaire. Une telle révolution peut, peut-être, déclencher une série de réactions en chaine que nous sommes bien en peine d’anticiper. Le risque existe. En particulier pour la démocratie: à terme, il anticipe une explosion de la désinformation, qui ébranlera les démocraties. Il note également que les systèmes d’IA ont bien sûr une dimension politique. Pour le moment, il s’agit d’une technologie exclusivement américaine; les Etats autoritaires n’y ont pas accès et, dit-il, même la Chine accuse un retard en la matière. Mais cela ne s...

Ce contenu est réservé aux abonnés

En vous abonnant, vous soutenez un média indépendant, sans publicité ni sponsor, qui refuse les récits simplistes et les oppositions binaires.

Vous accédez à du contenu exclusif :

  • Articles hebdomadaires pour décrypter l’actualité autrement

  • Masterclass approfondies avec des intervenants de haut niveau

  • Conférences en ligne thématiques, en direct ou en replay

  • Séances de questions-réponses avec les invités de nos entretiens

  • Et bien plus encore… 

Déjà abonné ? Se connecter

S’abonner
Notification pour
0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
Commentaires en ligne
Afficher tous les commentaires

À lire aussi

Politique

Moldavie: victoire européenne, défaite démocratique

L’Union européenne et les médias mainstream ont largement applaudi le résultat des élections moldaves du 28 septembre favorable, à 50,2 %, à la présidente pro-européenne Maia Sandu. En revanche, ils ont fait l’impasse sur les innombrables manipulations qui ont entaché le scrutin et faussé les résultats. Pas un mot non (...)

Guy Mettan

La stratégie de Netanyahu accélère le déclin démocratique d’Israël

Le quotidien israélien «Haaretz» explique comment l’ancien Premier ministre Naftali Bennett met en garde les forces de sécurité et les fonctionnaires contre une possible manipulation du calendrier électoral et la mainmise de Netanyahu sur l’appareil sécuritaire.

Patrick Morier-Genoud

Une société de privilèges n’est pas une société démocratique

Si nous bénéficions toutes et tous de privilèges, ceux-ci sont souvent masqués, voir niés. Dans son livre «Privilèges – Ce qu’il nous reste à abolir», la philosophe française Alice de Rochechouart démontre les mécanismes qui font que nos institutions ne sont pas neutres et que nos sociétés sont inégalitaires. Elle (...)

Patrick Morier-Genoud
Accès libre

Superintelligence américaine contre intelligence pratique chinoise

Alors que les États-Unis investissent des centaines de milliards dans une hypothétique superintelligence, la Chine avance pas à pas avec des applications concrètes et bon marché. Deux stratégies opposées qui pourraient décider de la domination mondiale dans l’intelligence artificielle.

L’identité numérique, miracle ou mirage?

Le 28 septembre, les Suisses se prononceront à nouveau sur l’identité numérique (e-ID). Cette fois, le Conseil fédéral revient avec une version révisée, baptisée «swiyu», présentée comme une solution étatique garantissant la souveraineté des données. Mais ce projet, déjà bien avancé, suscite des inquiétudes quant à son coût, sa gestion, (...)

Anne Voeffray

Démocratie en panne, colère en marche

En France, ce n’est pas tant le tourniquet des premiers ministres et la détestation de Macron qui inquiètent, c’est le fossé qui se creuse entre la société et le cirque politicien, avec son jeu d’ambitions qui paralyse le pays. Le tableau n’est guère plus réjouissant en Allemagne, en Grande-Bretagne, en (...)

Jacques Pilet

Les délires d’Apertus

Cocorico! On aimerait se joindre aux clameurs admiratives qui ont accueilli le système d’intelligence artificielle des hautes écoles fédérales, à la barbe des géants américains et chinois. Mais voilà, ce site ouvert au public il y a peu est catastrophique. Chacun peut le tester. Vous vous amuserez beaucoup. Ou alors (...)

Jacques Pilet
Accès libre

L’individualisme, fondement démocratique, selon Tocqueville

Notre démocratie est en crise, comment la réinventer? Que nous enseignent ceux qui, au cours des âges, furent ses concepteurs? Pour le penseur français Alexis de Tocqueville (1805-1859), l’individualisme et l’égalisation des conditions de vie sont deux piliers essentiels de la démocratie.

Bon pour la tête

Intelligence artificielle: les non-dits

On nous annonce une révolution avec l’arrivée invasive et fulgurante de l’IA dans nos vies, nos modes d’apprentissage et de production et, surtout, la mise à disposition de l’information immédiate et «gratuite» sans effort, objet central ici. Or nous ne mesurons aucunement ce que cela signifie vraiment.

Jamal Reddani
Accès libre

TikTok et la santé mentale des adolescents: les alertes de la recherche

TikTok est l’un des réseaux sociaux les plus populaires chez les adolescents. Selon des études de chercheurs, la plateforme reconfigure leurs repères attentionnels, affectifs et cognitifs, avec un impact important sur leur santé mentale et leur construction personnelle.

Bon pour la tête

Faut-il vraiment se méfier de Yuval Noah Harari?

La trajectoire du petit prof d’histoire israélien devenu mondialement connu avec quatre ouvrages de vulgarisation à large spectre, dont Sapiens aux millions de lecteurs, a suscité quelques accusations portant sur le manque de sérieux scientifique de l’auteur, lequel n’a pourtant jamais posé au savant. D’aucun(e)s vont jusqu’à le taxer de (...)

Jean-Louis Kuffer

Jouir, oui, mais de quoi?

Le marché des sextoys, comme celui de l’intelligence artificielle, est en pleine expansion. Alors que les machines réussissent mieux que nous certaines choses, faut-il s’en inquiéter ou se dire que faillir peut être un plaisir?

Patrick Morier-Genoud

Quand Giuliano Da Empoli s’en prend aux nouveaux prédateurs

A l’inquiétude croissante et confuse qui prévaut aujourd’hui, l’essayiste, en homme de grande expérience «sur le terrain», observateur lucide nourri d’Histoire et dont le présent récit foisonne d’anecdotes significatives, oppose sa lucidité d’esprit libre en nous promenant du siège new yorkais de l’ONU aux coulisses machiavéliennes de Riyad ou Washington, (...)

Jean-Louis Kuffer

Chongqing, la ville-monde que le monde ne veut pas connaître

Première entité urbaine du monde, cette ville du sud-ouest de la Chine en est aussi la première métropole industrielle. On y fabrique voitures, motos, laptops ou encore smartphones, et on y maîtrise parfaitement l’intelligence artificielle. Si un mur d’ignorance sépare l’Occident de Chongqing, et aussi un peu de sinophobie, la (...)

Guy Mettan

La RTS jamais à court de poil à gratter

Du haut de sa sérénité autosuffisante, la radio-télévision suisse n’en a que faire de son public.

Antoine Thibaut
Accès libre

IA: faut-il l’adorer, la détester ou en profiter?

Ils pleuvent, ils pleuvent, les milliards… Trump en promet 500, Macron 109, von der Leyen 200! Puisés on ne sait où mais tout est bon pour la déesse aux mille visages, cette insaisissable intelligence artificielle. Et nous, pauvres ignares, devons-nous y toucher? Jusqu’à quel point? Expérience.

Jacques Pilet