IA: le choix de l’éthique ou du progrès
© Andy Kelly via Unsplash
Yoshua Bengio, chercheur canadien, est l’un des précurseurs des réseaux de neurones artificiels, la technologie sur laquelle reposent, entre autres, ChatGPT et Midjourney. Signataire de la demande de moratoire, il livre ses inquiétudes, fondées sur le fait que ChatGPT passe, haut la main, le «test de Turing», qui consiste à déterminer s’il est possible de savoir, en utilisant un système, si l’on a affaire à une machine ou à un humain. Selon lui, un dialogue avec ChatGPT peut donc être très aisément confondu avec une conversation entre amis.
Principe de précaution
La source d’inquiétude, pour Yoshua Bengio, ce sont les «boîtes noires» de ces outils. Car ces systèmes ne sont pas conçus comme n’importe quel logiciel, limité dans l’accomplissement d’une tâche, ils sont faits pour «apprendre» à partir des données fournies et «imiter» les conversations entre humains. On ne maitrise pas totalement le principe d’apprentissage de la machine. Mais attention, cela ne signifie pas que les machines pourraient «se retourner contre les humains» ou tenter de les réduire en esclavage. Aucun spécialiste sérieux n’envisage ce scénario qu’ils laissent aux amateurs de science-fiction apocalyptique…
En revanche, pour ce chercheur, un principe de précaution est nécessaire. Une telle révolution peut, peut-être, déclencher une série de réactions en chaine que nous sommes bien en peine d’anticiper. Le risque existe. En particulier pour la démocratie: à terme, il anticipe une explosion de la désinformation, qui ébranlera les démocraties. Il note également que les systèmes d’IA ont bien sûr une dimension politique. Pour le...
Ce contenu est réservé aux abonnés
En vous abonnant, vous soutenez un média indépendant, sans publicité ni sponsor, qui refuse les récits simplistes et les oppositions binaires.
Vous accédez à du contenu exclusif :
-
Articles hebdomadaires pour décrypter l’actualité autrement
-
Masterclass approfondies avec des intervenants de haut niveau
-
Conférences en ligne thématiques, en direct ou en replay
-
Séances de questions-réponses avec les invités de nos entretiens
- Et bien plus encore…
Déjà abonné ? Se connecter
À lire aussi
Les réseaux technologiques autoritaires
Une équipe de chercheurs met en lumière l’émergence d’un réseau technologique autoritaire dominé par des entreprises américaines comme Palantir. À travers une carte interactive, ils dévoilent les liens économiques et politiques qui menacent la souveraineté numérique de l’Europe.
80 ans de l’ONU: le multilatéralisme à l’épreuve de l’ère algorithmique
L’Organisation des Nations unies affronte un double défi: restaurer la confiance entre Etats et encadrer une intelligence artificielle qui recompose les rapports de pouvoir. Une équation inédite dans l’histoire du multilatéralisme. La gouvernance technologique est aujourd’hui un champ de coopération — ou de fracture — décisif pour l’avenir de l’ordre (...)
En Afrique, à quoi servent (encore) les élections?
Des scrutins sans surprise, des Constitutions taillées sur mesure, des opposants muselés: la démocratie africaine tourne à la farce, soutenue ou tolérée par des alliés occidentaux soucieux de préserver leurs intérêts. Au grand dam des populations, notamment des jeunes.
Compétences indispensables et professions émergentes pour un futur responsable avec l’IA
L’Histoire éclaire le présent et préfigure les futurs possibles. Les conférences de Macy (1946 1953) montrent comment le dialogue entre disciplines comble les angles morts de la connaissance et pose les bases de l’intelligence artificielle. Des enseignements essentiels pour guider l’utilisation responsable de celle-ci dans un monde où tout s’influence (...)
Comment naviguer dans un monde en perpétuelle mutation
Dans un océan d’informations, nos choix dépendent moins de ce que nous savons que de notre capacité à relier et organiser nos connaissances. Entre philosophie, psychologie et intelligence artificielle, découvrez comment naviguer dans un monde qui se reconfigure sans cesse afin de tirer parti du chaos et transformer l’incertitude en (...)
Des risques structurels liés à l’e-ID incompatibles avec des promesses de sécurité
La Confédération propose des conditions d’utilisation de l’application Swiyu liée à l’e-ID qui semblent éloignées des promesses d’«exigences les plus élevées en matière de sécurité, de protection des données et de fiabilité» avancées par l’Administration fédérale.
Quand l’IA gagne en puissance, la philosophie gagne en nécessité
A l’heure où les machines imitent nos mots, nos gestes et nos doutes, la frontière entre intelligence artificielle et intelligence humaine se brouille. L’IA, miroir de nos structures mentales, amplifie nos forces autant que nos dérives. Face à cette accélération, la philosophie s’impose: elle éclaire les liens, les contextes, les (...)
Moldavie: victoire européenne, défaite démocratique
L’Union européenne et les médias mainstream ont largement applaudi le résultat des élections moldaves du 28 septembre favorable, à 50,2 %, à la présidente pro-européenne Maia Sandu. En revanche, ils ont fait l’impasse sur les innombrables manipulations qui ont entaché le scrutin et faussé les résultats. Pas un mot non (...)
Superintelligence américaine contre intelligence pratique chinoise
Alors que les États-Unis investissent des centaines de milliards dans une hypothétique superintelligence, la Chine avance pas à pas avec des applications concrètes et bon marché. Deux stratégies opposées qui pourraient décider de la domination mondiale dans l’intelligence artificielle.
La stratégie de Netanyahu accélère le déclin démocratique d’Israël
Le quotidien israélien «Haaretz» explique comment l’ancien Premier ministre Naftali Bennett met en garde les forces de sécurité et les fonctionnaires contre une possible manipulation du calendrier électoral et la mainmise de Netanyahu sur l’appareil sécuritaire.
Une société de privilèges n’est pas une société démocratique
Si nous bénéficions toutes et tous de privilèges, ceux-ci sont souvent masqués, voir niés. Dans son livre «Privilèges – Ce qu’il nous reste à abolir», la philosophe française Alice de Rochechouart démontre les mécanismes qui font que nos institutions ne sont pas neutres et que nos sociétés sont inégalitaires. Elle (...)
Netanyahu veut faire d’Israël une «super Sparte»
Nos confrères du quotidien israélien «Haaretz» relatent un discours du Premier ministre Benjamin Netanyahu qui évoque «l’isolement croissant» d’Israël et son besoin d’autosuffisance, notamment en matière d’armement. Dans un éditorial, le même quotidien analyse ce projet jugé dangereux et autodestructeur.
L’identité numérique, miracle ou mirage?
Le 28 septembre, les Suisses se prononceront à nouveau sur l’identité numérique (e-ID). Cette fois, le Conseil fédéral revient avec une version révisée, baptisée «swiyu», présentée comme une solution étatique garantissant la souveraineté des données. Mais ce projet, déjà bien avancé, suscite des inquiétudes quant à son coût, sa gestion, (...)
Les délires d’Apertus
Cocorico! On aimerait se joindre aux clameurs admiratives qui ont accueilli le système d’intelligence artificielle des hautes écoles fédérales, à la barbe des géants américains et chinois. Mais voilà, ce site ouvert au public il y a peu est catastrophique. Chacun peut le tester. Vous vous amuserez beaucoup. Ou alors (...)
Démocratie en panne, colère en marche
En France, ce n’est pas tant le tourniquet des premiers ministres et la détestation de Macron qui inquiètent, c’est le fossé qui se creuse entre la société et le cirque politicien, avec son jeu d’ambitions qui paralyse le pays. Le tableau n’est guère plus réjouissant en Allemagne, en Grande-Bretagne, en (...)
L’individualisme, fondement démocratique, selon Tocqueville
Notre démocratie est en crise, comment la réinventer? Que nous enseignent ceux qui, au cours des âges, furent ses concepteurs? Pour le penseur français Alexis de Tocqueville (1805-1859), l’individualisme et l’égalisation des conditions de vie sont deux piliers essentiels de la démocratie.
