Un fantôme dans la machine: quand l’IA effraie ses propres concepteurs
via Unsplash
LaMDA (pour «language model for dialogue applications») est un projet encore en gestation chez Google, et son utilisation est très limitée. Le programme, qui semble avoir l’apparence d’une interface de messagerie classique, avec des bulles bleues et blanches de part et d’autre de l’écran, soit un «chatbot», est destiné à terme à remplacer la désormais incontournable fonction «recherche» de Google. Le géant américain de la tech s’engage toujours plus résolument dans la recherche et le développement de programmes reposant sur l’intelligence artificielle. En témoigne une démonstration de LaMDA par le PDG d’Alphabet (la maison-mère de Google), au cours de laquelle ce dernier a demandé à l’application de parler avec «la voix de Pluton» et de raconter quelques détails sur cette ex-planète.
«Si je n’avais pas su de quoi il s’agissait vraiment, c’est-à-dire ce programme informatique que nous avons récemment conçu, j’aurais pu croire que je m’adressais à un enfant de 7 ou 8 ans qui serait spécialement calé en physique.» Ce qui a piégé Blake Lemoine, c’est précisément l’apparente intelligence des réponses fournies par l’application. Car les programmes conçus pour ressembler à l’intelligence et au comportement humains abusent de notre capacité d’empathie, prévient la professeure de linguistique à l’université de Washington Emily Bender.
Le problème, développe-t-elle, c’est qu’il nous est très difficile de ne pas réagir face à un «chatbot» (un robot parlant ou écrivant des messages) comme nous le ferions face à une personne. «Il peut sembler que, lorsque nous comprenons le discours d’autrui, nous ne faisons que décoder des messages. En fait, notre capacité à comprendre les actes de communication des autres consiste essentiellement à imaginer leur point de vue, puis à déduire ce qu’ils ont l’intention de communiquer à partir des mots qu’ils ont utilisés. Ainsi, lorsque nous rencontrons un texte apparemment cohérent provenant d’une machine, nous appliquons cette même approche pour lui donner un sens: nous imaginons par réflexe qu’un esprit a produit ces mots avec une certaine intention de communication.»
Selon tout vraisemblance, avance Emily Bender, les réponses fournies par LaMDA proviennent d’une quantité énorme de texte moissonnée sur internet, sans aucun contrôle de qualité sur les données ni les sources. Cela conduit fréquemment à des «ratés» très médiatisés. LaMDA, comme d’autres applications d’intelligence artificielle auparavant, s’est ainsi rendu coupable de conseils médicaux contre-productifs et dangereux, ou de propos racistes. A l’heure actuelle, Google n’a pas fourni d’explications sur l’origine exacte des sources utilisées.
Puisque l’ambition affichée de la firme américaine est «d’organiser l’information à l’échelle mondiale», poursuit la spécialiste, nous avons tout intérêt à ne pas demeurer passifs face aux progrès fulgurants de l’intelligence artificielle. «Nous voulons plus de transparence sur le fonctionnement de ces programmes», réclame la linguiste. Nous devons prendre conscience de ce qu’est l’intelligence (et le langage) humains; et apprendre et intégrer la différence, sinon nous prenons le risque d’être trompés, de nous laisser aveugler par notre confiance et notre empathie.
En tout état de cause, l’imitation par la machine du comportement humain est une ligne rouge à ne pas franchir, selon nombre de spécialistes. Confrontés à l’inquiétante étrangeté d’une altérité artificielle, nous perdons la notion de ce qui est propre à notre nature, nous en venons à imaginer un fantôme dans la machine.
Lire l’article original.
À lire aussi
80 ans de l’ONU: le multilatéralisme à l’épreuve de l’ère algorithmique
L’Organisation des Nations unies affronte un double défi: restaurer la confiance entre Etats et encadrer une intelligence artificielle qui recompose les rapports de pouvoir. Une équation inédite dans l’histoire du multilatéralisme. La gouvernance technologique est aujourd’hui un champ de coopération — ou de fracture — décisif pour l’avenir de l’ordre (...)
Les réseaux technologiques autoritaires
Une équipe de chercheurs met en lumière l’émergence d’un réseau technologique autoritaire dominé par des entreprises américaines comme Palantir. À travers une carte interactive, ils dévoilent les liens économiques et politiques qui menacent la souveraineté numérique de l’Europe.
Compétences indispensables et professions émergentes pour un futur responsable avec l’IA
L’Histoire éclaire le présent et préfigure les futurs possibles. Les conférences de Macy (1946 1953) montrent comment le dialogue entre disciplines comble les angles morts de la connaissance et pose les bases de l’intelligence artificielle. Des enseignements essentiels pour guider l’utilisation responsable de celle-ci dans un monde où tout s’influence (...)
Comment naviguer dans un monde en perpétuelle mutation
Dans un océan d’informations, nos choix dépendent moins de ce que nous savons que de notre capacité à relier et organiser nos connaissances. Entre philosophie, psychologie et intelligence artificielle, découvrez comment naviguer dans un monde qui se reconfigure sans cesse afin de tirer parti du chaos et transformer l’incertitude en (...)
L’histoire des épidémies reste entourée de mystères et de fantasmes
Les virus n’ont pas attendu la modernité pour bouleverser les sociétés humaines. Dans un livre récent, les professeurs Didier Raoult et Michel Drancourt démontrent comment la paléomicrobiologie éclaire d’un jour nouveau l’histoire des grandes épidémies. De la peste à la grippe, du coronavirus à la lèpre, leurs recherches révèlent combien (...)
Des risques structurels liés à l’e-ID incompatibles avec des promesses de sécurité
La Confédération propose des conditions d’utilisation de l’application Swiyu liée à l’e-ID qui semblent éloignées des promesses d’«exigences les plus élevées en matière de sécurité, de protection des données et de fiabilité» avancées par l’Administration fédérale.
Quand l’IA gagne en puissance, la philosophie gagne en nécessité
A l’heure où les machines imitent nos mots, nos gestes et nos doutes, la frontière entre intelligence artificielle et intelligence humaine se brouille. L’IA, miroir de nos structures mentales, amplifie nos forces autant que nos dérives. Face à cette accélération, la philosophie s’impose: elle éclaire les liens, les contextes, les (...)
La stratégie de Netanyahu accélère le déclin démocratique d’Israël
Le quotidien israélien «Haaretz» explique comment l’ancien Premier ministre Naftali Bennett met en garde les forces de sécurité et les fonctionnaires contre une possible manipulation du calendrier électoral et la mainmise de Netanyahu sur l’appareil sécuritaire.
Superintelligence américaine contre intelligence pratique chinoise
Alors que les États-Unis investissent des centaines de milliards dans une hypothétique superintelligence, la Chine avance pas à pas avec des applications concrètes et bon marché. Deux stratégies opposées qui pourraient décider de la domination mondiale dans l’intelligence artificielle.
Netanyahu veut faire d’Israël une «super Sparte»
Nos confrères du quotidien israélien «Haaretz» relatent un discours du Premier ministre Benjamin Netanyahu qui évoque «l’isolement croissant» d’Israël et son besoin d’autosuffisance, notamment en matière d’armement. Dans un éditorial, le même quotidien analyse ce projet jugé dangereux et autodestructeur.
L’identité numérique, miracle ou mirage?
Le 28 septembre, les Suisses se prononceront à nouveau sur l’identité numérique (e-ID). Cette fois, le Conseil fédéral revient avec une version révisée, baptisée «swiyu», présentée comme une solution étatique garantissant la souveraineté des données. Mais ce projet, déjà bien avancé, suscite des inquiétudes quant à son coût, sa gestion, (...)
Les délires d’Apertus
Cocorico! On aimerait se joindre aux clameurs admiratives qui ont accueilli le système d’intelligence artificielle des hautes écoles fédérales, à la barbe des géants américains et chinois. Mais voilà, ce site ouvert au public il y a peu est catastrophique. Chacun peut le tester. Vous vous amuserez beaucoup. Ou alors (...)
Quand notre culture revendique le «populaire de qualité»
Du club FipFop aux mémorables albums à vignettes des firmes chocolatières NPCK, ou à ceux des éditions Silva, en passant par les pages culturelles des hebdos de la grande distribution, une forme de culture assez typiquement suisse a marqué la deuxième décennie du XXe siècle et jusque dans la relance (...)
Israël ne laisse pas la Croix-Rouge visiter ses prisonniers palestiniens
Alors que, selon nos confrères du quotidien israélien «Haaretz», les conditions de détention des Palestiniens se sont aggravées, le gouvernement de Benjamin Netanyahou refuse qu’ils puissent recevoir la visite de délégués de l’organisation humanitaire internationale.
Les croisés suisses de Netanyahou
Le journal en ligne «Republik» accuse Ignazio Cassis et révèle les méthodes des chrétiens évangéliques suisses qui défendent ardemment le gouvernement israélien.
Du réconfort qu’apportent les grenouilles
Face à la morosité de l’actualité, les grenouilles empaillées d’Estavayer-le-Lac représentant des scènes du quotidien offrent un peu d’autodérision. Car ne sommes-nous pas tous des petits êtres qui croassent et gobent les mouches?
