Un fantôme dans la machine: quand l’IA effraie ses propres concepteurs
LaMDA (pour «language model for dialogue applications») est un projet encore en gestation chez Google, et son utilisation est très limitée. Le programme, qui semble avoir l’apparence d’une interface de messagerie classique, avec des bulles bleues et blanches de part et d’autre de l’écran, soit un «chatbot», est destiné à terme à remplacer la désormais incontournable fonction «recherche» de Google. Le géant américain de la tech s’engage toujours plus résolument dans la recherche et le développement de programmes reposant sur l’intelligence artificielle. En témoigne une démonstration de LaMDA par le PDG d’Alphabet (la maison-mère de Google), au cours de laquelle ce dernier a demandé à l’application de parler avec «la voix de Pluton» et de raconter quelques détails sur cette ex-planète.
«Si je n’avais pas su de quoi il s’agissait vraiment, c’est-à-dire ce programme informatique que nous avons récemment conçu, j’aurais pu croire que je m’adressais à un enfant de 7 ou 8 ans qui serait spécialement calé en physique.» Ce qui a piégé Blake Lemoine, c’est précisément l’apparente intelligence des réponses fournies par l’application. Car les programmes conçus pour ressembler à l’intelligence et au comportement humains abusent de notre capacité d’empathie, prévient la professeure de linguistique à l’université de Washington Emily Bender.
Le problème, développe-t-elle, c’est qu’il nous est très difficile de ne pas réagir face à un «chatbot» (un robot parlant ou écrivant des messages) comme nous le ferions face à une personne. «Il peut sembler que, lorsque nous comprenons le discours d’autrui, nous ne faisons que décoder des messages. En fait, notre capacité à comprendre les actes de communication des autres consiste essentiellement à imaginer leur point de vue, puis à déduire ce qu’ils ont l’intention de communiquer à partir des mots qu’ils ont utilisés. Ainsi, lorsque nous rencontrons un texte apparemment cohérent provenant d’une machine, nous appliquons cette même approche pour lui donner un sens: nous imaginons par réflexe qu’un esprit a produit ces mots avec une certaine intention de communication.»
Selon tout vraisemblance, avance Emily Bender, les réponses fournies par LaMDA proviennent d’une quantité énorme de texte moissonnée sur internet, sans aucun contrôle de qualité sur les données ni les sources. Cela conduit fréquemment à des «ratés» très médiatisés. LaMDA, comme d’autres applications d’intelligence artificielle auparavant, s’est ainsi rendu coupable de conseils médicaux contre-productifs et dangereux, ou de propos racistes. A l’heure actuelle, Google n’a pas fourni d’explications sur l’origine exacte des sources utilisées.
Puisque l’ambition affichée de la firme américaine est «d’organiser l’information à l’échelle mondiale», poursuit la spécialiste, nous avons tout intérêt à ne pas demeurer passifs face aux progrès fulgurants de l’intelligence artificielle. «Nous voulons plus de transparence sur le fonctionnement de ces programmes», réclame la linguiste. Nous devons prendre conscience de ce qu’est l’intelligence (et le langage) humains; et apprendre et intégrer la différence, sinon nous prenons le risque d’être trompés, de nous laisser aveugler par notre confiance et notre empathie.
En tout état de cause, l’imitation par la machine du comportement humain est une ligne rouge à ne pas franchir, selon nombre de spécialistes. Confrontés à l’inquiétante étrangeté d’une altérité artificielle, nous perdons la notion de ce qui est propre à notre nature, nous en venons à imaginer un fantôme dans la machine.
Lire l’article original.
À lire aussi
Superintelligence américaine contre intelligence pratique chinoise
Alors que les États-Unis investissent des centaines de milliards dans une hypothétique superintelligence, la Chine avance pas à pas avec des applications concrètes et bon marché. Deux stratégies opposées qui pourraient décider de la domination mondiale dans l’intelligence artificielle.
L’identité numérique, miracle ou mirage?
Le 28 septembre, les Suisses se prononceront à nouveau sur l’identité numérique (e-ID). Cette fois, le Conseil fédéral revient avec une version révisée, baptisée «swiyu», présentée comme une solution étatique garantissant la souveraineté des données. Mais ce projet, déjà bien avancé, suscite des inquiétudes quant à son coût, sa gestion, (...)
Les délires d’Apertus
Cocorico! On aimerait se joindre aux clameurs admiratives qui ont accueilli le système d’intelligence artificielle des hautes écoles fédérales, à la barbe des géants américains et chinois. Mais voilà, ce site ouvert au public il y a peu est catastrophique. Chacun peut le tester. Vous vous amuserez beaucoup. Ou alors (...)
Quand notre culture revendique le «populaire de qualité»
Du club FipFop aux mémorables albums à vignettes des firmes chocolatières NPCK, ou à ceux des éditions Silva, en passant par les pages culturelles des hebdos de la grande distribution, une forme de culture assez typiquement suisse a marqué la deuxième décennie du XXe siècle et jusque dans la relance (...)
Intelligence artificielle: les non-dits
On nous annonce une révolution avec l’arrivée invasive et fulgurante de l’IA dans nos vies, nos modes d’apprentissage et de production et, surtout, la mise à disposition de l’information immédiate et «gratuite» sans effort, objet central ici. Or nous ne mesurons aucunement ce que cela signifie vraiment.
Combien de temps l’humanité survivrait-elle si l’on arrêtait de faire des enfants?
Suffit-il de calculer l’espérance de vie maximale d’un humain pour deviner combien de temps mettrait l’humanité à disparaître si l’on arrêtait de se reproduire? Pas si simple répond l’anthropologue américain Michael A. Little.
Masculin et féminin: on n’en a pas fini avec les stupidités
C’est le spermatozoïde le plus rapide, le plus fort et le plus malin qui féconde l’ovule, essaie-t-on de nous faire croire. Ainsi, certaines positions sexuelles favoriseraient les mâles rapides, d’autres les femelles résistantes. C’est bien sûr beaucoup plus subtil que ça, plus intelligent. La vie n’est pas une course.
TikTok et la santé mentale des adolescents: les alertes de la recherche
TikTok est l’un des réseaux sociaux les plus populaires chez les adolescents. Selon des études de chercheurs, la plateforme reconfigure leurs repères attentionnels, affectifs et cognitifs, avec un impact important sur leur santé mentale et leur construction personnelle.
Faut-il vraiment se méfier de Yuval Noah Harari?
La trajectoire du petit prof d’histoire israélien devenu mondialement connu avec quatre ouvrages de vulgarisation à large spectre, dont Sapiens aux millions de lecteurs, a suscité quelques accusations portant sur le manque de sérieux scientifique de l’auteur, lequel n’a pourtant jamais posé au savant. D’aucun(e)s vont jusqu’à le taxer de (...)
Ces bactéries qui survivent dans l’espace
Une équipe de chercheurs chinois a détecté un micro-organisme d’une nouvelle espèce sur les surfaces internes du matériel de la station spatiale Tiangong, expliquent nos confrères de «L’Espresso». Il s’agit d’une bactérie qui résiste à la microgravité et aux radiations spatiales.
Jouir, oui, mais de quoi?
Le marché des sextoys, comme celui de l’intelligence artificielle, est en pleine expansion. Alors que les machines réussissent mieux que nous certaines choses, faut-il s’en inquiéter ou se dire que faillir peut être un plaisir?
Quand Giuliano Da Empoli s’en prend aux nouveaux prédateurs
A l’inquiétude croissante et confuse qui prévaut aujourd’hui, l’essayiste, en homme de grande expérience «sur le terrain», observateur lucide nourri d’Histoire et dont le présent récit foisonne d’anecdotes significatives, oppose sa lucidité d’esprit libre en nous promenant du siège new yorkais de l’ONU aux coulisses machiavéliennes de Riyad ou Washington, (...)
Chongqing, la ville-monde que le monde ne veut pas connaître
Première entité urbaine du monde, cette ville du sud-ouest de la Chine en est aussi la première métropole industrielle. On y fabrique voitures, motos, laptops ou encore smartphones, et on y maîtrise parfaitement l’intelligence artificielle. Si un mur d’ignorance sépare l’Occident de Chongqing, et aussi un peu de sinophobie, la (...)
Le vaccin ARN pourrait être à l’origine du Covid long
Une étude de l’Université de Yale révèle que la vaccination contre le Covid-19 pourrait provoquer des symptômes similaires à ceux d’un Covid long. Si les preuves semblent convaincantes et pourraient modifier la réflexion sur ces produits, elles ne sont toutefois pas encore reconnues par les autorités de santé publique.
La RTS jamais à court de poil à gratter
Du haut de sa sérénité autosuffisante, la radio-télévision suisse n’en a que faire de son public.
IA: faut-il l’adorer, la détester ou en profiter?
Ils pleuvent, ils pleuvent, les milliards… Trump en promet 500, Macron 109, von der Leyen 200! Puisés on ne sait où mais tout est bon pour la déesse aux mille visages, cette insaisissable intelligence artificielle. Et nous, pauvres ignares, devons-nous y toucher? Jusqu’à quel point? Expérience.
