Un fantôme dans la machine: quand l’IA effraie ses propres concepteurs
via Unsplash
LaMDA (pour «language model for dialogue applications») est un projet encore en gestation chez Google, et son utilisation est très limitée. Le programme, qui semble avoir l’apparence d’une interface de messagerie classique, avec des bulles bleues et blanches de part et d’autre de l’écran, soit un «chatbot», est destiné à terme à remplacer la désormais incontournable fonction «recherche» de Google. Le géant américain de la tech s’engage toujours plus résolument dans la recherche et le développement de programmes reposant sur l’intelligence artificielle. En témoigne une démonstration de LaMDA par le PDG d’Alphabet (la maison-mère de Google), au cours de laquelle ce dernier a demandé à l’application de parler avec «la voix de Pluton» et de raconter quelques détails sur cette ex-planète.
«Si je n’avais pas su de quoi il s’agissait vraiment, c’est-à-dire ce programme informatique que nous avons récemment conçu, j’aurais pu croire que je m’adressais à un enfant de 7 ou 8 ans qui serait spécialement calé en physique.» Ce qui a piégé Blake Lemoine, c’est précisément l’apparente intelligence des réponses fournies par l’application. Car les programmes conçus pour ressembler à l’intelligence et au comportement humains abusent de notre capacité d’empathie, prévient la professeure de linguistique à l’université de Washington Emily Bender.
Le problème, développe-t-elle, c’est qu’il nous est très difficile de ne pas réagir face à un «chatbot» (un robot parlant ou écrivant des messages) comme nous le ferions face à une personne. «Il peut sembler que, lorsque nous comprenons le discours d’autrui, nous ne faisons que décoder des messages. En fait, notre capacité à comprendre les actes de communication des autres consiste essentiellement à imaginer leur point de vue, puis à déduire ce qu’ils ont l’intention de communiquer à partir des mots qu’ils ont utilisés. Ainsi, lorsque nous rencontrons un texte apparemment cohérent provenant d’une machine, nous appliquons cette même approche pour lui donner un sens: nous imaginons par réflexe qu’un esprit a produit ces mots avec une certaine intention de communication.»
Selon tout vraisemblance, avance Emily Bender, les réponses fournies par LaMDA proviennent d’une quantité énorme de texte moissonnée sur internet, sans aucun contrôle de qualité sur les données ni les sources. Cela conduit fréquemment à des «ratés» très médiatisés. LaMDA, comme d’autres applications d’intelligence artificielle auparavant, s’est ainsi rendu coupable de conseils médicaux contre-productifs et dangereux, ou de propos racistes. A l’heure actuelle, Google n’a pas fourni d’explications sur l’origine exacte des sources utilisées.
Puisque l’ambition affichée de la firme américaine est «d’organiser l’information à l’échelle mondiale», poursuit la spécialiste, nous avons tout intérêt à ne pas demeurer passifs face aux progrès fulgurants de l’intelligence artificielle. «Nous voulons plus de transparence sur le fonctionnement de ces programmes», réclame la linguiste. Nous devons prendre conscience de ce qu’est l’intelligence (et le langage) humains; et apprendre et intégrer la différence, sinon nous prenons le risque d’être trompés, de nous laisser aveugler par notre confiance et notre empathie.
En tout état de cause, l’imitation par la machine du comportement humain est une ligne rouge à ne pas franchir, selon nombre de spécialistes. Confrontés à l’inquiétante étrangeté d’une altérité artificielle, nous perdons la notion de ce qui est propre à notre nature, nous en venons à imaginer un fantôme dans la machine.
Lire l’article original.
À lire aussi
Les non-dits du monde multipolaire
Le nouveau contexte mondial en pleine reconfiguration se situe non seulement dans un espace à comprendre, mais aussi dans un temps particulier à reconnaître.
Timides, audacieux, anxieux… les poissons, aussi, ont une personnalité
Si vous pensiez que ce qui ressemble le plus à un bar est un autre bar, détrompez-vous, chaque individu a sa propre personnalité, et la recherche décortique ces traits pour mieux les comprendre et pour améliorer le bien-être des animaux.
IA générative et travail: libération ou nouvelle aliénation?
L’avènement de l’intelligence artificielle, en particulier les modèles génératifs comme ChatGPT, semble annoncer une importante transformation de l’économie mondiale. Plus en profondeur, elle questionne le sens même du travail et de notre humanité. Tour d’horizon des enjeux humains, environnementaux et éducatifs de cette révolution numérique.
Intelligence artificielle: quelle place pour la liberté de la presse et le quatrième pouvoir?
Exercer son esprit critique alors que les promesses de facilité et de rapidité des systèmes d’IA nous invitent à l’endormir et à la paresse intellectuelle devient une nécessité vitale pour chacun d’entre nous. S’interroger sur ce que fait l’IA à la presse et aux médias est tout aussi impératif. Cela (...)
Economie de la connaissance: un tournant éthique pour notre temps?
L’interconnexion mondiale a transformé l’économie. La valeur ne se crée plus seulement par les ressources ou la force de travail, mais par des systèmes qui apprennent, s’adaptent et utilisent l’information de manière intelligente. Autrement dit savoir apprendre, relier, contextualiser, interpréter, transmettre et créer du sens utilisable dans un environnement complexe. (...)
Dossier médical et soins informatisés, la grande soumission
Les douze hôpitaux du canton de Vaud (Suisse) ont attribué à Epic Systems Corporation le remplacement du dossier patient informatisé. Derrière les arguments d’efficacité avancés pour justifier ce choix technique et organisationnel, l’opacité des coûts et la dépendance croissante aux solutions d’intelligence artificielle laissent présager une maîtrise toujours plus incertaine (...)
Quand l’innovation vous pousse à mourir
L’innovation est devenue un impératif de survie plus qu’un moteur de progrès. Aucun dirigeant n’incarne mieux cette tension qu’Elon Musk, dont l’écosystème, mêlant voitures, satellites, robots et IA, fonctionne comme une machine à repousser l’effondrement et où chaque avancée devient une dette envers la suivante. Un cas d’école pour comprendre (...)
Les réseaux technologiques autoritaires
Une équipe de chercheurs met en lumière l’émergence d’un réseau technologique autoritaire dominé par des entreprises américaines comme Palantir. À travers une carte interactive, ils dévoilent les liens économiques et politiques qui menacent la souveraineté numérique de l’Europe.
80 ans de l’ONU: le multilatéralisme à l’épreuve de l’ère algorithmique
L’Organisation des Nations unies affronte un double défi: restaurer la confiance entre Etats et encadrer une intelligence artificielle qui recompose les rapports de pouvoir. Une équation inédite dans l’histoire du multilatéralisme. La gouvernance technologique est aujourd’hui un champ de coopération — ou de fracture — décisif pour l’avenir de l’ordre (...)
Compétences indispensables et professions émergentes pour un futur responsable avec l’IA
L’Histoire éclaire le présent et préfigure les futurs possibles. Les conférences de Macy (1946 1953) montrent comment le dialogue entre disciplines comble les angles morts de la connaissance et pose les bases de l’intelligence artificielle. Des enseignements essentiels pour guider l’utilisation responsable de celle-ci dans un monde où tout s’influence (...)
Comment naviguer dans un monde en perpétuelle mutation
Dans un océan d’informations, nos choix dépendent moins de ce que nous savons que de notre capacité à relier et organiser nos connaissances. Entre philosophie, psychologie et intelligence artificielle, découvrez comment naviguer dans un monde qui se reconfigure sans cesse afin de tirer parti du chaos et transformer l’incertitude en (...)
L’histoire des épidémies reste entourée de mystères et de fantasmes
Les virus n’ont pas attendu la modernité pour bouleverser les sociétés humaines. Dans un livre récent, les professeurs Didier Raoult et Michel Drancourt démontrent comment la paléomicrobiologie éclaire d’un jour nouveau l’histoire des grandes épidémies. De la peste à la grippe, du coronavirus à la lèpre, leurs recherches révèlent combien (...)
Des risques structurels liés à l’e-ID incompatibles avec des promesses de sécurité
La Confédération propose des conditions d’utilisation de l’application Swiyu liée à l’e-ID qui semblent éloignées des promesses d’«exigences les plus élevées en matière de sécurité, de protection des données et de fiabilité» avancées par l’Administration fédérale.
Quand l’IA gagne en puissance, la philosophie gagne en nécessité
A l’heure où les machines imitent nos mots, nos gestes et nos doutes, la frontière entre intelligence artificielle et intelligence humaine se brouille. L’IA, miroir de nos structures mentales, amplifie nos forces autant que nos dérives. Face à cette accélération, la philosophie s’impose: elle éclaire les liens, les contextes, les (...)
La stratégie de Netanyahu accélère le déclin démocratique d’Israël
Le quotidien israélien «Haaretz» explique comment l’ancien Premier ministre Naftali Bennett met en garde les forces de sécurité et les fonctionnaires contre une possible manipulation du calendrier électoral et la mainmise de Netanyahu sur l’appareil sécuritaire.
Superintelligence américaine contre intelligence pratique chinoise
Alors que les États-Unis investissent des centaines de milliards dans une hypothétique superintelligence, la Chine avance pas à pas avec des applications concrètes et bon marché. Deux stratégies opposées qui pourraient décider de la domination mondiale dans l’intelligence artificielle.
