Archive d’étiquettes pour : Kate Crawford & Vladan Joler

IA : illusions des algorithmes

L’exposition « AI – Algorytmy Iluzji » (illusions des algorithmes), qui se déroule jusqu’au 12 juillet au centre culturel Zamek de Poznań en Pologne, invite à examiner l’intelligence artificielle d’un œil critique, en tant que phénomène culturel, politique et artistique, au travers de pièces et installations de Cécile Babiole, Kate Crawford, Weronika Gęsicka, Paweł Janicki, Przemysław Jasielski, Vladan Joler, Jarosław Klupś, Jakub Koźniewski, Agnieszka Kurant, Anna Malinowska, Trevor Paglen, Anna Ridler, RYBN.ORG, Joanna Żylińska

Il n’existe pas une seule forme d' »intelligence artificielle ». Ce terme englobe une variété de systèmes algorithmiques, tels que l’apprentissage automatique, le traitement automatique du langage naturel, les systèmes experts et la vision par ordinateur, qui automatisent la détection, la reconnaissance, la classification, la prédiction, l’analyse et la génération de données.

Le lancement du chatbot génératif GPT-3.5 en 2022, qui a conquis plus d’un million d’utilisateurs en cinq jours, a marqué une avancée majeure dans la conscience collective et a ouvert un nouveau chapitre de la riche histoire de l’IA.

Cependant, l’histoire de l’intelligence artificielle est bien plus longue que celle des grands modèles de langage. Parmi ses figures emblématiques figurent Ada Lovelace et Alan Turing, dont les parcours sont évoqués dans l’exposition. Aujourd’hui, l’intelligence artificielle est au cœur de nombreux débats sociaux, scientifiques et artistiques, alimentant des récits extrêmes où les visions optimistes se confrontent à la puissance des idées pessimistes.

Bien que les systèmes d’IA soient désormais largement disponibles et utilisés, leur utilisation ne s’accompagne pas toujours d’une compréhension de leur fonctionnement, de leur processus de création et de leur nature même. En ce sens, l’intelligence artificielle semble fonctionner dans l’imaginaire collectif comme un chapeau de magicien.

On y dépose quelques ingrédients – commandes, instructions – dans un cylindre noir impénétrable – une application ou un programme – pour entrevoir un véritable « lapin blanc » ou la réponse à une question restée secrète même pour nos proches. C’est pourquoi on parle de la « boîte noire de la technologie », opaque à la vue et à la cognition humaines. Derrière l’illusion qui séduit nos sens se cachent des instructions plus ou moins complexes : des algorithmes.

L’exposition « IA – Illusions des algorithmes » nous invite à lever le voile sur cette boîte et à révéler les illusions du monde numérique à travers l’art contemporain. Nous souhaitons nous inciter à réfléchir aux enjeux sociaux, politiques, économiques et environnementaux de l’intégration de l’IA dans différents domaines de notre vie : l’éducation, le commerce, le travail et, en fin de compte, l’art lui-même.

Nous comprenons les illusions évoquées dans le titre comme les mécanismes plus ou moins occultes de la technologie et les récits qui l’entourent, produits par l’industrie et supervisés par les autorités. L’exposition ne s’intéresse pas à l’intelligence artificielle en tant que technologie en soi, qui fascine et émerveille. Elle se consacre à une réflexion critique sur l’IA comme phénomène culturel et composante d’un ordre social plus vaste.

Un examen attentif des entrailles de la « boîte noire » révèle un enchevêtrement chaotique de câbles, de fils et de puces installés par l’homme et servant des objectifs précis. Ceci nous permet de présenter l’IA non seulement comme une technologie dématérialisée, mais aussi comme une infrastructure matérielle composée de câbles sous-marins, de minéraux extraits de la Terre, de systèmes de transmission et de centres de données.

Comme l’écrit Kate Crawford dans « Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence », « l’IA n’est ni artificielle ni intelligente, ni abstraite ni autonome. Elle est plutôt incarnée et matérielle, produite à partir de ressources naturelles, de combustibles, de travail humain, d’infrastructures, de logistique, d’histoire et de classification ». Elle fait également partie de l’ordre socio-politique dans lequel nous évoluons.

Mais que signifie être humain dans un monde où l’intelligence artificielle est en constante évolution ? Quels sont les coûts environnementaux de son développement ? Que voient les algorithmes, comment les perçoivent-ils et peut-on leur faire confiance ? Enfin, comment l’IA influence-t-elle l’art et sa réception ? […]

Comme le soutient Joanna Żylińska, le concept d’intelligence artificielle repose précisément sur l’artifice, dont l’origine latine (artificium) signifie bien plus que tromperie et duplicité. Il renvoie à l’art, au savoir-faire et à l’habileté. C’est précisément sur ces aspects que nous nous concentrerons tout au long de l’exposition. […]

Les œuvres présentées dans cette exposition nous guident à travers les thèmes qui dominent le débat actuel sur l’IA, organisés autour de notions telles que « pouvoir », « effort », « connaissance », « liens » et « imagination ». Les « capsules temporelles » qui les accompagnent rassemblent des éléments illustrant les liens étroits entre passé et présent, inscrivant les processus actuels dans une perspective historique plus large…

(curatorial statement)

> Exposition « AI – Algorytmy Iluzji » (Illusions des algorithmes)
> du 21 mars au 12 juillet, Centrum Kultury Zamek, Poznań (Pologne)
> https://ckzamek.pl/

Détection, analyse, surveillance, reproduction, algorithme, génération… À la lecture de ces mots qui défilent sur la vidéo de présentation de l’exposition Le Monde selon l’IA, qui se tient au Jeu de Paume à Paris, on se surprend à se demander quel aurait pu être le regard sur l’intelligence artificielle de certains de nos maîtres à penser du siècle dernier comme Michel Foucault par exemple.

Taller Estampa, What do you see, YOLO9000? Photo: © Taller Estampa,.

Au travers d’œuvres « anciennes » par rapport au sujet, c’est-à-dire pour certaines datant d’une dizaine d’années, et d’autres inédites, cette exposition fait le point sur les deux principaux protocoles de l’IA. D’une part l’IA analytique, qui analyse et organise des masses de données complexes, d’autre part, l’IA générative capable de produire de nouvelles images, sons et textes. Mais sur l’ensemble, c’est surtout l’image, parfois horrifique, qui est centrale.

L’émergence de l’informatique puis l’omniprésence d’Internet ont déjà changé radicalement les pratiques artistiques, permettant aussi d’explorer de nouvelles formes créatives. L’IA marque encore une autre étape dans ce bouleversement des processus créatifs entraînant aussi la redéfinition des frontières de l’art. Plus largement, c’est tout notre rapport au monde qui se transforme avec l’IA ; une évidence qui transparaît aussi au travers des œuvres exposées.

Taller Estampa, What do you see, YOLO9000? Photo: © Taller Estampa,.

Avec Metamorphism, une concrétion où se fondent divers composants électroniques (cartes-mères, disques durs, barrettes de mémoire, etc.), Julian Charrière réinscrit les technologies du numérique dans leur matérialité en jouant ainsi sur leur dimension « géologique ». Autre préambule sous forme de rappel historique : Anatomy of an AI system et Calculating Empires de Kate Crawford & Vladan Joler. Deux diagrammes impressionnants dans lequel notre regard se perd, et qui retracent sur 500 ans la généalogie des multiples avancées scientifiques, inventions techniques et révolutions socio-culturelles qui préludent aux technologies actuelles.

En retrait, comme pour chaque partie de l’espace d’exposition, on peut découvrir un « complément d’objets » : appareils anciens, dessins, reproductions, livres (tiens, un Virilio sous vitrine…), maquette, etc. Des « capsules temporelles » qui accentuent encore le chemin parcouru par progrès technique et de la supplantation de ces anciens artefacts par le numérique…

Kate Crawford & Vladan Joler, Calculating Empires. Photo : D.R.

Avec Trevor Paglen, nous plongeons au cœur du problème que peut poser l’IA analytique notamment avec les procédures de reconnaissance faciale. Son installation vidéo, Behold These Glorious Times!, nous montre la vision des machines. En forme de mosaïque, on voit se succéder à un rythme effréné une avalanche d’images (objets, silhouettes, visages, animaux, etc.) qui servent pour l’apprentissage des IA…

Une autre installation vidéo interactive de Trevor Paglen, Faces Of ImageNet, capture le visage du spectateur qui se retrouve dans une immense base de données. Son « identité » est ensuite classifiée, catégorisée après être passée au crible d’algorithmes qui révèlent de nombreux préjugés (racisme, etc.). Ces biais sont aussi dénoncés d’une autre manière par Nora Al- Badri (Babylonian Vision) et Nouf Aljowaysir (Salaf). Une préoccupation également partagée par Adam Harvey avec son projet de recherche (Exposing.ai) autour des images « biométriques ».

Trevor Paglen, Faces Of ImageNet. Photo : D.R.

Hito Steyerl propose également une installation vidéo, spécialement conçue pour l’exposition, qui rappelle que l’homme n’a pas (encore) complètement disparu dans cet apprentissage des machines. Cette œuvre est intitulée Mechanical Kurds en référence au fameux « Turc mécanique », cet automate joueur d’échec du XVIIIe siècle qui cachait en réalité un vrai joueur humain. La vidéo montre « les travailleurs du clic », en l’occurrence des réfugiés au Kurdistan, qui indexent à la chaîne des images d’objets et de situations, contribuant à l’entraînement de véhicules sans pilotes ou de drones…

Même sujet et objectif pour les membres du studio Meta Office (Lea Scherer, Lauritz Bohne et Edward Zammit) qui dénoncent cet esclavage numérique dans la série Meta Office: Behind the Screens of Amazon Mechanical Turks (le pire étant sans doute que la plateforme de crowdsourcing du célèbre site de vente en ligne s’appelle bien comme ça…). Agnieszka Kurant s’intéresse aussi à ces « fantômes », ces ghost-workers basés dans ce que l’on appelle désormais le Sud Global, en les rendant visibles au travers d’un portrait composite (Aggregated Ghost).

Meta Office, Behind the Screens of Amazon Mechanical Turks. Capture d’écran. Photo: D.R.

Theopisti Stylianou-Lambert et Alexia Achilleos se penchent également sur d’autres travailleurs invisibles : ceux qui ont contribué aux grandes campagnes de fouilles menées par les archéologues occidentaux au XIXe siècle. Le duo d’artistes leur donnent symboliquement un visage à partir d’images générées par des GANs sur la base d’archives photographiques d’expéditions conduites à Chypre (The Archive of Unnamed Workers). Dans une autre optique, Egor Kraft présente une série d’objets archéologiques « fictifs », c’est-à-dire des sculptures et frises antiques (re)constituées en 3D à partir de fragments grâce à une IA générative (Content Aware Studies). Ce procédé, depuis longtemps utilisé par les scientifiques, déborde ici son champ d’application premier.

Toujours grâce à l’IA générative et un réseau neuronal, Justine Emard propose des sculptures et des nouvelles images inspirées des dessins immémoriaux de la grotte Chauvet (Hyperphantasia, des origines de l’image). Grégory Chatonsky explore toujours les émotions, les perceptions et les souvenirs au travers d’une installation intriguante et funèbre, véritable cénotaphe qui mélange textes, images et sons transformés en statistiques dans les espaces latents des IA (La Quatrième Mémoire). De son côté, Samuel Bianchini « ré-anime » les pixels d’un cimetière militaire. Il s’agit de la troisième version de Prendre vie(s). Une animation née d’une simulation mathématique appelée « jeu de la vie » qui engendre des « automates cellulaires » qui développant des capacités sensorimotrices non programmées.

Grégory Chatonsky, La Quatrième Mémoire. Photo: D.R.

Julien Prévieux continue de jouer sur et avec les mots. L’IA ou, plus exactement, les failles et les dysfonctionnements cachés des grands modèles de langage (LLM) comme ChatGPT ou LLaMA, lui permettent de composer des textes et diagrammes vectorisés, des poèmes visuels que l’on découvre dans l’escalier reliant les 2 niveaux de l’exposition ; ainsi que des œuvres sonores, des poèmes lus ou chantés à partir de boucles et d’extraits de contenus collectés pour entraîner les chatbots (Poem Poem Poem Poem Poem). Comme le précise Julien Prévieux : dans cette nouvelle forme de poésie concrète, les directions vers le haut s’additionnent pour nous mener vers le bas, et le mot « erreur » contient définitivement un « o » et deux « r »

Julien Prévieux, Poem Poem Poem Poem Poem. Photo : D.R.

Il est aussi question de poésie générative avec David Jhave Johnston. Initié en 2016, son projet ReRites fait figure de pionnier en la matière. À l’aide de réseaux neuronaux personnalisés et réentraînés périodiquement sur 600 000 vers, un programme crée des poèmes que David Jhave Johnston améliore et réinvente lors de rituels matinaux de coécriture. Cette démarche, mêlant IA et créativité humaine, a donné lieu à une publication en douze volumes et à une installation vidéo. Les textes sont aussi disponibles gratuitement en format .txt; .epub et .mobi sous license Creative Commons.

Sasha Stiles préfère parler de « poétique technologique » pour qualifier son poème coécrit avec Technelegy, un modèle de langage conçu à partir de la version davinci de GPT-3, et calligraphié par le robot Artmatr (Ars Autopoetica). Le collectif Estampa joue aussi sur les mots en utilisant des LED pour afficher des textes générés par des modèles d’IA générative et mettre en lumière leur logique récursive ainsi que leur tendance à la répétition délirante (Repetition Penalty).

Laurent Diouf

Samuel Bianchini, Prendre vie(s), 3e version. Photo : D.R.

> Le Monde Selon l’IA
> exposition avec Nora Al-Badri, Nouf Aljowaysir, Jean-Pierre Balpe, Patsy Baudoin et Nick Montfort, Samuel Bianchini, Erik Bullot, Victor Burgin, Julian Charrière, Grégory Chatonsky, Kate Crawford et Vladan Joler, Linda Dounia Rebeiz, Justine Emard, Estampa, Harun Farocki, Joan Fontcuberta, Dora Garcia, Jeff Guess, Adam Harvey, Holly Herndon et Mat Dryhurst, Hervé Huitric et Monique Nahas, David Jhave Johnston, Andrea Khôra, Egor Kraft, Agnieszka Kurant, George Legrady, Christian Marclay, John Menick, Meta Office, Trevor Paglen, Jacques Perconte, Julien Prévieux, Inès Sieulle, Hito Steyerl, Sasha Stiles, Theopisti Stylianou-Lambert et Alexia Achilleos, Aurece Vettier, Clemens von Wedemeyer, Gwenola Wagon…

> du 11 avril au 21 septembre, Jeu de Paume, Paris
> https://jeudepaume.org/