L’IA nous prend en charge et choisit pour nous… à quel prix ? Le président d’Arte France, auteur du livre Le temps de l’obsolescence humaine, répond à David Abiker
Votre essai paru chez Grasset s’intitule Le Temps de l’obsolescence humaine. Qu’entendez-vous par là ? Habituellement, on parle de l’obsolescence programmée d’une machine à laver.
BRUNO PATINO : C’est à la fois un hommage et une référence à Günther Anders, qui avait écrit L’Obsolescence de l’homme il y a presque 60 ans, et qui se posait la question de l’impact de la technique sur la nature humaine. Il y a cette référence, et le jeu de mots avec l’obsolescence programmée. Ce qui m’a intéressé, comme toujours, c’est l’impact des technologies sur nos vies.
Nous sommes dans un moment paradoxal : d’un côté, un discours qui proclame soit le dépassement de l’homme, soit sa fin, avec cette fameuse intelligence artificielle générale ou super-intelligence artificielle ; de l’autre, on ne voit pas que nos vies changent déjà, parce qu’on commence à adopter ces nouveaux « amis », ces agents d’intelligence artificielle. Des millions de personnes en adoptent chaque jour pour de très nombreuses tâches quotidiennes, et cet accompagnement général est en train de modifier notre rapport non seulement au monde, mais aux autres.
Vous dites ça après avoir écrit La Presse sans Gutenberg, puis un livre sur La Civilisation du poisson rouge, où vous expliquiez qu’on était dans l’instantanéité, pris par les réseaux sociaux. Quand vous dites qu’on s’accoutume à coexister avec ces intelligences artificielles, est-ce que nous changeons anthropologiquement ?
B.P. : En tout cas, nos comportements changent. Cela fait presque 25 ans que j’écris sur l’impact de la révolution numérique sur nos vies. Dans ce livre, j’essaie de synthétiser et de proposer des clés de compréhension pour l’ensemble de cette révolution numérique — une période vraiment post-Gutenberg, qui modifie énormément de choses, à la fois par la mise en relation et l’interconnexion de tous les êtres, de tous les objets, de tous les savoirs et de toutes les productions humaines, et par l’irruption de l’économie de la donnée, qui nous fragmente en permanence et commence à modifier l’économie, la société et la politique.
Bruno Patino : « Avoir en permanence l’IA comme compagnon change notre rapport aux autres et au monde »
On a vu se déployer plusieurs étapes depuis 25 ans. Une première ère, que j’appelle l’ère de l’accès, où l’interconnexion était la base première. Puis, avec l’invention du smartphone, une connexion permanente et une période de propagation, avec une très forte accélération et amplification des messages qui ont fortement modifié l’espace public. La Civilisation du poisson rouge, écrit il y a presque 8 ans, témoignait de ça — cette modification terrible de l’espace public, et l’accroissement de notre dépendance aux écrans.
Avec les intelligences artificielles aujourd’hui, cet accompagnement permanent va faire qu’il est difficile de penser que dialoguer avec des machines qui nous guident, nous proposent, nous réconfortent, et nous suggèrent des choses — que ce soit dans une carrière professionnelle, une tâche à accomplir, gérer une rupture amoureuse, gérer un deuil, une crise existentielle. Ce dialogue permanent, cette imbrication, le fait d’avoir en permanence ce compagnon-là change forcément notre rapport aux autres et au monde.
Je vais m’adresser au président d’Arte France, qui dirige une chaîne à vocation culturelle affirmée. Vous venez de décrire le programme idéal de l’individu : être confronté à des machines qui lui envoient les informations qu’il souhaite, les chansons qu’il souhaite, qui inventent quasiment pour lui des séries dont il a rêvé. Vous faites une télévision pour tous, vous essayez de créer un référentiel commun — c’est le rôle d’une télévision, a fortiori financée en partie sur fonds publics. Que va devenir la télévision si vous nous décrivez ça ?
B.P. : Vous êtes au cœur du sujet. Vous dites que c’est la machine idéale, mais est-ce vraiment la machine humainement idéale ? C’est toute la question. Elle est idéale parce que, grâce à l’économie de la donnée, elle n’apporte que les réponses faites pour vous. D’une façon ou d’une autre — c’est ce que j’appelle l’économie de la relation —, elle va vous protéger comme un cocon de ce que vous n’avez pas envie de voir, de penser, de savoir.
« L’IA devait nous rassembler, et petit à petit, elle créée une forme de solitude »
Il y a un côté positif, on peut dire que ça guidera la façon de s’informer, de se cultiver, de se divertir. Mais en vous enrobant d’une seconde peau par rapport au monde, elle va en fait vous isoler. C’est le paradoxe central de cette révolution numérique : on avait quelque chose qui devait nous rassembler, et petit à petit, ça crée une forme de solitude. Certains chercheurs appellent ça « l’épidémie de solitude ». La raison est simple : à partir du moment où tous les services sont fondés sur vos données individuelles, tout se formate pour vous, se paramètre pour vous, et donc ça fragmente tout.
On a eu un exemple avec l’information via Facebook : à force de liker des contenus informationnels, l’algorithme nous en propose d’autres qui leur ressemblent. Et c’est ce qui va arriver à notre consommation musicale. Vous dites dans le livre qu’aujourd’hui une très grande partie des plateformes musicales diffuse des musiques sans auteur, sans compositeur, dont les créateurs sont des intelligences artificielles. Ce sera pareil pour des films d’animation, des courts-métrages, voire des longs-métrages ?
B.P. : On peut l’imaginer. Nous sommes pour le moment dans le moment de la pré-bascule : cette production est quasiment majoritaire, mais l’écoute ne l’est pas encore, loin s’en faut. Ce que vous dites est central, et j’essaie de l’expliquer dans le livre. Les réseaux sociaux nous ont mis dans des « bulles de filtre » — c’est Eli Pariser qui avait popularisé la notion. Une bulle de filtre, c’est se retrouver dans une micro-communauté avec des gens qui pensent soit radicalement comme soi, soit, et on l’oublie souvent, radicalement à l’opposé. Cela a donné naissance à un débat fracturé et polarisé.
Un agent d’intelligence artificielle, lui, va vous faire dialoguer avec vous-même : l’agent, surtout ceux qui ont désormais de la mémoire et avec lesquels on peut entretenir des conversations de très longue durée, va être une version de vous-même qui discute avec vous-même. La bulle devient alors une bulle de miroir.
Il y a en ce moment un procès aux États-Unis qui oppose Elon Musk à Sam Altman, deux acteurs géants et décisifs de l’intelligence artificielle. L’enjeu, notamment, c’est la question : qui doit contrôler l’intelligence artificielle, et au profit de qui ? Avez-vous une réponse ?
B.P. : J’essaie de finir le livre avec un plaidoyer pour un univers numérique humaniste, parce que je ne crois pas au déterminisme technologique. La triple question qui se pose est : premièrement, la gouvernance des intelligences artificielles, c’est une question politique absolument centrale pour les années à venir. En tirant le fil, on arrive à la problématique de la propriété des données : bien privé, bien commun ou bien public ? Et en tirant encore le fil, on arrive à la question de la responsabilité.
A lire aussi
On aurait tort de voir en ces machines de simples outils sans système de responsabilité. Je plaide dans le livre pour une responsabilité imputative, c’est-à-dire commencer à redéfinir la notion de responsabilité imbriquée entre celui qui utilise la machine et la machine qui lui répond.
Bruno Patino, vous avez exercé des responsabilités dans l’audiovisuel public, à la radio comme à la télévision. Quand on regarde les premières conclusions de la commission d’enquête sur l’audiovisuel public, on dirait qu’elle a fait l’impasse sur l’essentiel : l’avenir de la télévision.
B.P. : La question centrale pour l’audiovisuel public ou pour tous ces médias, c’est celle que vous avez mentionnée : il nous faut des outils qui rassemblent dans un moment de fragmentation générale. Créer du commun — s’accorder sur une réalité factuelle commune, se demander si on vit tous dans le même monde et essayer d’avoir des représentations compatibles de cette réalité —, c’est là l’enjeu fondamental.
Qu’est-ce qu’on sanctuarise dans l’audiovisuel public ?
B.P. : Un principe d’organisation non-marchand. C’est ça qu’on doit sanctuariser : avoir des outils qui informent, qui cultivent et qui divertissent, et qui n’obéissent pas à un principe marchand, mais au principe politique, au sens noble du terme, d’essayer de créer du commun. Le paradoxe, c’est qu’évidemment une radio, une télévision peuvent apparaître technologiquement dépassées aujourd’hui. Il faut adapter les outils et la façon de rassembler à l’univers numérique. Mais la mission centrale, créer du commun sur des principes non-marchands, s’il y a un moment où il ne faut pas l’abandonner, c’est bien maintenant.
Retrouvez toute l’actualité Société
