La mini-série « Alter Ego », sur TVE, discute des visions utopiques et apocalyptiques de l'intelligence artificielle.
EspagneIl est peut-être vrai que cela nous sauvera ou nous asservira, mais la troisième voie est plus convaincante, celle des pragmatiques qui veulent prévenir dès maintenant leurs abus.
En attendant, il est audacieux de soutenir que ce que font aujourd’hui les machines, c’est penser, même si l’IA progresse très rapidement. Pour l’instant, il nous reste à réfléchir, ce que certains font avec plus de brio que d’autres. La mini-série documentaire Alter Ego. L'Intelligence Invisible rassemble, en trois chapitres, les esprits humains qui comprennent et expliquent le mieux ce qui existe déjà et ce qui arrivera dans la prochaine décennie avec l'IA. Le plus révolutionnaire, pour le meilleur ou pour le pire.
Réalisé par Beatriz Pérez de Vargas et présenté en première sur RTVE Play avant sa prochaine diffusion sur La 2, Alter Ego fait dialoguer deux puissants courants de pensée sur les machines pensantes : l'utopique et le catastrophique. Deux présentateurs se penchent chacun sur chaque tendance. Almudena Ariza (quand aura-t-elle fait cela, si nous la voyons tous les jours en Ukraine, en Israël ou en Palestine ?) cherche des voix qui nous calment et nous excitent, car elles croient que l'IA va nous sauver du cancer et de la crise climatique. , cela nous libérera des travaux ennuyeux et cela nous donnera plus de temps libre ; Cela améliorera notre vie, qui sera très longue. Carles Tamayo, quant à lui, rend visite aux pessimistes : l'IA se plongera dans la surveillance de masse, répandra des canulars et des mensonges, rendra le débat public plus toxique, sera utilisée pour la guerre et la répression (jusqu'à présent, rien qui ne se passe déjà), mais elle cela nous enlèvera également nos emplois et notre pouvoir, et à la fin, nous, les humains, serons laissés dans le caniveau, nous serons superflus, à l'exception de cette super élite qui gère le nouveau hangar. Chaque chapitre se situe sur un plan temporel : le premier raconte ce qui se passe déjà, les deux autres nous emmènent vers ce qui est attendu en 2028 et 2033, et chacun est plus intéressant et inquiétant que le précédent.
L'ingénieur et chercheuse Nuria Oliver explique très bien les péchés que commettent déjà les algorithmes : le manque de véracité (canulars et deep fake) , le manque de diversité (que Netflix nous recommande toujours le même type de séries, que Facebook et nous enferme dans des politiques bulles), le manque de transparence (l'IA nous donne une réponse, mais on ne comprend jamais d'où elle vient) et l'énorme accumulation de pouvoir dans une poignée d'entreprises. Le débat qui est déjà là est de savoir comment introduire l'éthique dans les machines froides, comment garantir que leurs critères répondent à nos valeurs. Cela passe bien sûr par la régulation, qui commence à prendre des mesures, plus décisives en Europe qu'aux Etats-Unis ; Il est plus difficile de comprendre ce que la Chine prévoit à cet égard.
Nous entendons des idées très nouvelles. Peut-être que la formation technique n’aura plus autant d’importance dans un avenir proche : tout ce qui est technique sera réalisé par des machines, et ce dont les humains auront le plus besoin, c’est d’une pensée critique. Une personne sans grande formation sera capable d’accomplir des tâches actuellement réservées aux scientifiques. Mais il y a des craintes que nous n'avions pas encore eues et elles apparaissent ici : et si quelqu'un pouvait fabriquer une bombe nucléaire dans son jardin ? L'avenir de l'emploi est un autre des grands débats : certains voient venir une extermination massive d'emplois ; D’autres prédisent une époque plus équilibrée entre travail et loisirs, ce qui nous laissera plus d’espace pour interagir avec les humains, qui commencent déjà à se raréfier.
Bien sûr, même l’utopie peut tourner au cauchemar. Plusieurs experts spéculent sur ce que sera l’Intelligence Générale Artificielle. Peut-être alors abandonnerons-nous et lui donnerons-nous le pouvoir politique, convaincus qu’il fera mieux que nos autorités améliorables. Attention : on aurait mis fin à la démocratie, ce serait une véritable technocratie. Pour Antonio Torralba, chercheur au MIT, il n'est pas nécessaire d'aller aussi loin : les intelligences artificielles ne sont peut-être pas de bons leaders politiques, dit-il, mais elles seront d'excellents conseillers. Il y a aussi ceux qui pensent qu’il ne faut pas craindre cette dernière étape, du conseil à la direction. Que nous déléguerons les décisions à l'IAG et qu'elle nous convaincra qu'elle le fait mieux jusqu'à ce qu'elle les prenne toutes. Il se peut que certains pays le fassent plus tôt (les autoritaires ont la tâche plus facile) et que leur succès entraîne les autres vers le bas.
José Ignacio Latorre, physicien quantique qui travaille sur les réseaux de neurones, préfère imaginer qu'il y aura plusieurs superintelligences et non une seule toute-puissante. Mais même ainsi, des relations de dépendance encore plus grandes que celles actuelles se créeront entre les pays les plus avancés et les autres. « Lorsque les humains ont découvert l’anesthésie, personne ne voulait retourner au XIIe siècle et avoir un véritable mal de dents. Lorsque l’IA vous facilitera la vie, vous ne voudrez plus vous en séparer. Vous ne verrez pas le danger qu'il contient », dit-il. Une phrase qui dérange : « J’ai vu comment tout ce que je pensais a été surmonté. »
Tout ce que nous entendons n’entre pas dans ces catégories utopique et apocalyptique. Parmi tant d’annonces d’avenirs proches de la science-fiction, la troisième voie, celle des pragmatiques, semble sensée. Ce sont eux qui croient qu’il y aura des avancées importantes, certes, mais il vaut mieux se concentrer aujourd’hui sur les abus qui sont déjà commis. La mathématicienne Cathy O'Neil est l'une des plus lucides : « L'erreur est de penser que l'IA est consciente d'elle-même, alors qu'elle a toujours été créée et utilisée par des humains contre d'autres humains. La singularité est un terme marketing pour que les propriétaires de cette technologie n'assument aucune responsabilité. "Cette théorie du complot nous détourne des vrais problèmes."
Peut-être que Sam Altman suscite des attentes excessives qui enthousiasment ses investisseurs. Même si c’est le cas, cela ne veut pas dire que des choses extraordinaires ne se produiront pas. L’intelligence artificielle sera si envahissante, à tous les niveaux de la bureaucratie et de nos activités, que nous ne pourrons pas y résister. Le dernier jouet sera donc un bond en avant par rapport au technocapitalisme ou au capitalisme de surveillance, ce modèle basé sur l’extraction massive de nos données pour faire des affaires avec elles, c’est-à-dire avec nous. Nous faisons cela depuis quelques décennies maintenant. Cela va s'accélérer. Attachez les ceintures.
Réalisé par Beatriz Pérez de Vargas et présenté en première sur RTVE Play avant sa prochaine diffusion sur La 2, Alter Ego fait dialoguer deux puissants courants de pensée sur les machines pensantes : l'utopique et le catastrophique. Deux présentateurs se penchent chacun sur chaque tendance. Almudena Ariza (quand aura-t-elle fait cela, si nous la voyons tous les jours en Ukraine, en Israël ou en Palestine ?) cherche des voix qui nous calment et nous excitent, car elles croient que l'IA va nous sauver du cancer et de la crise climatique. , cela nous libérera des travaux ennuyeux et nous donnera plus de temps libre ; Cela améliorera notre vie, qui sera très longue. Carles Tamayo, quant à lui, rend visite aux pessimistes : l'IA se plongera dans la surveillance de masse, répandra des canulars et des mensonges, rendra le débat public plus toxique, sera utilisée pour la guerre et la répression (jusqu'à présent, rien qui ne se passe déjà), mais elle cela nous enlèvera également nos emplois et notre pouvoir, et à la fin, nous, les humains, serons laissés dans le caniveau, nous serons superflus, à l'exception de cette super élite qui gère le nouveau hangar. Chaque chapitre se situe sur un plan temporel : le premier raconte ce qui se passe déjà, les deux autres nous emmènent vers ce qui est attendu en 2028 et 2033, et chacun est plus intéressant et inquiétant que le précédent.
L'ingénieur et chercheuse Nuria Oliver explique très bien les péchés que commettent déjà les algorithmes : le manque de véracité (canulars et deep fake) , le manque de diversité (que Netflix nous recommande toujours le même type de séries, que Facebook et nous enferme dans des politiques bulles), le manque de transparence (l'IA nous donne une réponse, mais on ne comprend jamais d'où elle vient) et l'énorme accumulation de pouvoir dans une poignée d'entreprises. Le débat qui est déjà là est de savoir comment introduire l'éthique dans les machines froides, comment garantir que leurs critères répondent à nos valeurs. Cela passe bien sûr par la régulation, qui commence à prendre des mesures, plus décisives en Europe qu'aux Etats-Unis ; Il est plus difficile de comprendre ce que la Chine prévoit à cet égard.
Nous entendons des idées très nouvelles. Peut-être que la formation technique n’aura plus autant d’importance dans un avenir proche : tout ce qui est technique sera réalisé par des machines, et ce dont les humains auront le plus besoin, c’est d’une pensée critique. Une personne sans grande formation sera capable d’accomplir des tâches actuellement réservées aux scientifiques. Mais il y a des craintes que nous n'avions pas encore eues et elles apparaissent ici : et si quelqu'un pouvait fabriquer une bombe nucléaire dans son jardin ? L'avenir de l'emploi est un autre des grands débats : certains voient venir une extermination massive d'emplois ; D’autres prédisent une époque plus équilibrée entre travail et loisirs, ce qui nous laissera plus d’espace pour interagir avec les humains, qui commencent déjà à se raréfier.
Bien sûr, même l’utopie peut tourner au cauchemar. Plusieurs experts spéculent sur ce que sera l’Intelligence Générale Artificielle. Peut-être alors abandonnerons-nous et lui donnerons-nous le pouvoir politique, convaincus qu’il fera mieux que nos autorités améliorables. Attention : on aurait mis fin à la démocratie, ce serait une véritable technocratie. Pour Antonio Torralba, chercheur au MIT, il n'est pas nécessaire d'aller aussi loin : les intelligences artificielles ne sont peut-être pas de bons leaders politiques, dit-il, mais elles seront d'excellents conseillers. Il y a aussi ceux qui pensent qu’il ne faut pas craindre cette dernière étape, du conseil à la direction. Que nous déléguerons les décisions à l'IAG et qu'elle nous convaincra qu'elle le fait mieux jusqu'à ce qu'elle les prenne toutes. Il se peut que certains pays le fassent plus tôt (les autoritaires ont la tâche plus facile) et que leur succès entraîne les autres vers le bas.
José Ignacio Latorre, physicien quantique qui travaille sur les réseaux de neurones, préfère imaginer qu'il y aura plusieurs superintelligences et non une seule toute-puissante. Mais même ainsi, des relations de dépendance encore plus grandes que celles actuelles se créeront entre les pays les plus avancés et les autres. « Lorsque les humains ont découvert l’anesthésie, personne ne voulait retourner au XIIe siècle et avoir un véritable mal de dents. Lorsque l’IA vous facilitera la vie, vous ne voudrez plus vous en séparer. Vous ne verrez pas le danger qu'il contient », dit-il. Une phrase qui dérange : « J’ai vu comment tout ce que je pensais a été surmonté. »
Tout ce que nous entendons n’entre pas dans ces catégories utopique et apocalyptique. Parmi tant d’annonces d’avenirs proches de la science-fiction, la troisième voie, celle des pragmatiques, semble sensée. Ce sont eux qui croient qu’il y aura des avancées importantes, certes, mais il vaut mieux se concentrer aujourd’hui sur les abus qui sont déjà commis. La mathématicienne Cathy O'Neil est l'une des plus lucides : « L'erreur est de penser que l'IA est consciente d'elle-même, alors qu'elle a toujours été créée et utilisée par des humains contre d'autres humains. La singularité est un terme marketing pour que les propriétaires de cette technologie n'assument aucune responsabilité. "Cette théorie du complot nous détourne des vrais problèmes."
Peut-être que Sam Altman suscite des attentes excessives qui enthousiasment ses investisseurs. Même si c’est le cas, cela ne veut pas dire que des choses extraordinaires ne se produiront pas. L’intelligence artificielle sera si envahissante, à tous les niveaux de la bureaucratie et de nos activités, que nous ne pourrons pas y résister. Le dernier jouet sera donc un bond en avant par rapport au technocapitalisme ou au capitalisme de surveillance, ce modèle basé sur l’extraction massive de nos données pour faire des affaires avec elles, c’est-à-dire avec nous. Nous faisons cela depuis quelques décennies maintenant. Cela va s'accélérer. Attachez les ceintures