Puede ser cierto que nos salvará o nos esclavizará, pero convence más la tercera vía, la de los pragmáticos que preEl documental que nos hace pensar antes de que las máquinas piensen por nosotrosfieren ir previniendo ya sus abusos

 

 

El último culebrón del sector tecnológico, el despido y readmisión de Sam Altman como consejero delegado de OpenAI, está rodeado de misterio sobre un supuesto avance sensacional hacia la Inteligencia Artificial General logrado en la compañía. Esto pondría a Altman al nivel de Oppenheimer, el inventor de la bomba atómica: sería el impulsor de algo que cambiará nuestras vidas y los equilibrios globales. La IAG, la que añadirá una G a sus siglas, también llamada superinteligencia, nos llevaría la singularidad, el momento en que la creación supera a su creador. Casi nadie piensa que eso esté tan cerca como sugiere la empresa que lanzó el aún rudimentario ChatGPT. Pero ¿ocurrirá? ¿En qué plazo?

Mientras eso llega, es atrevido sostener que lo que hacen hoy las máquinas sea pensar, aunque la IA esté dando pasos muy rápidos. Por ahora sigue haciendo falta que pensemos nosotros, lo que algunos hacen con más brillantez que otros. La miniserie documental Alter Ego. La inteligencia invisible reúne, en tres capítulos, a las mentes humanas que mejor entienden y explican lo que ya está aquí y lo que vendrá en la próxima década con la IA. Lo más rompedor, para bien o para mal.

Dirigida por Beatriz Pérez de Vargas y estrenada en RTVE Play antes de su próxima emisión en La 2, Alter Ego pone a dialogar a dos poderosas corrientes de pensamiento sobre las máquinas pensantes: la utópica y la catastrofista. Dos presentadores ahondan por su cuenta en cada tendencia. Almudena Ariza (¿cuándo habrá hecho esto, si la vemos a diario en Ucrania, Israel o Palestina?) busca voces que nos tranquilicen y nos ilusionen, porque creen que la IA va a salvarnos del cáncer y de la crisis climática, nos liberará de trabajos aburridos y nos dará más tiempo libre; mejorará nuestras vidas, que serán muy largas. Carles Tamayo, por contra, visita a los agoreros: la IA ahondará en la vigilancia masiva, extenderá bulos y mentiras, hará más tóxico el debate público, se usará para la guerra y la represión (hasta aquí nada que no esté pasando ya), pero además nos quitará los empleos y el poder, y al final los humanos quedaremos en la cuneta, seremos superfluos, salvo esa superélite que maneje el nuevo tinglado. Cada capítulo se sitúa en un plano temporal: el primero cuenta lo que está pasando ya, los otros dos nos llevan a lo esperable en 2028 y 2033, y cada uno resulta más interesante, e inquietante, que el anterior.

La ingeniera e investigadora Nuria Oliver explica muy bien los pecados que ya cometen los algoritmos: la falta de veracidad (los bulos y el deep fake), la falta de diversidad (que Netflix nos recomiende siempre el mismo tipo de series, que Facebook y X nos encierren en burbujas políticas), la falta de transparencia (la IA nos da una respuesta, pero no entendemos nunca de dónde sale), y la enorme acumulación de poder en un puñado de empresas. El debate que ya está aquí es cómo introducir ética en las frías máquinas, cómo garantizar que sus criterios responden a nuestros valores. Esto pasa, claro, por la regulación, que empieza a dar pasos, más decididos en Europa que en EE UU; es más difícil penetrar en lo que China planee al respecto.

 

Escuchamos ideas muy novedosas. Quizás la capacitación técnica no importará tanto en el futuro próximo: todo lo técnico lo harán las máquinas, y lo que más necesitarán los humanos es pensamiento crítico. Una persona sin mucha formación será capaz de hacer tareas hoy reservadas a científicos. Pero hay miedos que aún no teníamos y aparecen aquí: ¿y si cualquiera pudiera fabricar una bomba nuclear en su jardín? El futuro del empleo es otro de los grandes debates: unos ven venir un exterminio masivo de puestos de trabajo; otros vaticinan un tiempo con más equilibrio entre trabajo y ocio, lo que nos dejará más espacio para interactuar entre humanos, eso que ya empieza a escasear.

Claro que hasta la utopía puede tornar en pesadilla. Varios de los expertos especulan sobre lo que será la Inteligencia Artificial General. Quizás entonces nos rindamos y le demos el poder político, convencidos de que lo hará mejor que nuestras mejorables autoridades. Atención: habríamos acabado con la democracia, esto sí que sería una tecnocracia de verdad. Para Antonio Torralba, investigador del MIT, no hace falta llegar a tanto: quizá las inteligencias artificiales no sean buenas dirigentes políticas, dice, pero serán excelentes consejeras. También hay quien cree que no hay que temer ese último paso, de asesorar a dirigir. Que iremos delegando decisiones en la IAG y ella nos convencerá de que lo hace mejor hasta que las tome todas. Podría pasar que algunos países lo hagan antes (los autoritarios lo tienen más fácil), y su éxito arrastre a los demás.

 

José Ignacio Latorre, físico cuántico que trabaja en redes neuronales, prefiere imaginar que habrá diversas superinteligencias, no una única todopoderosa. Pero aún así se crearán relaciones de dependencia aún mayores de las actuales entre los países más avanzados y los demás. “Cuando los humanos descubrieron la anestesia, nadie quería volver al siglo XII a tener un dolor de muelas de verdad. Cuando la IA haga tu vida más fácil, no querrás desprenderte de ella. No verás el peligro que encierra”, dice. Una sentencia que desasosiega: “He visto cómo todo lo que pensaba ha sido superado”.

No todo lo que oímos entra en esas categorías de utópicos y apocalípticos. Entre tantos anuncios de futuros casi de ciencia ficción, suena sensata la tercera vía, la de los pragmáticos. Son los que creen que habrá importantes avances, sí, pero más nos vale fijarnos hoy en los abusos que ya se están cometiendo. La matemática Cathy O’Neil es de las más lúcidas: “El error es pensar que la IA tiene autoconciencia, cuando siempre fue creada y usada por humanos contra otros humanos. La singularidad es un término de marketing para que los dueños de esta tecnología no asuman su responsabilidad. Esa teoría de la conspiración nos distrae de los problemas reales”.

Quizás Sam Altman esté generando expectativas desmesuradas que excitan a sus inversores. Incluso si es así, esto no significa que no vayan a pasar cosas extraordinarias. La inteligencia artificial será tan invasiva, estará en todos los niveles de la burocracia y de nuestras actividades, que no podremos resistirnos a ella. El último juguete será, así, un salto adelante del tecnocapitalismo o capitalismo de vigilancia, ese modelo basado en la extracción masiva de nuestros datos para hacer negocio con ellos, es decir, con nosotros. Llevamos ya unas décadas en eso. Se va a acelerar. Abróchense los cinturones.

 

RICARDO DE QUEROL

El Pais 24 NOV 2023 -

 

Dirigida por Beatriz Pérez de Vargas y estrenada en RTVE Play antes de su próxima emisión en La 2, Alter Ego pone a dialogar a dos poderosas corrientes de pensamiento sobre las máquinas pensantes: la utópica y la catastrofista. Dos presentadores ahondan por su cuenta en cada tendencia. Almudena Ariza (¿cuándo habrá hecho esto, si la vemos a diario en Ucrania, Israel o Palestina?) busca voces que nos tranquilicen y nos ilusionen, porque creen que la IA va a salvarnos del cáncer y de la crisis climática, nos liberará de trabajos aburridos y nos dará más tiempo libre; mejorará nuestras vidas, que serán muy largas. Carles Tamayo, por contra, visita a los agoreros: la IA ahondará en la vigilancia masiva, extenderá bulos y mentiras, hará más tóxico el debate público, se usará para la guerra y la represión (hasta aquí nada que no esté pasando ya), pero además nos quitará los empleos y el poder, y al final los humanos quedaremos en la cuneta, seremos superfluos, salvo esa superélite que maneje el nuevo tinglado. Cada capítulo se sitúa en un plano temporal: el primero cuenta lo que está pasando ya, los otros dos nos llevan a lo esperable en 2028 y 2033, y cada uno resulta más interesante, e inquietante, que el anterior.

La ingeniera e investigadora Nuria Oliver explica muy bien los pecados que ya cometen los algoritmos: la falta de veracidad (los bulos y el deep fake), la falta de diversidad (que Netflix nos recomiende siempre el mismo tipo de series, que Facebook y X nos encierren en burbujas políticas), la falta de transparencia (la IA nos da una respuesta, pero no entendemos nunca de dónde sale), y la enorme acumulación de poder en un puñado de empresas. El debate que ya está aquí es cómo introducir ética en las frías máquinas, cómo garantizar que sus criterios responden a nuestros valores. Esto pasa, claro, por la regulación, que empieza a dar pasos, más decididos en Europa que en EE UU; es más difícil penetrar en lo que China planee al respecto.

 

Escuchamos ideas muy novedosas. Quizás la capacitación técnica no importará tanto en el futuro próximo: todo lo técnico lo harán las máquinas, y lo que más necesitarán los humanos es pensamiento crítico. Una persona sin mucha formación será capaz de hacer tareas hoy reservadas a científicos. Pero hay miedos que aún no teníamos y aparecen aquí: ¿y si cualquiera pudiera fabricar una bomba nuclear en su jardín? El futuro del empleo es otro de los grandes debates: unos ven venir un exterminio masivo de puestos de trabajo; otros vaticinan un tiempo con más equilibrio entre trabajo y ocio, lo que nos dejará más espacio para interactuar entre humanos, eso que ya empieza a escasear.

Claro que hasta la utopía puede tornar en pesadilla. Varios de los expertos especulan sobre lo que será la Inteligencia Artificial General. Quizás entonces nos rindamos y le demos el poder político, convencidos de que lo hará mejor que nuestras mejorables autoridades. Atención: habríamos acabado con la democracia, esto sí que sería una tecnocracia de verdad. Para Antonio Torralba, investigador del MIT, no hace falta llegar a tanto: quizá las inteligencias artificiales no sean buenas dirigentes políticas, dice, pero serán excelentes consejeras. También hay quien cree que no hay que temer ese último paso, de asesorar a dirigir. Que iremos delegando decisiones en la IAG y ella nos convencerá de que lo hace mejor hasta que las tome todas. Podría pasar que algunos países lo hagan antes (los autoritarios lo tienen más fácil), y su éxito arrastre a los demás.

 

José Ignacio Latorre, físico cuántico que trabaja en redes neuronales, prefiere imaginar que habrá diversas superinteligencias, no una única todopoderosa. Pero aún así se crearán relaciones de dependencia aún mayores de las actuales entre los países más avanzados y los demás. “Cuando los humanos descubrieron la anestesia, nadie quería volver al siglo XII a tener un dolor de muelas de verdad. Cuando la IA haga tu vida más fácil, no querrás desprenderte de ella. No verás el peligro que encierra”, dice. Una sentencia que desasosiega: “He visto cómo todo lo que pensaba ha sido superado”.

No todo lo que oímos entra en esas categorías de utópicos y apocalípticos. Entre tantos anuncios de futuros casi de ciencia ficción, suena sensata la tercera vía, la de los pragmáticos. Son los que creen que habrá importantes avances, sí, pero más nos vale fijarnos hoy en los abusos que ya se están cometiendo. La matemática Cathy O’Neil es de las más lúcidas: “El error es pensar que la IA tiene autoconciencia, cuando siempre fue creada y usada por humanos contra otros humanos. La singularidad es un término de marketing para que los dueños de esta tecnología no asuman su responsabilidad. Esa teoría de la conspiración nos distrae de los problemas reales”.

Quizás Sam Altman esté generando expectativas desmesuradas que excitan a sus inversores. Incluso si es así, esto no significa que no vayan a pasar cosas extraordinarias. La inteligencia artificial será tan invasiva, estará en todos los niveles de la burocracia y de nuestras actividades, que no podremos resistirnos a ella. El último juguete será, así, un salto adelante del tecnocapitalismo o capitalismo de vigilancia, ese modelo basado en la extracción masiva de nuestros datos para hacer negocio con ellos, es decir, con nosotros. Llevamos ya unas décadas en eso. Se va a acelerar. Abróchense los cinturones