Pode ser verdade que nos salvará ou nos escravizará, mas a terceira via é mais convincente, a dos pragmáticos que querem prevenir agora os seus abusos.

 

 

A última novela do setor de tecnologia, a demissão e reintegração de Sam Altman como CEO da OpenAI, está cercada de mistério sobre um suposto avanço sensacional em direção à Inteligência Artificial Geral alcançado na empresa. Isto colocaria Altman ao nível de Oppenheimer, o inventor da bomba atómica: ele seria a força motriz por trás de algo que mudaria as nossas vidas e o equilíbrio global. O IAG, que acrescentará um G à sua sigla, também chamada de superinteligência, nos traria a singularidade, o momento em que a criação supera seu criador. Quase ninguém pensa que isso está tão próximo quanto sugere a empresa que lançou o ainda rudimentar ChatGPT. Mas isso vai acontecer? Em que período?

Até que isso aconteça, é ousado afirmar que o que as máquinas fazem hoje é pensar, embora a IA esteja dando passos muito rápidos. Por enquanto, ainda precisamos pensar, o que alguns fazem de forma mais brilhante do que outros. A minissérie documental Alter Ego. A Inteligência Invisível reúne, em três capítulos, as mentes humanas que melhor entendem e explicam o que já está aqui e o que virá na próxima década com a IA. O mais inovador, para melhor ou para pior.

Dirigido por Beatriz Pérez de Vargas e estreado na RTVE Play antes de sua próxima transmissão na La 2, Alter Ego traz ao diálogo duas poderosas correntes de pensamento sobre máquinas pensantes: a utópica e a catastrófica. Dois apresentadores investigam cada tendência por conta própria. Almudena Ariza (quando terá feito isto, se a vemos todos os dias na Ucrânia, em Israel ou na Palestina?) procura vozes que nos acalmem e nos empolguem, porque acreditam que a IA nos vai salvar do cancro e da crise climática , libertar-nos-á de trabalhos aborrecidos e dar-nos-á mais tempo livre; Vai melhorar a nossa vida, que será muito longa. Carles Tamayo, por outro lado, visita os pessimistas: a IA mergulhará na vigilância em massa, espalhará boatos e mentiras, tornará o debate público mais tóxico, será usada para guerra e repressão (até agora nada que já não esteja acontecendo), mas também tirará nossos empregos e poder, e no final nós, humanos, ficaremos na sarjeta, seremos supérfluos, exceto aquela superelite que administra o novo galpão. Cada capítulo situa-se num plano temporal: o primeiro conta o que já está a acontecer, os outros dois levam-nos ao que se espera em 2028 e 2033, e cada um é mais interessante e perturbador que o anterior.

A engenheira e pesquisadora Nuria Oliver explica muito bem os pecados que os algoritmos já cometem: a falta de veracidade (hoaxes e deep fake) , a falta de diversidade (que a Netflix sempre nos recomenda o mesmo tipo de série, como o Facebook e nos prende na política bolhas), a falta de transparência (a IA dá-nos uma resposta, mas nunca compreendemos de onde ela vem) e a enorme acumulação de poder num punhado de empresas. O debate que já está aqui é como introduzir a ética nas máquinas frias, como garantir que os seus critérios respondam aos nossos valores. Isto envolve, naturalmente, regulação, que começa a tomar medidas, mais decisivas na Europa do que nos Estados Unidos; É mais difícil penetrar no que a China planeia a este respeito.

 

Ouvimos ideias muito novas. Talvez a formação técnica não tenha tanta importância num futuro próximo: tudo o que é técnico será feito por máquinas e o que os humanos mais precisarão é de pensamento crítico. Uma pessoa sem muito treinamento poderá realizar tarefas atualmente reservadas aos cientistas. Mas há receios que ainda não tínhamos e eles aparecem aqui: e se alguém conseguisse fazer uma bomba nuclear no seu jardim? O futuro do emprego é outro dos grandes debates: alguns prevêem um extermínio massivo de empregos; Outros preveem uma época com mais equilíbrio entre trabalho e lazer, o que nos deixará mais espaço para interagir com os humanos, que já começa a ser escasso.

É claro que até a utopia pode se transformar em pesadelo. Vários especialistas especulam sobre o que será a Inteligência Geral Artificial. Talvez então desistimos e lhe demos poder político, convencidos de que ele se sairá melhor do que as nossas autoridades improváveis. Atenção: teríamos acabado com a democracia, esta seria uma verdadeira tecnocracia. Para Antonio Torralba, pesquisador do MIT, não há necessidade de ir tão longe: as inteligências artificiais podem não ser bons líderes políticos, diz ele, mas serão excelentes conselheiros. Há também quem acredite que não devemos temer esse último passo, do aconselhamento ao direcionamento. Que delegaremos as decisões ao IAG e ela nos convencerá de que faz melhor até tomar todas elas. Pode acontecer que alguns países o façam mais cedo (para os autoritários é mais fácil) e o seu sucesso atrapalhe os outros.

 

José Ignacio Latorre, físico quântico que trabalha com redes neurais, prefere imaginar que existirão várias superinteligências, e não uma única todo-poderosa. Mas mesmo assim, serão criadas relações de dependência ainda maiores do que as actuais entre os países mais avançados e os restantes. “Quando os humanos descobriram a anestesia, ninguém queria voltar ao século XII e ter uma verdadeira dor de dente. Quando a IA tornar sua vida mais fácil, você não vai querer se separar dela. Você não verá o perigo que isso contém”, diz ele. Uma frase perturbadora: “Vi como tudo o que pensava foi superado”.

Nem tudo o que ouvimos se enquadra nas categorias de utópico e apocalíptico. Entre tantos anúncios de futuros quase de ficção científica, a terceira via, a dos pragmáticos, parece sensata. São eles que acreditam que haverá avanços importantes, sim, mas é melhor focarmos hoje nos abusos que já estão sendo cometidos. A matemática Cathy O'Neil é uma das mais lúcidas: “O erro é pensar que a IA é autoconsciente, quando sempre foi criada e usada por humanos contra outros humanos. Singularidade é um termo de marketing para que os proprietários desta tecnologia não assumam responsabilidades. “Essa teoria da conspiração nos distrai dos problemas reais.”

Talvez Sam Altman esteja a gerar expectativas excessivas que entusiasmam os seus investidores. Mesmo assim, isso não significa que coisas extraordinárias não acontecerão. A inteligência artificial será tão invasiva, estará em todos os níveis da burocracia e nas nossas atividades, que não seremos capazes de resistir. O último brinquedo será, portanto, um salto em frente do tecnocapitalismo ou capitalismo de vigilância, aquele modelo baseado na extracção massiva dos nossos dados para fazer negócios com eles, ou seja, connosco. Fazemos isso há algumas décadas. Isso vai acelerar. Aperte o cinto de segurança.

 

RICARDO DE QUEROL

O País 24 DE NOVEMBRO DE 2023 -

 

Dirigido por Beatriz Pérez de Vargas e estreado na RTVE Play antes de sua próxima transmissão na La 2, Alter Ego traz ao diálogo duas poderosas correntes de pensamento sobre máquinas pensantes: a utópica e a catastrófica. Dois apresentadores investigam cada tendência por conta própria. Almudena Ariza (quando terá feito isto, se a vemos todos os dias na Ucrânia, em Israel ou na Palestina?) procura vozes que nos acalmem e nos empolguem, porque acreditam que a IA nos vai salvar do cancro e da crise climática , libertar-nos-á de trabalhos aborrecidos e dar-nos-á mais tempo livre; Vai melhorar a nossa vida, que será muito longa. Carles Tamayo, por outro lado, visita os pessimistas: a IA mergulhará na vigilância em massa, espalhará boatos e mentiras, tornará o debate público mais tóxico, será usada para guerra e repressão (até agora nada que já não esteja acontecendo), mas também tirará nossos empregos e poder, e no final nós, humanos, ficaremos na sarjeta, seremos supérfluos, exceto aquela superelite que administra o novo galpão. Cada capítulo situa-se num plano temporal: o primeiro conta o que já está a acontecer, os outros dois levam-nos ao que se espera em 2028 e 2033, e cada um é mais interessante e perturbador que o anterior.

A engenheira e pesquisadora Nuria Oliver explica muito bem os pecados que os algoritmos já cometem: a falta de veracidade (hoaxes e deep fake) , a falta de diversidade (que a Netflix sempre nos recomenda o mesmo tipo de série, como o Facebook e nos prende na política bolhas), a falta de transparência (a IA dá-nos uma resposta, mas nunca compreendemos de onde ela vem) e a enorme acumulação de poder num punhado de empresas. O debate que já está aqui é como introduzir a ética nas máquinas frias, como garantir que os seus critérios respondam aos nossos valores. Isto envolve, naturalmente, regulação, que começa a tomar medidas, mais decisivas na Europa do que nos Estados Unidos; É mais difícil penetrar no que a China planeia a este respeito.

 

Ouvimos ideias muito novas. Talvez o treinamento técnico não tenha tanta importância num futuro próximo: tudo que é técnico será feito por máquinas, e o que os humanos mais precisarão é de pensamento crítico. Uma pessoa sem muito treinamento poderá realizar tarefas atualmente reservadas aos cientistas. Mas há receios que ainda não tínhamos e eles aparecem aqui: e se alguém conseguisse fazer uma bomba nuclear no seu jardim? O futuro do emprego é outro dos grandes debates: alguns prevêem um extermínio massivo de empregos; Outros preveem uma época com mais equilíbrio entre trabalho e lazer, o que nos deixará mais espaço para interagir com os humanos, que já começa a ser escasso.

É claro que até a utopia pode se transformar em pesadelo. Vários especialistas especulam sobre o que será a Inteligência Geral Artificial. Talvez então desistimos e lhe demos poder político, convencidos de que ele se sairá melhor do que as nossas autoridades improváveis. Atenção: teríamos acabado com a democracia, esta seria uma verdadeira tecnocracia. Para Antonio Torralba, pesquisador do MIT, não há necessidade de ir tão longe: talvez as inteligências artificiais não sejam bons líderes políticos, diz ele, mas serão excelentes conselheiros. Há também quem acredite que não devemos temer esse último passo, do aconselhamento ao direcionamento. Que delegaremos as decisões ao IAG e ela nos convencerá de que faz melhor até tomar todas elas. Pode acontecer que alguns países o façam mais cedo (para os autoritários é mais fácil) e o seu sucesso atrapalhe os outros.

 

José Ignacio Latorre, físico quântico que trabalha com redes neurais, prefere imaginar que existirão várias superinteligências, e não uma única todo-poderosa. Mas mesmo assim, serão criadas relações de dependência ainda maiores do que as actuais entre os países mais avançados e os restantes. “Quando os humanos descobriram a anestesia, ninguém queria voltar ao século XII e ter uma verdadeira dor de dente. Quando a IA tornar sua vida mais fácil, você não vai querer se separar dela. Você não verá o perigo que isso contém”, diz ele. Uma frase perturbadora: “Vi como tudo o que pensava foi superado”.

Nem tudo o que ouvimos se enquadra nas categorias de utópico e apocalíptico. Entre tantos anúncios de futuros quase de ficção científica, a terceira via, a dos pragmáticos, parece sensata. São eles que acreditam que haverá avanços importantes, sim, mas é melhor focarmos hoje nos abusos que já estão sendo cometidos. A matemática Cathy O'Neil é uma das mais lúcidas: “O erro é pensar que a IA é autoconsciente, quando sempre foi criada e usada por humanos contra outros humanos. Singularidade é um termo de marketing para que os proprietários desta tecnologia não assumam responsabilidades. “Essa teoria da conspiração nos distrai dos problemas reais.”

Talvez Sam Altman esteja a gerar expectativas excessivas que entusiasmam os seus investidores. Mesmo assim, isso não significa que coisas extraordinárias não acontecerão. A inteligência artificial será tão invasiva, estará em todos os níveis da burocracia e nas nossas atividades, que não seremos capazes de resistir. O último brinquedo será, portanto, um salto em frente do tecnocapitalismo ou capitalismo de vigilância, aquele modelo baseado na extracção massiva dos nossos dados para fazer negócios com eles, ou seja, connosco. Fazemos isso há algumas décadas. Isso vai acelerar. Aperte o cinto de segurança