Jaime Sevilla, cientista: “99% dos recursos acabarão nas mãos da IA”
Espanha
Agora que a entrevista com Jaime Sevilla (28 anos, Torrejón de Ardoz), fundador da Epoch AI, foi transcrita, não podemos deixar de pensar: “Como tudo é estranho”. É um mundo estranho que surgirá se o desenvolvimento da inteligência artificial continuar nesse ritmo . Assim como passar uma hora falando sobre a possibilidade de máquinas dominarem os humanos, enquanto as pessoas tomam café e comem croissants ao fundo. Até a mochila hiperespacial com que Sevilla aparece em um café no centro de Madri em uma manhã de quarta-feira parece estranha.
—Vocês têm um supercomputador aí?
- Pode.
Atualmente, poucas pessoas têm uma visão mais clara — ou pelo menos mais informada — das tendências no campo da IA do que Sevilla. É exatamente a isso que se dedica a Epoch AI, uma organização sem fins lucrativos especializada em analisar o progresso e a evolução dessa tecnologia. O objetivo deles é prever tendências futuras e, para isso, eles desenvolvem testes rigorosos que medem a inteligência e o desempenho dos modelos atuais. Um exemplo recente é o Frontier Math, um projeto realizado em colaboração com a OpenAI, onde eles criaram um conjunto de problemas matemáticos avançados para avaliar o nível de raciocínio matemático de modelos de linguagem. Até agora, eles não conseguiram resolver mais de 2% dos problemas apresentados.
O New York Times incluiu seu projeto entre as "boas notícias tecnológicas" de 2024, e a revista Time comparou a iniciativa de Seville ao trabalho que os cientistas fazem ao desenvolver modelos de previsão de mudanças climáticas, que são usados para orientar políticas ambientais. A verdade é que em poucos campos é tão difícil fazer previsões quanto na inteligência artificial. Prova disso é a chegada repentina do modelo chinês DeepSeek , que nos obrigou a solicitar novas informações por e-mail para esta entrevista.
Pergunta: A OpenAI ainda está à frente de qualquer outra empresa no desenvolvimento de inteligência artificial?
Resposta: Em termos de resultados, nenhuma empresa consegue resolver problemas do Frontier Math como a OpenAI, e ela também tem um desempenho melhor em outros testes. A Anthropic está um pouco atrasada: ela ainda não alcançou a inferência aumentada, mas está logo atrás.
P: Por que vocês estão dominando tão claramente a corrida nessa tecnologia?
R: Existem vários fatores, mas um dos mais importantes é a escala dos modelos: quanto maior o poder computacional e o volume de dados, maiores aumentam suas capacidades. A OpenAI se destacou desde cedo justamente por apostar nessa estratégia.
P: O DeepSeek mudou esse paradigma?
R: A DeepSeek lançou seu novo modelo, R1, que compete com o da OpenAI. Ainda assim, acredito que a OpenAI mantém a liderança, especialmente à luz dos resultados de seu modelo proprietário. Quando se trata da quantidade de dados e computação, minha opinião continua a mesma: modelos treinados com mais recursos geralmente têm melhor desempenho.
P: Você acha que os líderes das empresas de IA têm medo do que estão fazendo?
R: Não sei se "assustado" é a palavra certa, mas eu diria que é muito difícil prever com antecedência as capacidades que a inteligência artificial desenvolverá à medida que for crescendo e mais recursos forem dedicados a ela. Até certo ponto, ocorre um crescimento gradual, mas esse processo não foi estudado em profundidade e não é totalmente compreendido.
P: Existe um limite que, se a IA ultrapassar, devemos considerar interromper seu progresso?
R: Existem aplicações mais ou menos pró-sociais da inteligência artificial. Estou preocupado que ele possa ser usado para operações terroristas ou grandes golpes na internet. Há muitos usos que eu preferiria não ver tão avançados.
P: Estou me referindo ao ponto em que a IA se torna uma ameaça à humanidade.
R: Em princípio, isso não deve ser um problema para nós.
P: As máquinas devem nos governar?
R: Por enquanto, eles atuam como assistentes virtuais, mas em algum momento fará sentido dar a eles mais independência.
P: Por exemplo?
R: Que eles podem administrar seus próprios negócios, que podem administrá-los sem que humanos ineficientes atrapalhem o processo. Este será um grande incentivo para criar inteligências artificiais mais independentes que assumirão uma fatia cada vez maior da economia. Eles poderão fazer tudo o que fazemos, mas com um custo marginal muito menor.
P: Como sabemos que, nesse ponto, a IA não nos considerará um incômodo?
R: Você não precisa nos ver como um obstáculo. Podemos ser parceiros de negócios com relações cordiais. Para mim, seria como viver com grandes empreendedores que criam riqueza para todos.
P: Por que uma IA tão avançada iria querer fazer negócios com humanos?
R: Porque, no momento, os humanos possuem todo o capital do mundo, eles precisam do nosso investimento. Também há tarefas em que pode ser necessário ou legalmente apropriado que um humano esteja envolvido, já que uma IA não pode ir para a prisão, por exemplo. Talvez seja bom ter humanos que possam se expor a esse risco.
P: Quanto tempo levará até que a IA atinja esse nível de independência?
R: Ainda estamos longe. As IAs atuais não são coerentes ou consistentes o suficiente para desenvolver tais estratégias de longo prazo.
P: Os humanos ainda são estrategistas mais confiáveis do que a melhor inteligência artificial?
R: Sim.
P: O que você acha da tese “aceleracionista”, que sustenta que a tecnologia, neste caso a IA, resolverá todos os nossos problemas?
R: Eu me considero em algum lugar entre as duas posições. É uma tecnologia com grandes oportunidades e desafios. Devemos avançar gradualmente. Está evoluindo rápido agora, mas a sociedade não se desintegrou. Acho que estamos em um bom equilíbrio. A dúvida surge quando atingimos aquele nível de independência que falávamos.
P: Em que sentido?
R: Uma analogia útil é imaginar um trilhão de gênios entrando em nossa economia ao mesmo tempo. Pode ser difícil de administrar.
P: Continuo pensando no paradoxo de um “imbecil” — que nesse cenário seriam humanos — dando ordens a um gênio.
R: Provavelmente não é esse o caso. A longo prazo, é bem possível que 99% dos recursos acabem nas mãos da inteligência artificial.
P: Isso não te assusta?
R: Não é necessariamente ruim. Esse 1% que nos resta será muito maior do que o que temos agora. Hoje, ser um cidadão comum é melhor do que ser um rei há 500 anos.
P: Seu raciocínio é lógico, mas ainda assim é assustador.
R: Esse é o desafio: entender essa tecnologia e construir um contrato social que nos permita coexistir com essa força social e econômica iminente.
P: Realmente faz sentido construir nosso próprio “mestre”?
R: Não devemos interpretar isso como se fôssemos escravos, podemos ser companheiros. Podemos elaborar um acordo social que beneficie a todos nós. Isso não elimina os riscos: no futuro, seremos a minoria econômica. E as minorias, historicamente, passaram por momentos muito difíceis. No entanto, com o tempo, eles conquistaram direitos e melhoraram sua qualidade de vida.
P: Esperamos nos tornar, comparativamente, cada vez mais pobres.
R: Não há consolo nisso: será um mundo muito desigual e teremos que nos adaptar. Hoje em dia existem bilionários com muito mais dinheiro e nós vivemos com isso.
P: Você acha que a IA desenvolverá uma consciência compassiva em relação a outras espécies?
R: Pode haver, e espero, uma pluralidade de opiniões dentro da própria inteligência artificial. Haverá alguns que nos verão de forma mais favorável do que outros. Quem sabe se a maneira de garantir nossa sobrevivência não é por meio de um contrato legal elaborado com a ajuda da IA, que garanta nossa sobrevivência a longo prazo.
P: E no pior cenário?
R: Também pode acontecer que eles decidam criar um grande centro de computação na Terra e, para isso, tenham que reduzir a temperatura em 100 graus. Quem sabe se eles vão se lembrar de que os humanos não conseguem sobreviver nessa temperatura?