Jaime Sevilla, scientifique : « 99 % des ressources finiront entre les mains de l’IA »
Espagne
Maintenant que l’interview de Jaime Sevilla (28 ans, Torrejón de Ardoz), fondateur d’Epoch AI, a été retranscrite, on ne peut s’empêcher de penser : « Comme tout est étrange. » C’est un monde étrange qui émergera si le développement de l’intelligence artificielle continue à ce rythme . C'est aussi le cas de passer une heure à parler de la possibilité que des machines prennent le dessus sur les humains, pendant que des gens prennent un café et des croissants en arrière-plan. Même le sac à dos hyperspatial avec lequel Sevilla se présente dans un café du centre-ville de Madrid un mercredi matin semble étrange.
—Vous avez un superordinateur là-bas ?
- Peut.
À l’heure actuelle, peu de personnes ont une vision plus claire – ou du moins plus informée – des tendances dans le domaine de l’IA que Séville. C’est précisément à cela que se consacre Epoch AI, une organisation à but non lucratif spécialisée dans l’analyse des progrès et de l’évolution de cette technologie. Leur objectif est de prédire les tendances futures et, pour ce faire, ils développent des tests rigoureux qui mesurent l’intelligence et la performance des modèles actuels. Un exemple récent est Frontier Math, un projet réalisé en collaboration avec OpenAI, où ils ont créé un ensemble de problèmes mathématiques avancés pour évaluer le niveau de raisonnement mathématique des modèles de langage. Jusqu’à présent, ils n’ont pas réussi à résoudre plus de 2 % des problèmes qu’ils ont posés.
Le New York Times a classé son projet parmi les « bonnes nouvelles technologiques » de 2024, et le magazine Time a comparé l'initiative de Séville au travail effectué par les scientifiques lors du développement de modèles de prévision du changement climatique, qui sont utilisés pour guider les politiques environnementales. La vérité est que dans peu de domaines il est aussi difficile de faire des prédictions qu’en intelligence artificielle. Preuve en est l'arrivée soudaine du modèle chinois DeepSeek , qui nous a obligé à demander de nouvelles informations par email pour cette interview.
Question : OpenAI est-elle toujours en avance sur les autres entreprises dans le développement de l'intelligence artificielle ?
Réponse : En termes de résultats, aucune entreprise ne peut résoudre les problèmes de Frontier Math comme OpenAI, et elle obtient également de meilleurs résultats sur d'autres tests. Anthropic est un peu en retard : il n'a pas encore tout à fait rattrapé l'inférence augmentée, mais il le talonne de près.
Q : Pourquoi dominez-vous si clairement la course dans cette technologie ?
R : Il y a plusieurs facteurs, mais l’un des plus importants est l’échelle des modèles : plus la puissance de calcul et le volume de données sont importants, plus leurs capacités augmentent. OpenAI s’est distingué très tôt précisément en misant sur cette stratégie.
Q : DeepSeek a-t-il changé ce paradigme ?
A : DeepSeek a lancé son nouveau modèle, R1, qui concurrence celui d'OpenAI. Je pense néanmoins qu’OpenAI conserve son avance, notamment à la lumière des résultats de son modèle propriétaire. En ce qui concerne la quantité de données et de calculs, mon avis reste le même : les modèles entraînés avec plus de ressources sont généralement plus performants.
Q : Pensez-vous que les dirigeants des entreprises d’IA ont peur de ce qu’ils font ?
R : Je ne sais pas si « effrayé » est le bon mot, mais je dirais qu’il est très difficile de prévoir à l’avance les capacités que l’intelligence artificielle développera à mesure qu’elle évoluera et que davantage de ressources lui seront consacrées. Dans une certaine mesure, une croissance progressive se produit, mais ce processus n’a pas été étudié en profondeur et n’est pas entièrement compris.
Q : Existe-t-il un seuil à partir duquel, si l’IA le franchit, nous devrions envisager d’arrêter sa progression ?
R : Il existe des applications plus ou moins prosociales de l’intelligence artificielle. Je crains que cela puisse être utilisé pour des opérations terroristes ou des escroqueries majeures sur Internet. Il y a de nombreuses utilisations que je préférerais ne pas voir aussi avancées.
Q : Je fais référence au moment où l’IA devient une menace pour l’humanité.
R : En principe, cela ne devrait pas être un problème pour nous.
Q : Les machines devraient-elles nous gouverner ?
R : Pour l’instant, ils agissent comme des assistants virtuels, mais à un moment donné, il sera logique de leur donner plus d’indépendance.
Q : Par exemple ?
R : Qu’ils puissent gérer leur propre entreprise, qu’ils puissent la gérer sans que des humains inefficaces ne ralentissent le processus. Cela constituera une incitation majeure à créer davantage d’intelligences artificielles indépendantes qui prendront en charge une part toujours croissante de l’économie. Ils pourront faire tout ce que nous pouvons faire, mais à un coût marginal bien inférieur.
Q : Comment savons-nous qu’à ce moment-là, l’IA ne nous considérera pas comme une nuisance ?
R : Vous n’êtes pas obligé de nous considérer comme un obstacle. Nous pouvons être des partenaires commerciaux avec des relations cordiales. Pour moi, ce serait comme vivre avec de grands entrepreneurs qui créent de la richesse pour tout le monde.
Q : Pourquoi une IA aussi avancée voudrait-elle faire des affaires avec des humains ?
R : Parce qu’à l’heure actuelle, les humains possèdent tout le capital du monde, ils ont besoin de notre investissement. Il existe également des tâches pour lesquelles il peut être nécessaire ou juridiquement approprié qu’un humain soit impliqué, puisqu’une IA ne peut pas aller en prison, par exemple. Peut-être est-il bon d’avoir des humains qui peuvent s’exposer à ce risque.
Q : Combien de temps faudra-t-il avant que l’IA atteigne ce niveau d’indépendance ?
A : Nous sommes encore loin. Les IA actuelles ne sont pas suffisamment cohérentes ou homogènes pour développer de telles stratégies à long terme.
Q : Les humains sont-ils toujours des stratèges plus fiables que la meilleure intelligence artificielle ?
R : Oui.
Q : Que pensez-vous de la thèse « accélérationniste », selon laquelle la technologie, en l’occurrence l’IA, résoudra tous nos problèmes ?
R : Je me considère quelque part entre les deux positions. C’est une technologie qui présente de grandes opportunités et de grands défis. Nous devons avancer progressivement. Les choses évoluent rapidement maintenant, mais la société ne s’est pas désintégrée. Je pense que nous sommes dans un bon équilibre. Le doute surgit lorsque nous atteignons ce niveau d’indépendance dont nous parlions.
Q : Dans quel sens ?
A : Une analogie utile consiste à imaginer un billion de génies entrant dans notre économie en même temps. Cela peut être difficile à gérer.
Q : Je n’arrête pas de penser au paradoxe d’un « imbécile » – qui dans ce scénario serait un humain – donnant des ordres à un génie.
R : Ce n’est probablement pas le cas. À long terme, il est fort possible que 99 % des ressources finissent entre les mains de l’intelligence artificielle.
Q : Cela ne vous fait pas peur ?
A : Ce n’est pas forcément mauvais. Ce 1% qui nous reste sera bien plus important que ce que nous avons actuellement. Aujourd’hui, être un citoyen ordinaire est mieux qu’être un roi il y a 500 ans.
Q : Votre raisonnement est logique, mais il reste terrifiant.
R : C’est là le défi : comprendre cette technologie et construire un contrat social qui nous permette de coexister avec cette force sociale et économique imminente.
Q : Est-il vraiment judicieux de construire notre propre « maître » ?
A : Nous ne devrions pas l’interpréter comme si nous étions des esclaves, nous pourrions être des compagnons. Nous pouvons concevoir un accord social qui profite à tous. Cela n’élimine pas les risques : à l’avenir, nous serons une minorité économique. Et les minorités, historiquement, ont traversé des moments très difficiles. Cependant, au fil du temps, ils ont acquis des droits et amélioré leur qualité de vie.
Q : Nous nous attendons à devenir, comparativement, de plus en plus pauvres.
A : Il n’y a pas de consolation à cela : ce sera un monde très inégalitaire et nous devrons nous adapter. Aujourd’hui, il y a des milliardaires avec beaucoup plus d’argent et nous vivons avec.
Q : Pensez-vous que l’IA développera une conscience compatissante envers les autres espèces ?
R : Il peut y avoir, et je l’espère, une pluralité d’opinions au sein même de l’intelligence artificielle. Certains nous verront d’un œil plus favorable que d’autres. Qui sait si le moyen d’assurer notre survie ne passe pas par un contrat juridique rédigé avec l’aide de l’IA, qui garantit notre survie à long terme.
Q : Et dans le pire des cas ?
R : Il pourrait aussi arriver qu’ils décident de créer un grand centre de calcul sur Terre et, pour cela, ils doivent réduire la température de 100 degrés. Qui sait s’ils se souviendront que les humains ne peuvent pas survivre à cette température ?