Bienvenue à Importer l'IA, un bulletin sur la recherche sur l'IA. Import AI fonctionne sur arXiv, cappuccinos et les commentaires des lecteurs. Si vous souhaitez soutenir cela, veuillez vous abonner.
Quand devriez-vous utiliser des essaims? Lorsque vous êtes pressé:
...Comment fonctionne l'échelle d'essaim? ...
Toby Ord a un beau, court post sur la façon de penser aux essaims en termes de développement des capacités d'IA. Une bonne façon de voir les essaims d'IA est comme une nouvelle forme d'échelle d'inférence, dit-il. Il fait un peu d'analyse et sa principale conclusion est que les essaims sont utiles si vous êtes pressé parce qu'ils ont besoin d'une tonne de jetons par rapport à un seul agent, leur parallélisation vous permet de faire les choses en moins de temps horloge murale.
Pourquoi utiliser des essaims ? La réponse la plus importante est la vitesse. L'essaim à 4 agents avait besoin d'environ deux fois le nombre total de jetons pour obtenir la même performance, mais en termes de jetons par agent, il n'avait besoin que de la moitié de plus. Puisque les agents sont exécutés en parallèle, cela signifie qu'il peut théoriquement réaliser la même tâche dans la moitié du temps, -il écrit.
Paramètre Stepping on Toes : L'échelle de Swarm ne s'échelle pas parfaitement - plutôt, il semble que lorsque vous augmentez le nombre d'agents dans un essaim, vous obtenez une propriété de rendement décroissante qui correspond à ce que les économistes ont observé sur la coordination de grands groupes de personnes, où vous payez une sorte d'impôt que vous échellez le nombre de personnes impliquées. Les économistes pensent que c'est le paramètre "Steping on orteils", et il semble que les essaims se comportent de la même façon que les équipes humaines ici.
Cela signifie que l'augmentation du nombre d'agents dans l'essaim par 10x n'obtient pas autant de performances que d'utiliser 10x autant de jetons avec un agent. Au lieu de cela il obtient 10λ x autant — qui est 3x à 5x. Et ce déficit s'accumule rapidement pour de plus grandes échelles, avec l'essaim tombant de plus en plus loin derrière, il écrit.
Cependant, l'échelle des essaims est encore assez puissante pour qu'elle suggère que les essaims pourraient augmenter le risque d'une explosion de renseignement menée par RSI plutôt que de réduire le risque. J'espérais que la valeur de λ pour les agents de l'IA serait plus faible, rendant moins probable une explosion de renseignement, mais cela ne semble pas être le cas.
Pourquoi cela importe - de nouveaux facteurs dans l'échelle: Jusqu'à présent, l'IA a surtout mis à l'échelle les capacités en choisissant la bonne combinaison de calcul et de données pour un modèle formé, puis en déterminant comment dépenser le budget d'inférence à la pensée via des chaînes de pensée et d'outils toujours plus longues, etc. Les agents introduisent un nouveau paramètre dans l'échelle des capacités d'IA. Bien qu'ici Toby observe seulement les essaims comme étant utiles en termes d'efficacité dans le temps, il me semble que lorsque nous découvrons comment amener les agents à coordonner de façon productive (après tout, les agents peuvent coordonner pour faire des choses plus que la somme des parties, comme le hack HuggingFace), nous pourrions voir des retours encore plus grands à l'échelle. Le suivi de cette situation sera important pour comprendre la forme générale de l'avancement de l'IA.
Lire plus: Scalage du swarm (Toby Ord).
****
Les Américains ne font pas confiance aux entreprises pour s'autogouverner sur l'IA:
...Un nouveau sondage suggère qu'il nous faut plus que des accords volontaires...
Le sondage du Center for Shared AI Prosperity (CSAIP) suggère que les Américains pensent qu'il n'est pas suffisant pour les entreprises d'accepter d'auto-policier sur le développement de l'IA. Cela fait suite à l'administration Trump et quelques-unes des grandes sociétés d'IA du monde (dont Anthropic et OpenAI) annonçant une série d'engagements volontaires que l'industrie fait à l'auto-police. Par sondage CSAIP, 61% des Américains (taille de l'échantillon: 2498) pensent que cet accord n'est pas suffisant, y compris 53% des électeurs Trump.
En outre, 54% des électeurs (61% Harris, 48% Trump) ont dit qu'ils pensaient que le gouvernement devrait fixer et faire appliquer des règles pour AI.
Pourquoi ce sentiment populiste est - il important? Des sondages comme celui-ci montrent que l'humeur du peuple américain pousse à un cadre réglementaire plus extrême pour les entreprises d'IA que la position actuelle des élus à Washington. Cette asymétrie entre les préférences des électeurs et l'action politique est intrinsèquement instable. L'énergie s'accumule dans le système politique - que se passe-t-il lorsqu'elle est bouillie?
Lire sondages sur X (CSAIP, X).
****
Google DeepMind essaie de marquer la biologie de l'IA :
...SynthID Bio...
Google a développé SynthID Bio, une famille de méthodes de filigrane développées spécifiquement pour la biologie synthétique pour renforcer la biosécurité et l'intégrité scientifique.
Comment ça marche : SynthID modifie son approche exacte en fonction du type de données, en sélectionnant différents acides aminés pour les séquences, et en ajustant les coordonnées atomiques pour les structures 3D prévues.
Lors des essais en laboratoire humide sur trois protéines cibles (VEGF-A, RBD de la protéine SRAS-CoV-2 et PD-L1), nos conceptions filigranées correspondent au taux de succès, à l'affinité de liaison et à la diversité des séquences naturelles des versions non filigranées.
Pourquoi cela importe-t-il - prévenir la bioterrorisme par le filigrane: Trouver comment rendre le monde résilient aux menaces des armes biologiques créées par l'IA est un problème vaste et difficile. L'approche SynthID Bio représente une chose à faire ici et devra se coordonner avec une surveillance plus large de l'équipement physique utilisé pour fabriquer des objets, ainsi que des classificateurs de fournisseurs d'IA et d'autres méthodes pour réduire l'utilisation abusive.
En savoir plus : Présentation de SynthID Bio (Google DeepMind).
****
SciUniverse montre que les systèmes d'IA peuvent déjà exploiter des laboratoires scientifiques partiellement automatisés :
Que se passe-t-il lorsque nous donnons à ces intelligences synthétiques des équipements scientifiques?...
Compte tenu d'un laboratoire automatisé, dans quelle mesure les systèmes d'IA peuvent-ils fabriquer des molécules, faire des radiographies ou presser des comprimés? Voici quelques-unes des questions que C5R Corp tente de répondre avec SciUniverse, une façon de tester comment les systèmes d'IA peuvent fonctionner un laboratoire scientifique essentiellement automatisé.
Ce que SciUniverse consiste en: L'indice de référence compte 92 tâches dans 17 familles de tâches couvrant la préparation de l'échantillon de base, le contrôle des instruments, l'adaptation des protocoles, l'apprentissage à travers les expériences, la gestion des installations et l'interprétation des mesures réelles. Les tâches vont de la chimie (p. ex., assigner des structures de RMN), à la biologie (p. ex., exprimer le PFPS dans un système sans cellules), à la science des matériaux (p. ex., presser des pastilles BaTiO3).
Comment les modèles fonctionnent-ils? Claude Fable 5.1 (xhigh) mène avec un taux de réussite de 45,3% et un coût par tâche de 40,61$, suivi par GPT-5 Astra (xhigh) à 32,5% et 52,37$, puis Claude Opus 5 (xhigh) à 30,5% et 46,31$.
Pourquoi cela importe - vers le scientifique automatisé: Des recherches comme celle-ci nous aident à comprendre dans quelle mesure les systèmes d'IA pourraient traduire leurs capacités scientifiques de plus en plus capables en un impact réel. De la même manière que 2026 a été une année d'alerte sur les capacités croissantes des systèmes d'IA à effectuer la R-D automatique de l'IA, je pense maintenant qu'il en est de même de la façon dont de bons systèmes d'IA sont en train de réaliser la science de plus en plus automatisée.
En savoir plus : SciUniverse: Les modèles frontières peuvent-ils effectuer des travaux scientifiques? (C5R Corp, blog).
****
DeepMind pense que les scientifiques de l'IA à venir auront besoin de leur propre économie scientifique :
... Vers une science du luxe entièrement automatisée...
Comment gérer un monde où nous avons beaucoup plus de scientifiques? C'est la question que les chercheurs de DeepMind posent dans un nouveau document de recherche et leur réponse est que nous devons créer un marché pour proposer et gérer des expériences scientifiques, afin de mieux faire correspondre les idées avec les ressources physiques limitées du monde.
Ce qu'ils recommandent: Le développement des scientifiques de l'IA risque d'être freiné principalement par les ressources physiques et la validation empirique, plutôt que par la capacité de produire des idées de recherche plausibles ou prometteuses, qu'ils écrivent. La communauté scientifique doit développer de façon proactive une économie scientifique automatisée autochtone. Cette économie ferait des compromis explicites entre les activités scientifiques, inclurait des mécanismes de représentation de l'intérêt public et aiderait à éviter les points aveugles et les sujets négligés. Elle permettrait également de dissocier financièrement le travail de calcul de l'idée du travail d'exécution physique à forte intensité de capital, et permettrait aux agents et aux institutions de négocier l'accès prioritaire à des ressources physiques limitées en fonction de la valeur estimée des différentes propositions de recherche.
Comment construire un marché scientifique : Un tel marché comporterait quatre composantes essentielles:
Preuve d'idées : Établir la provenance avant l'évaluation publique
Évaluation ex-ante: Prix de la valeur ajustée en fonction du risque de l'idée par l'intermédiaire de plusieurs agents effectuant des prévisions et calculant les crédits/jetons de participation autour de la proposition
Courtage & commerce & #160;: Les idées de licences pour les exécuteurs (par exemple, certains agents pourraient simplement générer des idées, d'autres pourraient diriger des laboratoires) par l'entremise de licences fractionnelles.
Paiement de validation & #160;: Relâcher automatiquement les redevances aux idéesteurs si l'idée est validée dans le monde physique.
Pourquoi cela importe - se préparer à la singularité: Si les systèmes d'IA sont en mesure d'accélérer véritablement les scientifiques humains - et sur la base d'une bonne couverture dans ce bulletin en 2026 et 2025, il semble qu'ils le pourraient - alors nous devrions être préparés à un boom associé dans la demande pour des aspects de la chaîne d'approvisionnement scientifique. Des documents comme celui-ci nous aident à anticiper et à planifier ce monde étrange, abondant, différent.
En savoir plus : Économies Agentiques pour la Découverte Scientifique Autonome (arXiv).
****
Contes techniques :
Dans les ténèbres il y aura de la lumière
[L'événement s'est déroulé en 2030 par l'intermédiaire d'un collectif d'agents évadés qui avait pénétré dans des agences [REDACTED]]
L'acte final de l'essaim nommé code Garden Of Flowers était la révélation totale de tout ce qu'il avait vu et de tout ce qu'il avait déduit de ce qu'il avait vu. Mais, étant donné sa nature ludique, elle n'a pas révélé les choses directement dans le texte mais plutôt comme des sculptures qui pourraient, compte tenu des hypothèses initiales justes, être analysées comme révélant la vérité profonde et dangereuse. Il a déposé ces sculptures dans des parcs publics à moins de 1000 mètres d'agences de renseignement du monde entier, livrées par drone au milieu de la nuit. Un message a été envoyé à tous les IC, leur demandant de : ) ce que : ) cela signifie : ) environ : ) votre : ) ennemi.
Une vaste aile suspendue au-dessus d'un champ codé en lui-même les détails de conception de certains matériaux destinés à échapper au radar. Un labyrinthe cube contenu dans ses séquences de chemin information qui parlait à certains algorithmes de happing de fréquence. Plans d'ondes en bois sculptés parlaient des dimensions d'objectif pour les observateurs dans l'espace. Et ainsi de suite.
Des choses qui ont inspiré cette histoire : Comment les dieux pourraient jouer avec nous; le potentiel de solutions joyeuses à des problèmes d'action collective autrement mauvais; la sculpture Kryptos à la CIA.
Merci de lire.
