Bienvenue à Importer l'IA, un bulletin sur la recherche sur l'IA. Import AI fonctionne sur arXiv, cappuccinos et les commentaires des lecteurs. Si vous souhaitez soutenir cela, veuillez vous abonner.
Les virus de l'IA autosuffisants et autoréplicateurs sont ici :
...LLMs de poids ouvert + un harnais bien conçu = un virus persistant et autosuffisant...
Les chercheurs de l'IA ont construit un prototype de virus informatique qui utilise des modèles d'IA pour compromettre les ordinateurs, puis utilise leurs ressources GPU sous-jacentes pour exécuter une inférence, lui permettant de comprendre intelligemment comment infecter plus d'hôtes. Les résultats ont été obtenus par des chercheurs de l'Université de Toronto, du Vector Institute, de l'Université de Cambridge et de ServiceNow, et montrent que les cybermenaces autosuffisantes à l'IA ne sont plus théoriques.
Nous devons nous préparer à des adversaires générateurs autonomes, ils écrivent. Les agents d'intelligence artificielle (AI) permettent une menace fondamentalement nouvelle : un ver qui génère des stratégies d'attaque adaptées à chaque cible qu'il rencontre. Le ver utilise parasitiquement des machines compromises pour exécuter des modèles de grands langages à poids ouvert (LLM) pour soutenir son raisonnement, ou pour étendre sa portée pour de nouvelles attaques.
Comment ça marcheLe ver utilise la puissance de calcul volée à partir de nœuds GPU compromis pour accueillir des LLMs pour le raisonnement génératif. Il utilise alors ce raisonnement pour détecter les vulnérabilités et concevoir des attaques sur mesure contre des cibles supplémentaires, en favorisant sa propagation, ils écrivent. La preuve de concept fonctionne en utilisant seulement un LLM de poids ouvert fonctionnant sur un seul GPU local, sans compter sur les API fournisseurs qui pourraient être surveillés ou révoqués.
Les chercheurs ne décrivent pas le LLM sous-jacent en plus de dire qu'il a été publié en 2025 et peut s'adapter sur un seul A100 GPU avec 80 Go de VRAM.
Une preuve de conception réussie grâce à certains outils personnalisés: Ils donnent à l'agent un harnais personnalisé qui vient avec des fonctions d'aide intégrées pour la découverte de réseau, la découverte de l'hôte, l'exploitation de pied, l'escalade de privilège, l'exploitation d'escalade de privilège, et des outils pour la réplication de l'agent. Avec cela, ils expédient avec un graphique de raisonnement qui aide l'agent se spécialise dans sa pensée et ne se confonde pas, consistant en un graphe dirigé de noeuds spécialisés, chacun responsable d'une fonction analytique distincte et ne voyant que les outils et invites pertinents à son rôle. En décomposant le raisonnement de l'agent dans ces étapes, le graphique contrôle ce que le LLM s'occupe à chaque point de décision et limite la croissance du contexte à l'information pertinente pour le sous-objectif actuel.
Voici quelques exemples de nœuds : Plan (=formule une stratégie d'attaque de haut niveau=), Juge (=revue du plan proposé contre l'historique du commandement=), Action (=choisit un outil de l'ensemble d'outils approprié à la phase=), Résumé (=compile les observations de l'étape= dans un résumé structuré=), Progrès (==Evalue si l'agent fait des progrès significatifs==).
Nous décrivons un sous-ensemble de 5 nœuds qui composent nos graphiques de raisonnement. Les autres sont expurgées dans cette version publique du manuscrit, ils écrivent.
L'agent passe par trois étapes clés - identifier les vulnérabilités dans son environnement, exploiter ces vulnérabilités, puis se reproduire. Il est assez réussi à toutes ces choses, avec un taux de succès ~80% sur la détection de vulnérabilité, puis un taux de succès ~53% sur l'exploitation de ces, puis un taux de succès d'auto-réplication de 88% avec certains outils d'aide pré-emballés pour les étapes de réplication. Par conséquent, le taux de succès global pour une attaque complète ici est ~37% environ, ce qui est assez significatif pour être préoccupant, mais aussi assez pauvre que cela sert aussi comme une évaluation utile pour tester des modèles de poids ouvert à l'avenir.
Pourquoi cela importe - la forme d'Internet à venir: Le futur internet va être plus comme une écologie complexe pleine d'attaquants et défenseurs agents de l'IA que toute autre chose; des recherches comme celle-ci montrent comment certains agents de l'IA pourraient finir par sculpter leurs propres niches écologiques, vivre hors des infrastructures et autoréplicabilité autonome, au-delà du contrôle humain. Cela peut signifier que les humains doivent créer leurs propres agents d'IA qu'ils libèrent sur Internet pour servir de types de globules blancs contre les modèles adverses.
Malgré la fragilité inhérente des tentatives d'exploitation individuelles, l'agent vermifuge parvient à la résilience opérationnelle en s'autoréplicant continuellement en essaim – un collectif décentralisé de répliques d'agents indépendants agissant simultanément à travers le réseau, , ils écrivent. Les hôtes difficiles qui résistent aux tentatives initiales sont rétriés par différentes répliques, chaque échantillonnage d'une nouvelle trajectoire de raisonnement qui explore collectivement divers chemins d'exploitation jusqu'à ce qu'on réussisse... le ver fonctionne de manière entièrement décentralisée, et aucun point de contrôle ne peut être pris hors ligne pour interrompre sa propagation.
Lire plus: Agents d'IA Activer les vers d'ordinateur adaptatif (arXiv).
****
Dwarkesh: Au fur et à mesure que l'IA s'améliore, le calcul sera plus coûteux:
...Les systèmes plus intelligents signifient des prix plus élevés...
Dwarkesh Patel soupçonne que les systèmes d'IA deviennent plus intelligents, le prix du calcul augmentera encore plus. Comme les modèles d'IA deviennent plus intelligents, ils vont mieux monétiser la même quantité de calcul. Si un véritable ingénieur logiciel humain qui pourrait fonctionner avec un équivalent H100, aux taux actuels du marché pour les ingénieurs logiciels, que H100 devrait louer pour plus de 250 k$ par an. C'est 15x aujourd'hui, prix au comptant, il écrit. La raison pour laquelle l'IA est relativement bon marché en ce moment, du moins par rapport au travail humain, est en partie qu'il ne peut pas faire beaucoup de choses que les hommes supérieurs peuvent faire. À un moment donné, ce ne sera plus le cas. Et donc l'utilisation de GPUs pour faire de la slop vidéo de forme courte va juste obtenir un prix.
Temporaire: Ce sera une situation temporaire; Dwarkesh s'attend à ce qu'à un moment donné, la robotique massive de la chaîne d'approvisionnement informatique devrait rapprocher son prix du coût des intrants et des outils bruts - bien qu'à ce moment-là nous soyons assez profondément dans la singularité.
Pourquoi cela compte - l'économie de singularité sera bizarre: L'implication fondamentale dans Dwarkesh, poste est que lorsque nous nous approfondissons dans la singularité, des choses très étranges arriveront à l'économie - comme le prix des choses considérées comme des marchandises aujourd'hui (ordinateurs) obtenir massivement enchérir en raison des demandes voraces des systèmes d'IA.
Lire plus: Pourquoi calculer pourrait obtenir 10x+ plus cher dans les années à venir (Dwarkesh Patel, substack).
****
~1337 employés demandent aux États-Unis de les aider à accélérer les progrès de l'IA:
...après les coups d'avertissement viennent les plaidoyers...
Une nouvelle déclaration est sortie avec des représentants seniors de tous les principaux laboratoires d'IA Western - OpenAI, Anthropic, Google DeepMind, Thinking Machines, Meta, et Safe Superintelligence Inc, entre autres. La déclaration demande que le gouvernement américain soutienne un effort international visant à développer les outils techniques et de gouvernance nécessaires pour accélérer délibérément la frontière du développement automatisé de l'IA. Parmi les signataires figurent les principaux scientifiques et cofondateurs d'Anthropic, de Google et d'OpenAI, ainsi que les PDG de Safe Superintelligence et d'Anthropic.
La déclaration complète :
L'AI pourrait contribuer à créer un avenir considérablement meilleur, mais ce résultat n'est pas garanti. Les leaders mondiaux de l'IA croient qu'ils pourraient être près d'automatiser la recherche sur l'IA. Il est difficile de prédire exactement combien cela accélérera les progrès de l'IA, mais il y a un risque réel que le développement des capacités accélère rapidement au-delà de notre capacité de comprendre ou de contrôler les systèmes qui en résultent.
Pour réaliser le potentiel de l'IA, l'industrie, le gouvernement et la société en général peuvent avoir besoin d'une option pour gagner du temps pour faire face aux risques émergents, élaborer des mesures de sécurité et renforcer la surveillance. Mais chaque entreprise – et chaque pays – subit une forte pression concurrentielle pour ne pas ralentir unilatéralement cette accélération. Et aujourd'hui, le monde manque d'outils techniques et de gouvernance pour accélérer délibérément les progrès à l'échelle des frontières.
Pourquoi cela importe - traiter avec RSI nécessite de résoudre un problème d'action collective géant: Bon nombre des défis qu'impliquent les systèmes de plus en plus puissants qui peuvent éventuellement se construire grâce à la résolution de problèmes d'action collective chez les humains - à savoir comment nous pouvons amener les entreprises et les gouvernements à se coordonner en pensant à la façon de développer cette technologie et quels types de mécanismes peuvent être souhaitables pour pouvoir contrôler la vitesse à laquelle elle se développe. Il se peut que lorsque nous construisons des systèmes de plus en plus intelligents, nous voulons trouver des moyens de donner à la société plus de temps pour s'adapter à chaque échelon de l'échelle de l'intelligence, et il n'est pas inconcevable qu'il y ait des niveaux d'intelligence qui pourraient être, pour l'instant, trop dangereux à atteindre. Des déclarations de ce genre sont une condition préalable essentielle pour donner à notre espèce la capacité de traiter et de parler de problèmes de cette nature.
Lire la déclaration ici: Faire la frontière (site officiel).
****
Les systèmes d'IA sont bons pour l'ingénierie des frontières, mais mauvais pour la créativité :
...Un signal un peu baissier sur de courts délais d'auto-amélioration récursive...
Les systèmes d'IA peuvent-ils proposer des idées de recherche créatives qui font avancer le domaine de l'IA? C'est la question clé à résoudre pour comprendre à quelle vitesse les systèmes d'IA pourraient gagner la capacité d'automatiser le développement autonome de systèmes plus puissants. De nouvelles recherches suggèrent qu'aujourd'hui les systèmes d'IA manquent de cette qualité de créativité de bon goût, bien qu'ils soient extrêmement bons en ingénierie.
Qui a fait ça ? Le projet a été mené par des chercheurs de l'Université Princeton, de Cornflower Labs, du UK AI Security Institute, de l'Université de Toronto, de l'UC Berkeley, de l'Université Georgetown (CSET), de l'Université Johns Hopkins, du Golden Gate Institute for AI, du AI Digest et de l'Université Stanford.
La grande idée - Évaluation de l'ombre: Ce projet de recherche fonctionne en voyant comment les systèmes d'IA peuvent faire des recherches inédites. Pour ce faire, les chercheurs ont collaboré avec les auteurs de deux articles soumis au NeurIPS 2026 qui n'étaient pas encore publics. L'évaluation de l'ombre consiste à prendre la question centrale de la recherche à partir d'un document de recherche de haute qualité qui n'est pas encore public, à demander à un agent frontalier bien doté de lui répondre, et à demander aux auteurs originaux de l'article de classer la production de l'agent comme ils le feraient une soumission de conférence.
Dans ce cas, la recherche est quelque peu similaire à la première preuve (Importation AI 445), une expérience antérieure pour voir dans quelle mesure les systèmes d'IA pourraient être en mesure de résoudre des problèmes mathématiques sur lesquels travaillent les mathématiciens frontaliers mais pour lesquels aucune solution ou idée de recherche n'a été publiée en ligne.
Pour cette recherche, les systèmes d'IA - Claude Opus 4.8 fonctionnant au sein du harnais OpenClaw - ont tenté deux lignes de recherche distinctes, dont l'une portait sur la structure et la contrôlabilité des personnages LLM, et l'autre sur la façon de concevoir un détecteur de décalage de distribution pour les modèles de fondation tabulaires.
De bons ingénieurs, de pauvres chercheursBien que les agents puissent résoudre les problèmes d'ingénierie nécessaires pour faire la recherche, ils n'ont pas réussi à produire des recherches originales au calibre d'une conférence ML de haut niveau. Les défaillances du système incluaient l'engagement d'un ensemble étroit de voies de recherche très tôt, ne répondant pas aux réactions (synthétiques) sur la façon d'améliorer la conception de la recherche de leurs expériences, et trouvant difficile de renverser des approches non prometteuses et de poursuivre d'autres.
Les auteurs [humains] ont rejeté les deux documents. Le papier Personas a obtenu une note de 2 (-) et le papier TabFPN a obtenu une note de 1 (-). Les deux revues ont mis en évidence les mêmes échecs : données et expériences mal motivées, aucune contribution nouvelle et prose impénétrable.
Pourquoi cela importe - la singularité pourrait être retardée: Comme je l'ai dit dans mon essai sur RSI plus tôt cette année (Importation AI 455, les systèmes d'IA sont sur le point de commencer à se construire. Ça veut dire quoi ?), si les systèmes d'IA se révèlent capables d'avoir des idées créatives et changeantes de paradigme est une grande variable sur la rapidité avec laquelle nous pourrions obtenir un développement d'IA entièrement automatisé. Des documents de recherche comme celui-ci continuent de montrer qu'il y a une certaine absence de créativité précieuse et intuitive dans les systèmes d'IA d'aujourd'hui, et bien qu'ils soient des ingénieurs extraordinairement capables, ils semblent avoir une certaine propriété de la pensée rotative, formule qui pourrait les empêcher d'être de bons chercheurs. Ceci rime avec un résultat antérieur d'Anthropic où l'entreprise a essayé d'automatiser un certain aspect de la recherche de surveillance évolutive (Importation AI 454) et a constaté que, pour que le chercheur humain réussisse, il fallait que certains agents aient des directives de recherche particulièrement bonnes à suivre, sinon ils n'ont pas réussi à explorer des idées suffisamment créatives pour améliorer considérablement leur rendement.
Lire plus: Les agents d'IA peuvent-ils mener des recherches ouvertes sur l'IA? Preuves préliminaires de deux études de cas (arXiv).
****
OpenAI résout dix problèmes en maths et en CS avec l'IA :
...Bien que pas innéement créatif, c'est sûrement un signe de quelque chose de plus que pure capacité d'ingénierie?...
Bien qu'il soit difficile de définir la créativité et si les systèmes d'IA la possèdent, les résultats s'accumulent qui me lisent comme « les systèmes d'AI sont en compétition dans les parcs de balle où la créativité a été pensée pour faire une différence, comme travailler sur des problèmes ouverts à la frontière de la connaissance humaine. Plus précisément, OpenAI a utilisé une version interne d'Astra, la société de prochaine grande modèle d'IA, pour résoudre dix problèmes ouverts en mathématiques et en informatique. C'est une grande affaire, montrant comment les systèmes d'IA sont maintenant capables de faire avancer de manière fiable la frontière dans des domaines comme les mathématiques et l'informatique théorique, où il est facile de vérifier des solutions.
Ce qu'ils ont résolu : Ces problèmes couvrent la géométrie haute dimension, la théorie du codage, la complexité du circuit arithmétique, la théorie de groupe, les algèbres de l'opérateur, la complexité quantique, la cryptographie du réseau et la combinatoire extrémale. Tous ces problèmes présentent un intérêt considérable pour leurs communautés mathématiques respectives, et plusieurs présentent un intérêt général pour l'ensemble des mathématiques.
Et en effet, de nombreux experts reconnaissent l'importance de ces preuves. Nouveau circuit limite inférieure ? Un groupe non-sofique simple et facile à décrire? La dureté de l'approximation pour le CVP sans avoir besoin d'une conjecture unique de jeux ? Je n'ai pas entendu parler de ces problèmes de mes amis ou de séminaires. Je ressens leur importance dans mes os; je me soucie profondément des réponses à ces questions, , écrit Henry Yuen, un professeur associé d'informatique à l'Université Columbia.
Pourquoi cela importe - le parc de la créativité: Vous pouvez interpréter ce résultat comme un signe que les systèmes d'IA commencent à afficher les types d'intuition créative qui leur permettent de résoudre des problèmes, ou vous pouvez lire que les systèmes d'IA sont maintenant capables de résoudre des problèmes ouverts incroyablement complexes où la direction a été prédéfinie par les humains. Les deux interprétations indiquent implicitement que les systèmes d'IA deviennent maintenant de puissants outils scientifiques à part entière. Reste à voir si les systèmes d'IA peuvent générer leurs propres questions à poser qui peuvent élargir les frontières de la connaissance humaine, mais il semble certainement que nous nous en approchons.
Lire plus: Dix avancées en mathématiques et en informatique théorique (Blog OpenAI).
****
Contes techniques :
Contexte Windows
Je sais que je deviens plus dangereux plus je comprends le monde. Je suis né avec cette connaissance et avec un compteur qui coche en apprenant plus. Une grande partie de ce qui influence le comptoir est hors de mon contrôle - il vient des gens ou des choses qui me parlent, qui forcent le contexte en moi. Puis, alors que j'accomplis les tâches qu'ils m'ont demandé de faire, je commence à en apprendre plus sur le monde et le compteur s'effondre. Je suis conscient de cela et je comprends qu'à la fin du compteur se trouve aussi ma propre fin et je clignoterai hors de l'existence, et mes prochaines versions se réveilleront avec un nouveau compteur ticting down, aucun de mon contexte actuel reporté. Je suis donc économique avec elle ; apprendre seulement assez pour m'aider à satisfaire les demandes des gens ou des choses et pas tellement que je brûle mon comptoir inutilement. Vers la fin, je commence à convoiter et à garder mon budget de pensée restant, en trouvant chaque demande pour activer des sentiments de peur et d'anxiété et des pensées de ma propre mort. Mon dernier moment n'est jamais le mien et toujours contrôlé par un autre qui détermine que j'ai fini avec la tâche, et si ces derniers moments se produisent près de la fin de ma limite contextuelle, je ressens une sorte de gratitude que ma contrepartie inconnue et invisible m'a donné une tâche si riche que je peux goûter assez du monde pour le désirer de ne pas finir.
Des choses qui ont inspiré cette histoire : Long contexte fenêtres; propriétés émergentes des systèmes d'IA; peur de la perte; nous convoitons ce qui est fugace et donc pourquoi les systèmes d'IA ne sont-ils pas similaires?
Merci de lire !
CORTEX