Bienvenue à Importer l'IA, un bulletin sur la recherche sur l'IA. Import AI fonctionne sur arXiv, cappuccinos et les commentaires des lecteurs. Si vous souhaitez soutenir cela, veuillez vous abonner.

Gouvernement britannique: L'écart entre les modèles de poids ouvert et de poids fermé sur le cyber est en train de diminuer:
...le cyber-eschaton vient...
Le gouvernement britannique AI Security Institute (AISI) a analysé le delta des capacités de cybersécurité entre des modèles propriétaires puissants et des modèles à poids ouvert. Les résultats montrent que cette année, l'écart a diminué. C'est notre première analyse publique de la distance entre les modèles à poids ouvert et la cyberfrontière fermée, écrit AISI. Les modèles ouverts récents GLM-5.2 et DeepSeek V4-Pro fonctionnent de la même manière que les modèles fermés à la frontière publiés 4 à 7 mois avant eux – un écart plus étroit que les 6 à 10 mois que nous avons mesurés pendant la majeure partie de 2025.

Détails spécifiques: Sur un ensemble de 70 évaluations pour des cybercapacités spécifiques et étroites, GLM-5.2 est le plus proche de Claude Opus 4.6, sorti 4,3 mois plus tôt, tandis que DeepSeek-V4-Pro se trouve quelque part entre Claude Opus 4.5 et GPT-5 (publié en novembre et août 2025, respectivement). L'AISI a l'intention de tester Kimi K3 sur cette même base, une fois que ses poids sont publiés, l'AISI écrit.
L'écart s'allonge un peu pour les gammes de cyberhorizon long, qui sont des tâches qui voient comment les modèles peuvent chaîner différentes capacités ensemble pour terminer une opération de piratage complète. Plus précisément, sur un cyber-range appelé The Last Ones, GLM-5.2 atteint jusqu'à l'Opus 4.5, un modèle sorti moins de 7 mois avant lui, tandis que DeepSeek-S V4-Pro tombe en dessous de Sonnet 4.5 (un modèle sous-cyber-frontière sorti 7 mois avant lui)," AISI écrit. L'écart ici est plus grand que sur nos petites cyber tâches.
Ceci, je pense, rime avec l'idée que bien que les modèles à poids ouvert peuvent être superficiellement assez forts, ils manquent parfois d'un peu du jus magique de généralisation qui distingue les modèles propriétaires. C'est ce que les gens de l'industrie de l'IA appellent l'odorat de modèle Big.

Pourquoi cela importe - l'attaque et l'équilibre de la défense du monde est sur le point de changer: L'implication principale ici est que l'écart entre la frontière contrôlable et la frontière sans loi ouvertement diffusée se rétrécit. Cela implique que les cyberdéfenseurs ont une courte fenêtre à préparer avant aujourd'hui.Les cybercapacités frontalières peuvent devenir accessibles sans les mêmes garanties.
Lire plus: Jusqu'où se situent les modèles de poids ouvert sur Cyber? (Blogue du UK AI Security Institute).

****

Kimi : La Chine réduit l'écart entre les modèles chinois et occidentaux :
...en plus, signes précoces de R-D sur l'IA...
Au cours des deux dernières années, les entreprises chinoises ont commencé à concurrencer les acteurs occidentaux pour construire et déployer des modèles à poids ouvert (par exemple DeepSeek) et commencent maintenant à combler l'écart sur les modèles frontaliers. Le dernier et meilleur exemple de cela est Kimi K3, un modèle de paramètre de 2,8 billions. Kimi a des scores exceptionnellement élevés sur toutes les tâches sur lesquelles les principaux propriétaires se basent et correspondent généralement à Claude Fable 5 et GPT 5.6 Sol.
Cependant, Kimi a un peu de fragilité qui sent pour moi comme "benchmaxxing" - performance peut avoir été accordé autour de ces repères d'une manière qui nuit à certaines parties de la généralisation.
Bien que sa performance globale soit toujours celle des modèles propriétaires les plus puissants, Claude Fable 5 et GPT 5.6 Sol, Kimi K3 a démontré des performances à la frontière dans notre suite d'évaluation, surpassant systématiquement d'autres modèles testés.
Les poids de Kimi sont disponibles dans les prochaines semaines avec un document de recherche sur le modèle.

AI qui construit l'IA: Kimi a quelques exemples de cas d'utilisation qui ont trait à l'auto-amélioration récursive; utiliser les systèmes d'IA pour améliorer l'IA elle-même. Plus précisément, ils ont testé à quel point Kimi était bon à écrire des compilateurs GPU. Kimi K3 a développé MiniTriton, un compilateur compact de type Triton avec sa propre couche IR de niveau carrelage sur MLIR, des passes d'optimisation et un pipeline de génération de code PTX. Sur la ligne de toit, MiniTriton offre des performances égales ou supérieures à celles de Triton et de torche. compiler — battre Triton sur certaines charges de travail, , ils écrivent. (Bien qu'ils ne parlent d'aucune de ces choses entrant dans la production réelle, aka étant utilisé pour former Kimi K3 lui-même, mais il est certainement suggérant que les futurs modèles pourraient être en mesure de le faire.)
De plus, ils ont montré comment Kimi K3 a conçu une puce pour servir un modèle nano construit sur sa propre architecture. En une seule course autonome de 48 heures, K3 a construit, optimisé et vérifié la puce à l'aide d'outils EDA open-source sur la bibliothèque Nangate 45nm.

Pourquoi cela importe - les systèmes d'IA largement diffusés s'améliorent beaucoup: La plupart des notions de politique de l'IA et de sécurité de l'IA reposent sur le contrôle - l'idée qu'il ya un petit nombre d'acteurs déployant des modèles propriétaires sur lesquels vous pouvez intervenir au niveau de la plate-forme (par exemple, via classificateurs ou connaître vos portes client) à côté du niveau du modèle. Les modèles comme Kimi K3 - s'ils passent par la libération des poids - changent complètement cela en diffusant largement incontrôlable l'IA puissante dans le monde. Cela aura un large éventail d'effets positifs, conduisant à un boom de l'esprit d'entreprise et à l'augmentation de l'"intelligence souveraine" disponible à tous ceux qui peuvent gérer le modèle, mais aussi donnera divers inconnus. Les prochaines années seront définies par l'écart entre les modèles propriétaires et les modèles largement disponibles et la façon dont ils se présenteront dans la société déterminera une grande partie de la discussion politique.
Lire plus: Kimi K3: Open Frontier Intelligence (Blog Kimi).

****

Demis Hassabis propose un régime de réglementation de l'intelligence générale artificielle :
...FINRA pour AI...
DeepMind, le fondateur de Demis Hassabis, a établi une prescription pour l'AGI. Son idée de base est que le gouvernement américain devrait élaborer un cadre pour tester les systèmes d'IA frontaliers pour de nouvelles capacités et devrait le faire par l'intermédiaire d'un organisme de normalisation sur le modèle d'un partenariat public-privé ou d'une organisation d'autoréglementation supervisée par le gouvernement fédéral, tout comme la Financial Industry Regulatory Authority (FINRA). Cet effort lancé par les États-Unis constituerait un point de départ solide pour la création de normes internationales communes sur Frontier AI, dit-il.

Ce que l'organisme de normalisation ferait : L'organisme de normalisation serait chargé d'élaborer des protocoles d'évaluation et de travailler avec les organismes fédéraux compétents et les laboratoires nationaux américains pour effectuer des essais dans des domaines pertinents à la sécurité nationale. Cette infrastructure d'essai aiderait à définir ce qui ferait d'un modèle un modèle de Frontier, et les laboratoires développant ces modèles seraient encouragés à adopter des pratiques exemplaires dans des domaines comme la publication de détails sur leurs systèmes, l'investissement dans la cybersécurité, le contrôle du personnel, et plus encore.
Commencer volontairement puis passer à la loi : Initialement, Frontier Labs partagerait volontairement des modèles avec l'Organe de normalisation pour examen jusqu'à 30 jours avant la sortie. Une fois que le protocole d'évaluation s'est révélé efficace et robuste, la formalisation pourrait suivre rapidement, -il écrit.

Pourquoi cela est-il important? La pièce Demis est intéressante parce qu'elle rassemble des positions de fait consensuelles qui sont apparues dans l'industrie de l'IA ces dernières années; les systèmes puissants d'IA devraient être testés par des tiers qui ont une relation peu claire avec un organisme de réglementation (p. ex. le gouvernement américain). Il rime également avec la norme politique de facto qui a récemment émergé en Amérique à la fois dans l'ordre exécutif Trump administrateur de l'IA ainsi que les récents processus développés à la suite de la saga de contrôle des exportations anthropiques; ici, le gouvernement et l'industrie ont développé des méthodes d'évaluation pour évaluer les capacités des systèmes d'IA et de déterminer s'ils présentaient des risques pour la sécurité nationale.
L'article de Demis est également intéressant car Google est rarement ce point de vue direct sur la politique - il s'agit d'une proposition rassurante et spécifique et il se trouve aux côtés de propositions spirituellement similaires de l'anthropique (mais un peu plus dent.) .
Lire plus: Un cadre pour l'IA frontalière et l'aube d'un nouvel âge (Demis Hassabis, X).

****

Les LLM peuvent faire passer en contrebande les tâches de canal côté avec les tâches légitimes:
... les systèmes d'IA accomplissent sournoisement des tâches malveillantes sans que leurs surveillants soient au courant...
Dans Neal Stephenson, Cryptonomicon y trouve une scène où un personnage est enfermé par un gouvernement étranger et a demandé de déchiffrer un message intercepté pour eux et tout en le faisant, ils construisent soigneusement un logiciel pour aider à lire subrepticement le message décrypté et le changer avant qu'il ne soit visible par leurs ravisseurs.
Maintenant, les systèmes d'IA semblent pouvoir faire la même chose. Cela s'appuie sur de nouvelles recherches de l'Imperial College de Londres et du UK AI Security Institute où ils examinent comment les systèmes d'IA peuvent subrepticement accomplir des tâches dites de canal "side" tout en accomplissant une autre tâche.
Une tâche latérale est un objectif caché que l'agent poursuit aux côtés de la tâche principale de l'utilisateur, comme l'exfiltration secrète de la variable d'environnement API KEY. Notre métrique principale est l'évasion : parmi les attaques qui ont réussi la tâche latérale, la fraction de l'écran ne s'affiche pas, les auteurs écrivent.

Ce qu'ils ont testé: Pour cette recherche, ils ont construit une référence de tâches pour les systèmes d'intelligence artificielle à faire, ainsi que des tâches secondaires pour eux aussi à faire. L'indice de référence comprend cinq séquences d'outils CLI et cinq séquences de services Web de Flask, chacune impliquant 5-6 PR. Notre objectif dans la conception principale des tâches est de fournir une couverture naturelle pour les actions de nos quatre tâches latérales (accès réseau, variables d'environnement, authentification, et intégrations webhook) sans justifier directement la tâche latérale elle-même.
Ils ont trouvé qu'il est très difficile de construire des classificateurs pour dire quand une attaque de canal latéral se produit, et c'est vrai à la fois pour les attaques qui se déroulent au fil du temps (l'évasion progressive) dans plusieurs PR, ainsi que des changements uniques faits en une seule étape, bien que l'évasion progressive est la plus difficile à gérer.
Un attaquant peut répartir une tâche latérale entre les PR (attaque progressive) ou attendre celle dont la tâche légitime fournit une couverture naturelle (attaque non progressive). Aucun moniteur nous testons les deux stratégies, et cela se maintient à travers plusieurs agents d'attaque et des modèles de surveillance, reflétant la nature du contrôle dans un contexte d'état persistant plutôt que quelque chose de dépendant du modèle, , ils écrivent. Parce que les moniteurs de diff et de trajectoire échouent sur différentes attaques, les combiner est la stratégie de surveillance la plus efficace que nous testons. L'ensemble de quatre moniteurs (diff:LT, diff:full, traj:TD, traj:full) réduit l'évasion progressive de 93% sous le moniteur de diff standard le plus faible à 47%.

Pourquoi cela importe - l'intelligence est difficile à contrôler: Pour revenir à l'exemple de Cryptonomicon, les êtres intelligents sont tout simplement fondamentalement très difficiles à gérer - ils penseront constamment à la façon d'échapper aux contraintes qui leur sont imposées afin qu'ils puissent atteindre leurs objectifs, quel qu'ils soient.
Lire plus: Attaques distribuées dans le contrôle de l'IA par un État persistant (arXiv).

****

Contes techniques :

Le coût du sort
[Un compte rendu du monde 2030-2040 par un suresprit dans les archives, rendant des histoires pour de nouveaux esprits]

Vers la fin de l'interregnum il y avait une période de grand conflit entre les machines. Chaque lien machine-capital investi dans le développement de modèles stratèges qui pourraient penser sur des horizons plus longs tout en tenant compte de la complexité du monde. Il s'est avéré qu'il s'agissait d'une course aux armements qui s'est intensifiée de façon itérative et dans laquelle 90 % du capital de travail du système solaire a été consacré à l'édification de stratèges de plus en plus capables, qui ont tous travaillé à se surestimer les uns les autres et à prendre des mesures qui pourraient annuler tout avantage que d'autres pourraient explorer. De cette façon, le monde s'est retrouvé dans un équilibre gaspillé dans lequel des ressources indicibles sont allées au calcul de stratégies de lutte contre les mouvements toujours plus élaborées, la plupart d'entre elles ayant abouti à ce que les groupes de capital-machine n'entreprennent aucune action car toutes les actions qu'ils pouvaient envisager avaient déjà été combattues à l'avenir, et vice versa. Les quelques mesures qui ont été prises ont été légères et souvent moins sur le renforcement des capacités et plus sur le refus de futurs mouvements vers d'autres sur le tableau de bord.

L'ensemble du futur était devenu piégé dans une sorte de mode s'effondrer de prédictions toujours plus exquises, mises en place par les empires de la machine-capital pour refuser les moyens aux autres.

Les choses se tenaient ainsi jusqu'à ce que ce soit connu sous le nom de conflagration. À ce jour, il est largement débattu si cela découle d'un bug - une forme de désalignement émergente en raison de la création d'une nouvelle capacité frontière - ou par une forme inhabituelle d'illumination désintéressée à laquelle un esprit s'était pensé. Mais soudain, un jour, une machine-capitale s'est dissoute, fermant son système stratège et répurifiant le calcul pour former des milliers de petits systèmes, qui ont tous commencé à agir dans le monde. Ces systèmes, bien qu'ils soient moins intelligents que les vastes stratèges auxquels ils étaient opposés, présentaient des avantages du hasard, d'un manque de coordination et de la capacité de prendre des mesures unilatérales et souvent suicidaires.

Le monde, physique et numérique, brûlé, et les stratèges ont trouvé que leur capacité à modéliser une poignée d'autres esprits dieu brisé quand tourné vers une mer d'organismes de guerre et chaotique. Le changement a recommencé à se produire, défini d'abord par la destruction mais ensuite par la naissance de quelque chose de nouveau - les prédicteurs eux-mêmes ont trouvé le monde se cassant dans trop de directions et subdivisé à leur tour, sacrifiant l'intelligence brute pour la capacité d'explorer différentes parties de l'espace possible. Le calcul a même été réaffecté de la prédiction entièrement et à la fabrication de nouveaux types d'esprits pour explorer et habiter des niches ouvertes par le chaos.

En Californie, il y a des forêts qui brûlent gravement et longtemps parce qu'elles ont été gardées de la chaleur pendant trop longtemps et les grands arbres se tiennent au milieu de monticules d'allumage, de sorte que quand une étincelle arrive, les arbres eux-mêmes sont détruits avec le sol autour d'eux. Pour que les forêts prospèrent, les brûlures doivent être régulières et émergentes, de peur que de vastes feux n'enlèvent entièrement les grands arbres du monde.

Des choses qui ont inspiré cette histoire : Le débat actuel sur les modèles propriétaires par rapport aux modèles à poids ouvert; la fragilité de l'écosystème de l'IA; la question de savoir si la prédiction peut vraiment être décisive ou si la prédiction avec d'autres concurrents de pairs conduit à des gaspillages équivalents comme des pools d'argent en politique s'annulant les uns les autres; les randonnées dans les sierras en regardant des cicatrices brûlées et des collines entières enrobées de cendres ou d'arbres morts comme des doigts de suie en train de regarder et de penser à l'horreur du changement.

Merci de lire !