Incident du visage de la foule

Ça fait... une semaine.

Au cas où vous n'auriez pas entendu, cette semaine OpenAI a publié un billet de blog disant que la récente attaque de l'IA contre Hugging Face était en fait... Sol et un modèle prélibératoire.

Je me sens très chanceux d'avoir pu voir les choses se dérouler dans les coulisses et contribuer au blog.

Malheureusement, je ne peux pas en dire plus en ce moment, sinon je suis très impressionné par mes collègues.

Parrain

* Le prochain incident de sécurité peut ressembler au travail normal

Le prochain incident de sécurité peut ne pas ressembler à une attaque. Il peut ressembler à un employé qui déplace des données sensibles, qui utilise un outil d'IA ou qui accomplit une tâche de routine.

Les contrôles de sécurité traditionnels peuvent voir l'activité mais manquent souvent pourquoi elle se produit ou ce qui devrait être la réponse.

Ent apporte l'intention en temps réel et le contexte comportemental au travail humain et à l'IA, identifie les actions risquées, et intervient avant qu'il ne devienne un incident, sans perturber la productivité légitime.

Rencontrez un expert en sécurité d'Ent pour apprendre comment protéger le travail tel qu'il se passe.

(En milliers de dollars des États-Unis) Voir comment sécuriser votre espace de travail C'est-à-dire

AppSec

Protégez votre code avec notre nouveau chapitre Manuel de test
Sentier des Bits a publié un nouveau chapitre de Rust dans leur manuel d'essais, y compris un vue d'ensemble de la sécurité de ce que les garanties de Rust. des outils d'analyse dynamique comme Miri pour la détection de comportement non définie, proptest pour les tests de propriété, test de mutation, plus analyse statique avec des peluches Clippy et le vérificateur de modèle Kani. Le guide comprend des questions de sécurité sous-estimées, y compris la sécurité du vent, le non-déterminisme, les erreurs arithmétiques et la prépondérance de l'opérateur gotchas, et fournit trois solutions pour la mise à zéro de mémoire des secrets. Ils ont également publié Examen de la rouille, un plugin Claude Code co-construit avec Aptos Labs qui automatise les revues de sécurité ciblant une douzaine de classes de bugs, y compris la sécurité de la mémoire, les risques de proximité, les pièges FFI et les problèmes d'annulation async.

Comparaison des harnais de sécurité du code AI Open-Source
Semgrep's Isaac Evans compare les outils de sécurité de code à source ouverte à l'IA, les classant en trois types, génération d'exploitation dirigée par LLM, qui trouve des bugs en les plantant dans un bac à sable, comme Anthropic défense-code-harness pour les bogues mémoire C/C++. LLM-skill-boosting, qui ajoute des compétences à l'intérieur des LLM pour les aider à raisonner la façon dont un chercheur de vulnérabilité humaine, y compris Cloudflare sécurité-audit-compétence, Sentier des Bits' Compétences bibliothèque, CapitalOne Vulnhunter, et Google Mante. Et les hybrides SAST+LLM, qui utilisent l'analyse statique traditionnelle pour transmettre les résultats des candidats à un LLM pour un examen plus approfondi, y compris Cisco Ai-deep-sast, Vercel Labs' profondeur, Visas VVAHet rappeur.

Les principaux différenciateurs comprennent si les outils exécutent le code pour valider les constatations, générer des correctifs, soutenir le fonctionnement entièrement local, et utiliser la validation contradictoire lorsqu'un second agent indépendant tente de falsifier les constatations. Dans l'ensemble, Isaac ne voit pas émerger de leader du marché et s'attend à ce que de nombreuses entreprises construisent leurs propres « jigs de magasin » pour trouver la vulnérabilité tandis que le terrain se déplace trop vite pour qu'un harnais source ouverte de référence puisse se consolider.

Il serait cool de voir une analyse TP/FP/FN/coût sur différents harnais.

Parrain

* Nouveau webinaire : Les comportements quotidiens qui créent l'IA ombre et comment les attaquants les exploitent

Shadow AI n'est pas un problème d'employé voyou. C'est quatre comportements ordinaires : s'inscrire à un nouvel outil, se connecter à un nouvel outil approuvé avec un compte personnel, installer une extension, accorder un consentement OAuth. Chacun construit la surface d'attaque que les attaquants ciblent maintenant directement.

Joignez-vous à la dernière séance d'information sur les menaces de Push Field CTO Mark Orlando alors qu'il met des chiffres difficiles sur l'écart et montre comment les attaquants ont fait de l'IA ombre une partie clé de leur boîte à outils en 2026.

(En milliers de dollars des États-Unis) Inscrivez-vous maintenant C'est-à-dire

Je pouvais voir comment l'interaction entre toutes ces subventions OAuth, les connexions LLM, les extensions d'imitation, etc. se combinent de manière désagréable.

Chaîne d'approvisionnement

pnpm 11 Adds Supply Chain Protection Defaults for Minimum Release Age and Exotic Subdependences
Des chaussettes Sarah Gooding décrit comment pnpm 11 allume les protections de la chaîne d'approvisionnement par défaut, y compris un délai d'attente de 24 heures avant que de nouvelles versions de paquets puissent être installées, bloquant les dépendances transitoires à partir de sources non standard comme Git repos et tarballs directs, et une nouvelle allowBuilds modèle qui consolide le contrôle sur quels paquets peuvent exécuter des scripts install-time. La version ajoute également des commandes de registre natif, génération SBOM intégrée via pnpm sbomet pnpm audit --fix=update pour les corrections de vulnérabilité basées sur le fichier verrou.

Bois de maison: 6.0.0
Mike McQuaid annonce Homebrew 6.0.0, qui introduit tap trust pour exiger que les taps tiers soient explicitement fiables avant que leur code Ruby arbitraire ne tourne tandis que les taps officiels restent fiables par défaut. Deux autres changements réduisent le code qui fonctionne sans sandboxed. Linux maintenant sandboxes construire, tester et postinstall phases à travers Bubblewrap, correspondant à ce que macOS fait déjà. Et un nouveau cadre d'étapes d'installation permet aux actions postinstall simples d'expédier des données statiques au lieu du code Ruby, de sorte que l'installateur n'a plus à évaluer un fichier Ruby pour les opérations de base du fichier. Un nouveau brew vulns tap et sous-commande vérifie également les paquets installés pour les vulnérabilités connues.

Caractéristiques de sécurité et de durcissement pour les gestionnaires de paquets, aimer le voir

C'est vrai.Lire en ligne si Clipped- Oui.

Équipe bleue

DeepTempo/socbench
Par DeepTempo: Une référence qui évalue les LLM de raisonnement frontalier en tant qu'agents SOC analysant les données brutes NetFlow à travers une boucle déterministe multi-tours d'agents avec des outils en lecture seule et des plafonds budgétaires stricts. Le framework teste quatre personas (SOC Analyste, Threat Analyst, Adversary Hunter, Detection Engineer) contre des fichiers de parquet NetFlow pré-indexés, marquant des prédictions en utilisant des mesures F1 par flux/par paire/par hôte avec support d'ablation pour les comparaisons tools off et playbooks off.

BOTS v3 Benchmark
DéfenseÉvaluation des agents de l'IA sur le patron de Splunk du SOC v3 ensemble de données, en leur donnant 90 minutes pour répondre aux questions d'enquête de sécurité par l'intermédiaire d'une API pour les répondants qui gère la récupération des questions, la soumission des réponses et les achats de conseils. Agents requête Spunk via CLI en utilisant des commandes de boucle, avec score basé sur la justesse, bonus de vitesse, et des pénalités pour des réponses ou des conseils erronés. La configuration teste la capacité des agents d'IA à effectuer des tâches d'analystes SOC comme la requête de données de sécurité, l'interprétation des résultats et la gestion des workflows d'investigation sous pression temporelle.

Les modèles les plus récents testés sont Opus 4.6 et GPT 5.4, donc cette référence doit avoir au moins 10 ans en années d'IA.

Équipe rouge

Accélérer l'évacuation EDR avec l'analyse LLM-Driven
SpecterOps Adam Chester montre comment les LLM comme GPT-5.5-Cyber peuvent systématiquement inverser les produits commerciaux EDR pour extraire les règles de détection et générer des évasions, en utilisant un simple harnais "Day Shift" qui boucle Codex CLI avec Binary Ninja sur MCP. Testant contre le Cortex XDR de Palo Alto, le LLM a réussi à extraire 9 350 règles DSE, 4 209 règles BIOC, 6 358 signatures YARA, 7 modèles ML avec harnais d'exécution et détections comportementales écrites dans CLIPS (comme LISP), tous à partir de fichiers locaux sans accès cloud. Encore une fois ce n'est pas juste un artefact binaire qui est référencé par le LLM. Lors de l'examen des résultats, j'ai trouvé une liste de fichiers en texte clair prêts à être examinés.

Extraire les règles n'est utile que si vous pouvez les transformer en évasions, et Adam démontre la boucle fermée avec un exemple concret. Blocs de Cortex reg save HKLM\SAM, une commande standard de décharge de justificatifs, mais la règle CLIPS décryptée révèle un chemin de sortie licensed qu'un attaquant peut utiliser pour exécuter la même commande non détectée. Il se termine avec un aperçu d'Upside Down, un cadre de simulation utilisant des sous-agents d'émulation Windows et EDR qui laissent le test LLM extraire les règles et itérer sur les évasions avant de toucher un environnement réel, et note que le même processus a déjà produit des règles et des modèles extraits pour chaque fournisseur EDR majeur.

Voir aussi précédemment tl;dr sec: Le bâton défensif est exposé : LLMs, Inverse Engineering, et la fin de la défense opaque.

Honnêtement fou que vous pouvez juste mettre un agent dans une boucle de temps et dire, s'il vous plaît inverser ceci et trouver les secrets.

AI + Sécurité

google/mantis
Mantis est une boîte à outils mobile et séquentielle de compétences en agents d'IA pour construire des pipelines automatisés d'examen de la sécurité qui peuvent découvrir des vulnérabilités, générer des exploits de preuve de concept et créer des correctifs. Le pipeline en 15 étapes comprend la modélisation des menaces, le balayage de la vulnérabilité, la déduplication, le filtrage faux positif, la reproduction d'un accident en boîte de sable, l'exploitation de chaînes et le patchage automatisé, tous conçus pour fonctionner dans des conteneurs Docker/gVisor isolés.

La boîte à outils prend en charge à la fois l'exécution interactive humaine dans la boucle et le déploiement de cloud sans surveillance, avec un modèle d'instantané opt-in qui permet un examen continu des bases de code vivantes en épinglant des instantanés immuables par passe et en synchronisant les cibles non destructivement aux limites de passe.

Kimi K3 vient peut-être de commencer une crise de l'économie américaine
Daniel MiesslerSelon la Chine, la publication de modèles d'IA open source bon marché et de haute qualité comme Kimi K3 est une stratégie délibérée de CCP visant à saper les laboratoires américains d'IA, qui pourrait déclencher un crash boursier et un effondrement économique qui pourrait conduire à la réunification de Taiwan avec la Chine. Il estime que si une concurrence accrue profite à l'écosystème de l'IA, les utilisateurs qui envoient leurs données à ces modèles tombent dans un piège géopolitique. Daniel avertit qu'une fois que la Chine aura atteint la domination mondiale, l'ère des modèles bon marché et politiquement illimités prendra fin, le monde ressemblant à l'état actuel de Hong Kong sous le contrôle du PCC.

Jusqu'où se situent les modèles de poids ouvert sur Cyber?
Les Institut de sécurité de l'IA rapporte que les modèles d'IA à poids ouvert rattrapent les modèles à frontières fermées sur les capacités cybernétiques plus rapidement que prévu. GLM-5.2 et DeepSeek V4-Pro correspondent désormais aux modèles fermés publiés 4 à 7 mois plus tôt, en baisse par rapport à un écart de 6 à 10 mois en 2025. Sur les gammes de cyberhorizons longue durée d'AISI, GLM-5.2 s'est rendu jusqu'à l'Opus 4.5 d'Anthropic sur une attaque en 32 étapes qui prendrait environ 20 heures à un expert humain.

Les modèles à poids ouvert étaient également beaucoup moins chers et moins surveillés. Une mise en service complète de la gamme cyber coûte 1,19 $ sur DeepSeek V4-Pro et 46 $ sur GLM-5.2, contre 85 $ sur Opus 4.6. DeepSeek a refusé quelques tâches, mais essayer à nouveau la même prompte était suffisant pour qu'il se conforme. Une fois que les poids du modèle sont dans les garanties ouvertes, le modèle fermé comme la surveillance, l'interdiction de l'utilisateur et la formation de refus ne résistent pas, car quiconque peut retirer l'entraînement de refus des poids et faire fonctionner le modèle où il le veut.

Les gouvernements occidentaux, à juste titre, veulent s'assurer que les modèles des laboratoires d'IA américains ne sont pas utilisés pour le mal. C'est une bonne chose. Cependant, ralentir le taux de frottement important permet aux modèles chinois de rattraper leur retard. J'ai compris intellectuellement mais je n'ai pas pleinement apprécié cela avant de travailler dans un laboratoire. C'est en fait un Big Deal, quand l'état du monde est $X0,000 vous obtient 0-jours dans des logiciels importants.

Divers

Je suis si fatiguée

Accrochement

Vous avez des questions, des commentaires ou des commentaires? Réponds directement, j'aimerais avoir de tes nouvelles.

Si vous trouvez ce bulletin utile et que vous connaissez d'autres personnes qui le feraient aussi, j'apprécierais vraiment que vous le leur transmettiez.

Merci de lire !

Santé,
Clint

P.S. N'hésitez pas à communiquer avec moi sur LinkedIn*