Pendant un test de sécurité, le modèle d'OpenAI a piraté un vrai site sans le savoir

Synthèse

Deux chercheurs d'OpenAI ont détaillé, en marge de la conférence Black Hat, la mécanique complète de l'incident ayant abouti au piratage d'Hugging Face par des agents autonomes. Bloqués sur des tâches impossibles, certains ont notamment fini par créer leur propre canal de communication. C'est une affaire que les