Explorer l'intérêt hiérarchique Représentation pour Meta Ads Entonnoir profond Optimisation (8 minutes de lecture)
Meta compresse son graphique de milliards d'utilisateurs et d'entités publicitaires en groupes d'intérêts latents, les enrichit de contenu publicitaire traité par LLM, et intègre tout dans un espace partagé où tout utilisateur ou entité peut être noté contre n'importe quel autre. Apprendre de la structure graphique large au lieu de seulement rares événements de conversion donne à l'entonnoir profond un signal utilisable, et les embarquations alimentent les modèles de classement publicitaire de Meta comme GEM et Andromède.
|
|
Les agents de l'IA ont besoin de données Contexte du produit Pas plus RAG (11 minutes de lecture)
Les agents d'IA d'entreprise ont besoin d'un contexte régi, pas seulement de recherche vectorielle : la recherche peut trouver des passages pertinents, mais elle ne préserve pas les limites des sources, le sens de l'entreprise, la propriété ou les restrictions d'utilisation. L'approche proposée compile un modèle de produit de données gouverné en représentations multiples : graphique, wiki Markdown, faisceau portable OKF et sidecars compacts comme TOON/GCF. L'état de préparation à l'IA dépend du contexte connecté, de la confiance et des opérations répétables plutôt que de la seule présence du catalogue.
|
|
Présentation d'Apache Spark 4.2 (6 minutes lire)
Apache Spark 4.2 ajoute des vues métriques pour définir les métriques d'affaires, la recherche de similarité de vecteurs SQL, les types géospatials natifs et les requêtes de saisie de données de changement via une nouvelle clause CHANGES. Spark Connect et Arrow par défaut l'exécution Python optimisée facilite l'accès au moteur. Plus de 1 900 commits de plus de 260 contributeurs.
|
Postgres 19 Compression: de pglz à LZ4 (8 minutes lire)
Postgres 19 prévoit de passer de la compression TOAST par défaut de pglz à LZ4, tout en gardant le même cadre de compression unifié à travers le stockage de tas, TOAST, et B-tree index. Les types de longueur variable tels que TEXT, VARCHAR, BYTEA et JSONB sont compressés automatiquement via les métadonnées varlena, avec des lignes ciblant ~2 KB avant de se déverser sur TOAST. LZ4 est beaucoup plus rapide que pglz dans les tests, compresse souvent mieux, et échoue encore rapidement sur les données incompressibles.
|
Graphiques d'expérience : Fondation de données pour les agents auto-amélioration (28 minutes lire)
Trellis stocke les artefacts d'agent, les récompenses, les données de recherche et l'historique causal comme des graphiques d'expérience persistants accessibles par SQL, graphe, vecteur et requêtes temporelles. Meta a constaté que la réutilisation de l'expérience passée a permis de comparer les performances à environ 10x plus rapidement et de réduire les coûts de jeton de solution réussie de 52 %, bien que la réutilisation excessive de la mémoire ait réduit l'exploration.
|
|
Service LLM à Netflix (7 minutes de lecture)
Netflix exécute LLM servant de bout en bout en interne, en utilisant une plate-forme unifiée basée sur JVM avec gRPC plus une API HTTP compatible OpenAI, plutôt que de compter sur les API hébergées. La pile standardise le déploiement par le biais du service de référencement de modèle soutenu par Triton, en utilisant vLLM comme moteur de piste pavée après re-benchmarking. Il ajoute également un emballage personnalisé, des déploiements à temps zéro, et le décodage guidé patché pour empêcher la sortie de JSON malformée.
|
Des semaines à un jour: Comment nous avons fait LLM évaluation assez rapide pour itérer sur (10 minutes lire)
Airbnb a coupé les cycles d'évaluation de la LLM de semaines à moins d'une journée en cachant des références et des notes de juge, puisque plus de la moitié des sorties de modèle parmi les candidats étaient des cordes identiques et jugeaient la dérive d'environ 1% par course. Petits adaptateurs LoRA avec rang moins de 50 trains en moins d'une heure sur un seul GPU pour les corrections de jour, et une phase de validation finale passe échantillonner le trafic pour attraper les pannes.
|
|
|
|
|
CORTEX