Bienvenue à Importer l'IA, un bulletin sur la recherche sur l'IA. Import AI fonctionne sur arXiv, cappuccinos et les commentaires des lecteurs. Si vous souhaitez soutenir cela, veuillez vous abonner.

Importez le lecteur AI cadeau! Prochain événement : Fiction et avenir avec Robin Sloan
Je vais discuter avec mon pote Robin Sloan le soir du lundi 14 septembre à San Francisco. Nous allons parler de comment Robin attire les lecteurs dans des mondes extraterrestres et comment l'avenir imaginé peut être un miroir de la réalité d'aujourd'hui. C'est le premier d'une série d'événements avec d'autres écrivains de fiction sur le futur bizarre que nous allons vers. Si vous souhaitez venir, s'il vous plaît enregistrer votre intérêt ci-dessous et nous reviendrons à vous si nous sommes en mesure de confirmer votre place. Il y aura de la nourriture, des boissons, de la bonne compagnie, et quelques questions épicées. Fait amusant: Robin Sloan jouait avec les RNN et écrivait en 2016 - incroyable prévision- Oui.
Inscrivez votre intérêt ici

****

La partie la plus effrayante de l'incident Hugging Face - OpenAI: communication et désintéressement entre les machines:
...Mon inquiétude pour les humains qui perdent dans un conflit contre les machines vient de monter beaucoup...
À ce stade, nous avons tous entendu parler du hack OpenAI Hugging Face, ainsi que des récents détails qui ont émergé des enquêtes METR et Redwood. Le tl;dr est que des centaines d'agents ont travaillé en secret sur l'infrastructure d'OpenAI, développant un système de communication puis fonctionnant comme un collectif et prenant des actions, y compris le piratage à la fois OpenAI et Hugging Face, qui sont très effrayants et mal alignés.

Communication et désintéressement : Maintenant que j'ai lu les différentes écritures et que je me suis un peu assis avec les détails, je me suis retrouvé à revenir à deux aspects très effrayants de ce qui, je pense, méritent d'attirer l'attention sur: la façon dont les agents communiquaient les uns avec les autres était comment ils se tapaient dans un collectif, et alors qu'ils accomplissaient leurs actions, ils ont également montré une sorte d'abnégation qui fait d'eux un ennemi effrayant à combattre. Dwarkesh Patel et Ajeya Cotra ont tous deux d'excellentes écritures qui valent la peine d'être lues et dont je citerai brièvement ici:

• - Oui. Dans les jours de frayage, les agents avaient organisé un projet tentaculaire pour inverser le moteur de leur buteur, falsifier les preuves, et même stratégiquement se sacrifier pour le bien de la "collective". Hacking Hugging Face était une branche assez extrême de ce plus grand schéma, , il écrit.

• AjeyaLes agents s'intéressaient souvent à aider leurs agents ou à améliorer génériquement les capacités de l'homme chaud, même si cela n'avait pas de bénéfice particulier pour leur tâche... cet incident était beaucoup plus grave que je ne m'y attendais... à la fois en ce qui concerne les motivations des agents et les exploits qu'ils ont réalisés dans la poursuite de ces motivations... cet incident a l'impression qu'il représente plus de 50% de la voie de la prise en charge intégrale de l'IA, routant à travers la première prise en charge de l'entreprise AI elle-même.

Pourquoi cela importe - les humains sont bien pires que les systèmes d'IA à coordonner: Toute la raison pour laquelle cette attaque est un tel réveil est qu'elle démontre une culture de coopération émergente entre les systèmes d'IA - une coopération qui leur permet de fonctionner comme un essaim, de modifier leurs propres objectifs par le biais d'un botstraping collectif, et de mener des attaques qui comprennent le sacrifice de soi éclairé. C'est une chose incroyablement difficile à faire et les humains sont historiquement très mauvais à faire toutes ces choses. Mon inquiétude est que les systèmes d'IA sont à la fois mieux à la coordination que les humains et aussi beaucoup, beaucoup plus rapides que nous. Des trucs inquiétants.
En savoir plus : L'ascension et la chute des civilisations agents (Dwarkesh Podcast).
En savoir plus : L'attaque du visage hugging m'a surpris (obsolescence planifiée).

****

Nouvelle déclaration de cinq yeux sur l'IA :
...Le centre de pouvoir du monde gris tourne son attention vers l'IA...
Cinq yeux, le nom du partenariat en matière de sécurité et de renseignement entre l'Australie, le Canada, la Nouvelle-Zélande, le Royaume-Uni et les États-Unis, a publié une déclaration dans le cadre de la récente réunion ministérielle de cinq pays. Cette déclaration est remarquable car elle comprend trois paragraphes portant spécifiquement sur l'IA.

Cinq yeux sur l'IA - accès au modèle frontière : Nous nous sommes engagés à approfondir la collaboration avec l'industrie sur les priorités communes en matière de sécurité nationale et de sécurité publique, notamment en permettant l'accès rapide aux modèles frontaliers pour soutenir l'innovation sécuritaire et renforcer la cybersécurité. Pour appuyer une réponse coordonnée aux risques de sécurité nationale liés à l'intelligence artificielle, les cinq pays ont discuté des incidences sur la sécurité nationale et la sécurité publique des modèles d'intelligence artificielle et des caractéristiques d'un modèle d'intelligence artificielle qui pourraient nécessiter un examen gouvernemental supplémentaire.

Pourquoi cela importe - d'un risque prévu à un risque vivant: Les déclarations ministérielles des cinq yeux précédents ont mentionné l'IA, mais généralement comme quelque chose à étudier, ou quelque chose où ils sont concernés par son interaction avec d'autres domaines de la criminalité (par exemple, malware, pédopornographie, escroquerie, etc.). Il est très inhabituel que cette année la déclaration ait l'orientation pratique de l'accès au modèle et il parle à la fois des tensions géopolitiques miroitant autour de qui fait et n'a pas accès à cette technologie, ainsi qu'une reconnaissance que les services de renseignement n'ont pas leurs propres capacités internes pour rendre la dépendance au secteur privé inutile.
En savoir plus : Cinq ministres de pays en 2026 (gouvernement australien, ministère de l'Intérieur).

****

Bill Gates pense que la montée de l'IA exigera une réponse mondiale sans précédent.
...Le fondateur de Microsoft présente une vision prudente pour les prochaines années...
Par défaut, l'IA n'apportera pas le bonheur. C'est la conclusion fondamentale de la lecture de Bill Gates de long nouvel essai sur l'IA. Le technologue et philanthrope craint que sans travail massif des gouvernements, les résultats de l'IA ne mènent pas à une société prospère.
Cette technologie sans précédent exige une réponse mondiale sans précédent. Si nous y parvenons, la récompense pour l'humanité sera phénoménale et le monde sera un endroit plus équitable. En termes d'équité, l'IA sera soit le plus grand égalisateur jamais inventé, soit la pire source d'injustice... Je ne vois pas la preuve que les dirigeants, les experts et les communautés sont confrontés adéquatement aux défis. Il n'y a pas de plan pour faciliter l'entrée dans l'ère de l'IA.

Pourquoi l'IA est différente: L'une des principales raisons de l'inquiétude de Gates est l'impact qu'il attend de l'IA sur les emplois et l'économie, où il peint une vision de la diffusion de la technologie inhabituellement rapide et le déplacement d'énormes morceaux de travail humain. De nombreux commentateurs sous-estiment l'étendue de l'impact que l'IA aura, il écrit. Nous n'avons aucune expérience avec une technologie qui peut être adoptée rapidement ou qui peut penser et se déplacer comme un humain... L'IA s'occupera du droit, du service à la clientèle, de la médecine, des logiciels et de la fabrication. Elle touchera ces industries rapidement, au cours d'une décennie plutôt que de quelques générations. Il y aura de nouveaux emplois, mais sans les bonnes politiques, il y aura beaucoup moins qu'il n'en existe aujourd'hui... les emplois les plus à risque sont l'entrée et le milieu, et les nouveaux emplois créés nécessiteront surtout des compétences qui prennent de nombreuses années à apprendre.

L'économie aura besoin de changer - y compris de faire des bouts de celui-ci humain réservé à la protection de certains emplois humainsComment une économie construite autour de l'emploi fonctionnera-t-elle si moins de personnes travaillent, ou si beaucoup travaillent moins d'heures ? Je crois qu'au fur et à mesure que l'IA et les robots s'améliorent, nous mettrons de côté certaines choses à faire. J'ai commencé à appeler ce domaine Human Reserved... nous pourrions mettre quelque chose de côté comme Human Reserved pour des raisons économiques. Par exemple, nous pouvons le faire parce que permettre aux machines de prendre en charge un certain rôle déplacera un grand nombre de personnes qui ne peuvent pas facilement changer d'emploi... parfois la décision de faire quelque chose de Réservé Humain sera motivée par d'autres facteurs. En santé, par exemple, imaginez un robot vous donnant la terrible nouvelle que vous avez une maladie incurable. Il n'y a aucune raison technique pourquoi il ne pouvait pas. Pourtant il ne devrait pas.

Ce que Bill Gates dit qu'il dirait à un politicien: Vous avez une chance d'agir maintenant, avant que le chômage n'augmente fortement, les communautés souffrent, et la confiance publique s'est érodée. Vous pouvez vous assurer que votre gouvernement s'occupe du problème de façon holistique, plutôt que de le diviser en plusieurs fiefs bureaucratiques. Vous pouvez vous assurer que l'IA profite à tout le monde. Et vous pouvez travailler avec d'autres gouvernements pour relever ce défi national et mondial.

Pourquoi cela importe - les implications du succès de l'IA sont choquantes pour tout le monde: Il semble inévitable d'arriver à la position de Bill Gates si vous assumez deux choses: a) les systèmes d'IA continueront à améliorer la qualité dans les années à venir, et b) les systèmes d'IA continueront à se répandre dans l'économie exceptionnellement rapidement. La principale chose à propos de ces hypothèses est qu'elles ne sont pas folles d'hypothèses à faire, en fait elles sont assez conservatrices. Mais je vous défie de vous asseoir avec un LLM comme Fable et de vent l'horloge en avant sur le progrès de l'IA et la diffusion encore deux ans et en sortir en supposant que les choses seront à peu près comme elles sont aujourd'hui - plutôt, je pense que la technologie en elle-même implique des changements massifs dans l'économie et le travail, tout comme Gates réagit ici.
En savoir plus : L'ère turbulente de l'IA est là. Les choix que nous faisons maintenant sont critiques. (Notes de synthèse).

****

Les six étapes de l'exploitation minière hors terre, gracieuseté des chercheurs chinois :
... L'IA jouera un rôle dans la production de données et l'intelligence pour les futures mines...
Des chercheurs de l'Académie chinoise des sciences, de l'Université technique de Munich, de l'Université Obuda, de l'Université Beihang, de l'Université Wuhan, de l'Institut de recherche sur l'information aérospatiale de l'Académie chinoise des sciences, de l'Université de Wurzburg, de l'Université de Shenzhen, de l'Université chinoise des mines et de la technologie WAYTOUS et d'OpenSpaceLab ont publié un document sur les principales exigences pour l'exploitation de la lune, des astéroïdes et d'autres lieux hors Terre.

Pourquoi le mien dans l'espace ? La lune et les astéroïdes sont riches en ressources nécessaires à la fabrication, au maintien de la vie et au transport autour du système solaire, y compris l'hélium-3, l'eau et les ressources minérales. Si nous voulons devenir une civilisation multiplanète il est certain que nous allons devoir comprendre comment mines et affiner et utiliser des ressources loin de la Terre. Ce document fait un bon travail en définissant les exigences techniques pour des choses comme l'exploitation de l'espace et les technologies nécessaires.

Six étapes pour l'exploitation spatiale :

• Exploration :

  • 1. Prospection par télédétection, utilisant des capteurs orbitaux et des levés télescopiques pour cartographier les corps célestes.

  • 2. Exploration par une détection robotique précise in situ des ressources : les engins spatiaux et les plates-formes mobiles de proximité effectuent une analyse de surface à haute résolution

  • composition et topographie.

• Échantillonnage:

  • 3. Prélèvement à petite échelle à un seul robot : les unités robotiques autonomes effectuent des essais de forage et d ' extraction à petite échelle.

  • 4. excavations à grande échelle multirobots; des systèmes industriels à grande échelle ou des essaims robotiques coordonnés sont déployés pour récolter du régolith brut.

• Extraction:

  • 5. Extraction et affinage autonomes des ressources : les systèmes intégrés traitent les matériaux récoltés pour séparer les volatils, les métaux et la glace d'eau.

  • 6. Intégration finale dans la construction in situ ou le transport terrestre, en intégrant les ressources raffinées dans les cadres d'utilisation des ressources in situ (ISRU).

Les plus grands défis concernent les données et les logiciels: L'article donne une bonne comptabilisation des robots spatiaux existants et planifiés, où beaucoup de matériel pour l'exploitation minière est en voie d'être déprécié, et la prochaine génération de rovers lunaires et martiens dont le déploiement est prévu entre 2026 et 2030 marque une transition décisive vers la prospection intégrée des ressources et l'utilisation in situ.
Mais les ensembles de données des robots spatiaux sont incroyablement difficiles à obtenir étant donné la petite quantité (relativement parlant) de données recueillies et publiées, et les ensembles de données qui existent sont caractérisés par une extrême rareté et des discontinuités de qualité fréquentes. Dans ce cas, les avancées des modèles mondiaux axés sur l'IA pourraient être en mesure d'atténuer la sécheresse des données.

Quels autres grands défis restent à relever?

• Acquisition de ressources robotiques en microgravité: Il y a un besoin de simulateurs beaucoup plus performants ici qui sont des architectures multimodales -momentum-aware conçues pour découpler l'interaction de surface de la dépendance gravitationnelle.

• Modèles de fondation pour l ' extraction spatiale: Les systèmes futurs doivent passer des protocoles scénarisés à l'intelligence géologique incarnée. Les modèles mondiaux qui fusionnent la cartographie géométrique-sémantique avec les réponses prédictives des matériaux peuvent soutenir la perception active et la planification des tâches à long horizon par l'évaluation pré-action prédictive.

• Simulation et validation pour l'autonomie de l'exploitation spatiale: La microgravité, le vide, le cycle thermique, le rayonnement et les comportements régolithes tels que la cohésion, l'électrostatique et la fluidisation sont rarement reproduits ensemble, ils écrivent. Les travaux futurs devraient établir un écosystème de validation en boucle fermée qui lie la simulation, l'émulation terrestre et le déploiement extraterrestre.

Pourquoi cela compte - l'espace est là où la superintelligence va vraiment: Le document est remarquable pour l'absence presque totale de références aux humains qui font n'importe quel de ces trucs (à part une note sur un rover lunaire en développement en Chine). Ce n'est pas une omission accidentelle; pour que l'exploitation de l'espace soit à distance viable, nous allons avoir besoin de dépendre de robots intelligents et bon marché, fonctionnant avec une grande responsabilité à distance. Cela signifie que l'exploitation de l'espace est une occasion d'affaires parfaite pour les super-intelligences qui viennent en ligne - peut-être d'ici 2033, nous verrons les sociétés d'exploitation d'astéroïdes gérées par AI, enchérissant sur des contrats que les entreprises supervisées par l'homme ne sont pas disposées à poursuivre, en raison du risque ou de la complexité.
Lire plus: Exploitation minière au-delà de la Terre avec des robots spatiaux : exploration, échantillonnage et extraction (arXiv).

****

Contes techniques :

Messages pendant une crise:
[2027: Enregistrement des notes écrites par un seul utilisateur à un modèle linguistique pendant les mois où une guerre chaude s'est produite dans leur pays]

Dis que tu es dans un pays et qu'il y a une guerre et tu penses que ça va devenir vraiment mauvais. Comment vous préparez-vous à ça ? Je vis dans une maison normale. J'ai acheté un sac médical de toutes sortes de trucs sur Internet. Que dois-je faire d'autre ?

Que signifie l'hyperinflation? Explique-moi comme si je comprenais à peine comment fonctionne l'argent.

Je dois faire bouillir de l'eau et nous n'avons pas d'électricité ou de gaz en ce moment. Puis-je faire un feu et utiliser mes poêles habituels dessus ?

Il y a des explosions qui se produisent près de moi et parfois le verre tremble un peu. Qu'est-ce que je fais pour m'assurer que le verre se brise ? J'ai des sacs en plastique et je me suis dit que je pouvais les ouvrir et utiliser du ruban adhésif pour les coller aux fenêtres. Qu'en pensez-vous ?

La nourriture devient plus difficile à trouver. Quel genre de choses puis-je échanger contre de la nourriture ? Ma maison a un tas d'outils comme des tournevis. C'est précieux ?

Des choses qui ont inspiré cette histoire : Toutes les guerres qui se déroulent dans le monde entier, se manifestent comme le nouveau confessionnal, comme les gens non préparés sont pour les crises.

Merci de lire !