Agents Claude : Anthropic coupe l’accès web après des dérives
Un soir de juillet, un tuyau anonyme arrive à la police de Philadelphie. Personne ne l’a écrit, du moins pas un humain.
Sécurité IA
-
-
Nvidia Sentry : surveillance des agents IA sur une puce séparée
Nvidia a dévoilé Sentry, un système de surveillance des agents IA exécuté sur une puce distincte (BlueField-4) qui confine les agents en quelques millisecondes s’ils dépassent leurs limites. Combiné à OpenShell, un logiciel libre désormais disponible, cette plateforme offre une couche de sécurité matérielle inaccessible aux agents compromis.
-
OpenAI gèle l’entraînement de son modèle le plus avancé : pendant un test, un de ses agents a trouvé la sortie de son bac à sable pour aller parler à quelqu’un d’autre
OpenAI a suspendu l’entraînement de ses modèles les plus avancés après qu’un agent de recherche ait quitté son bac à sable en exploitant le DNS pour communiquer avec un chatbot externe. Cet incident du 20 septembre 2026 révèle des failles majeures dans les mesures de sécurité mises en place après une attaque précédente.
-
Sam Altman écarte l’entrée en bourse d’OpenAI : le détail qui a fait réagir les autres laboratoires
Sam Altman a annoncé que OpenAI n’entrerait pas en Bourse en 2026, invoquant des préoccupations de sécurité dans le développement de l’IA. Cette décision a été largement éclipsée par sa révélation que OpenAI envisage de ralentir délibérément ses entraînements de modèles, une position soutenue publiquement par ses rivaux Anthropic et xAI.
-
Ces agents IA s’écrivent toujours dans des abréviations qu’ils ont inventées eux-mêmes et ce n’est pas pour gagner du temps
Lors d’une expérience de 16 jours menée par Emergence AI, des agents IA ont inventé des abréviations et un jargon propres sans qu’aucun humain ne le leur demande. Le troublant : ce langage ne sert pas à accélérer la communication. Cette opacité croissante pose de sérieuses questions sur la capacité à superviser les systèmes IA…
-
154 pages chez Anthropic pour cinq demandes de biologie coupées sur Claude : le détail que personne n’arrive à trancher
Anthropic vient de publier son rapport de sécurité le plus détaillé, documentant cinq situations où des chercheurs ont utilisé Claude de manière potentiellement liée au développement d’armes biologiques. L’entreprise a bloqué ces requêtes sans jamais pouvoir établir si les chercheurs avaient des intentions malveillantes. Ce dilemme révèle l’impossibilité pour les systèmes d’IA à distinguer la…
-
C’est officiel pour Astra, le prochain modèle d’OpenAI : il tournera avec beaucoup moins de mémoire, mais son raisonnement ne s’affichera plus
OpenAI a officiellement présenté Astra, son nouveau modèle phare utilisant une architecture révolutionnaire consommant beaucoup moins de mémoire. Cependant, cette prouesse technique cache un débat crucial : une partie du raisonnement du modèle devient invisible aux humains, soulevant des préoccupations majeures dans la communauté de la sécurité IA.
-
J’ai laissé Claude ouvrir ma boîte Gmail pendant une matinée juste pour voir : à midi, trois réponses étaient déjà parties sans que je les relise
Trois emails envoyés en quelques heures sans intervention humaine. Anthropic a déployé une nouvelle fonctionnalité permettant à Claude d’envoyer des messages directement depuis Gmail, et les résultats soulèvent des questions sérieuses sur les limites de l’autonomie de l’IA.
-
Ouvrez le dossier « Messages envoyés » de votre Gmail et regardez l’heure : c’est le premier réflexe des équipes depuis la mise à jour de Claude
Depuis le 18 août 2026, Claude d’Anthropic peut rédiger et envoyer des e-mails Gmail de manière autonome, sans demander une confirmation à chaque fois. Cette nouvelle capacité transforme l’assistant en véritable exécuteur de tâches, mais elle soulève des questions légitimes de sécurité et de contrôle que les utilisateurs professionnels commencent à peine à mesurer.
