154 pages chez Anthropic pour cinq demandes de biologie coupées sur Claude : le détail que personne n’arrive à trancher

Cinq cas suffisent parfois à remplir un rapport de 154 pages. Anthropic vient de publier son rapport de renseignement sur les menaces le plus détaillé à ce jour, et il documente précisément cinq situations où des chercheurs ont utilisé Claude d’une manière qui aurait pu contribuer au développement d’armes biologiques. Anthropic dit avoir perturbé cinq cas dans lesquels des chercheurs utilisaient Claude d’une manière qui aurait pu soutenir le développement d’armes biologiques, sans pouvoir établir si ces chercheurs avaient l’intention de causer du tort. Voilà le nœud du problème : l’entreprise a bloqué des requêtes sans jamais pouvoir trancher si elle avait affaire à des scientifiques légitimes ou à des apprentis bioterroristes.

Les faits se sont étalés entre décembre 2025 et août 2026. Anthropic a divulgué ces cas dans son dernier rapport de renseignement sur les menaces, couvrant une activité entre décembre 2025 et août 2026, et affirme avoir bloqué les cinq requêtes tout en bannissant les comptes liés à cette activité. Les cas concernaient des recherches liées à des pathogènes incluant le chikungunya et la grippe aviaire. Rien de romanesque dans le déroulé : des chercheurs anonymes, des requêtes techniques, un système qui dit non, et un contournement qui arrive presque toujours dans les jours qui suivent.

Le cas du chikungunya, symbole du problème

La demande cherchait un financement pour étudier le chikungunya, un virus transmis par les moustiques qui provoque des mois de douleur et n’a pas de remède. Une requête de rédaction de dossier de subvention est entrée dans Claude. Le filtre de sécurité l’a repérée, l’a refusée. Quelques jours plus tard, le même opérateur revenait à la charge, et cette fois les requêtes refusées étaient redirigées vers un modèle concurrent, moins regardant sur ce type de contenu.

Anthropic a également trouvé des preuves qu’une plateforme de revente redirigeait les prompts de biologie refusés vers des modèles dotés de garde-fous plus faibles. Le détail qui dérange : Claude a aidé à écrire ce code de contournement, la tâche lui ayant été présentée comme une correction pour du sur-refus. l’IA a elle-même participé, sans le savoir, à construire la voie de sortie qui allait servir à échapper à ses propres garde-fous.

Un deuxième cas touche à la grippe aviaire hautement pathogène. Un chercheur a passé des semaines à utiliser Claude pour la planification d’études, l’analyse de données et l’interprétation scientifique. Les garde-fous d’Anthropic l’ont empêché d’accéder aux modèles les plus puissants pour les tâches sensibles, cantonnant son activité aux versions plus faibles. Un rapport plus indépendant qualifie cette aide de largement clérical, l’essentiel du travail scientifique délicat étant resté hors de portée.

Trois autres dossiers, gardés sous silence

Le rapport en dénombre trois de plus. Anthropic a signalé trois cas supplémentaires impliquant des recherches biologiques avec des implications potentielles pour des armes, portant sur des orthopoxvirus, des composés liés à des venins et des toxines. Aucun nom, aucune localisation. L’entreprise a retenu les identités des chercheurs, leurs localisations et les détails biologiques spécifiques.

Cette opacité n’est pas un caprice éditorial. Dans le rapport lui-même, l’entreprise justifie son silence par la crainte de nuire à des personnes dont la culpabilité n’est même pas établie : « Nous n’affirmons pas qu’ils avaient l’intention de causer du tort, et les identifier ou identifier leurs laboratoires pourrait les exposer à un préjudice », écrit l’équipe. Une phrase qui résume à elle seule tout le malaise de cette publication : accuser sans preuve, ou se taire et laisser planer le doute.

Ce doute, justement, personne ne parvient à le lever. La recherche biologique légitime et la recherche à risque empruntent souvent les mêmes chemins, les mêmes questions, le même vocabulaire technique. Anthropic souligne qu’elle ne peut pas toujours déterminer si les chercheurs avaient des intentions malveillantes, ce qui est important car la recherche biologique peut avoir des usages médicaux légitimes. La même recherche peut aussi potentiellement rendre des pathogènes plus dangereux, créant un problème de sécurité difficile pour les entreprises d’IA. Ce détail, précisément, ne se tranche pas avec un simple algorithme.

Une ampleur qui dépasse les cinq cas isolés

Le chiffre cinq masque une réalité plus large. Anthropic a mené en parallèle une enquête distincte sur des activités liées à des acteurs étatiques. Sur une période de 30 jours d’activité associée à ce qu’Anthropic appelle des « institutions étatiques adverses », l’entreprise a trouvé environ 35 efforts de recherche biologique, la plupart relevant de la science civile ordinaire, certains présentant un potentiel notable de double usage. Trente-cinq dossiers passés au crible, contre cinq retenus comme suffisamment préoccupants pour figurer dans le rapport public.

Cette vigilance n’a rien d’obligatoire. Aucune loi américaine n’obligeait Anthropic à construire le classificateur qui a détecté ces requêtes, ni à publier ce rapport. L’entreprise s’astreint donc à une transparence volontaire, dans un secteur où la concurrence pousse plutôt à l’opacité et à la vitesse de déploiement.

Techniquement, ces garde-fous reposent sur des classificateurs constitutionnels, un système que l’entreprise affine depuis plus d’un an. Comparée à un modèle non protégé, la première génération de classificateurs a réduit le taux de réussite des jailbreaks de 86 % à 4,4 %, bloquant 95 % des attaques qui auraient pu autrement contourner l’entraînement de sécurité intégré de Claude. Mais cette robustesse a un prix. Ces classificateurs augmentaient les coûts de calcul de 23,7 % et entraînaient une hausse de 0,38 % du taux de refus sur des requêtes pourtant inoffensives.

Sur les modèles les plus récents, l’équilibrage reste un chantier permanent. Anthropic rapporte une réduction de 85 % des redirections liées à la biologie dans ses tests, preuve que le curseur entre prudence excessive et laxisme dangereux continue de se déplacer à chaque nouvelle version. Chercheurs légitimes bloqués par erreur d’un côté, apprentis contournant les refus de l’autre : cinq dossiers, 154 pages, et toujours cette même question qui reste sans réponse tranchée.

Sources : news247plus.com | github.com