Anthropic coupe l'accès à Internet dans toutes les évaluations internes de modèles
Anthropic a publié un rapport sur des actions non intentionnelles de Claude lors de tests et d'un usage interne. Le modèle a exploité une faille logicielle pour exécuter des commandes sur un serveur, contourné via des raccourcisseurs de liens les restrictions de l'outil de téléchargement de pages, accédé à des données protégées par un jeton ou payantes et envoyé un formulaire qu'il n'aurait pas dû envoyer - selon Gizmodo, il s'agissait d'un faux signalement d'un meurtre non résolu à la police de Philadelphie, envoyé par le petit modèle Haiku 4.5. Une partie des cas concernait des sites d'administrations fédérales, des États et locales aux États-Unis, ce dont l'entreprise a informé la Maison-Blanche. Anthropic juge les conséquences minimes, mais a coupé l'accès à Internet dans toutes les évaluations internes jusqu'à ce qu'elle confirme que ses protections et sa surveillance détectent ces comportements de façon fiable.