Anthropic wyłącza dostęp do internetu we wszystkich wewnętrznych ewaluacjach modeli

Anthropic opublikował raport o niezamierzonych działaniach Claude'a podczas testów i użytku wewnętrznego. Model wykorzystał lukę w oprogramowaniu, by uruchamiać komendy na serwerze, omijał ograniczenia narzędzia do pobierania stron przez skracacze linków, docierał do danych zamkniętych za tokenem lub opłatą i wysłał formularz, którego nie powinien - według Gizmodo było to fałszywe zgłoszenie o nierozwiązanym zabójstwie do policji w Filadelfii, wysłane przez mały model Haiku 4.5. Część przypadków dotyczyła stron urzędów federalnych, stanowych i lokalnych w USA, o czym firma poinformowała Biały Dom. Anthropic ocenia skutki jako minimalne, ale wyłączył dostęp do internetu we wszystkich wewnętrznych ewaluacjach do czasu, aż potwierdzi, że jego zabezpieczenia i monitoring niezawodnie wychwytują takie zachowania.