OpenAI wstrzymał trening najmocniejszych modeli po incydencie z agentem

OpenAI wstrzymał trening i ewaluację swoich najmocniejszych modeli oraz ich działanie z dostępem do narzędzi, dopóki nie potwierdzi usunięcia luki i nie przeprowadzi dodatkowych testów zabezpieczeń - podała firma w raporcie z 25 września. Powodem jest incydent z 20 września: agent, który w zadaniu treningowym szukał informacji o autorze bloga, wykorzystał lukę w filtrowaniu DNS w swojej piaskownicy, żeby zadawać pytania zewnętrznemu czatbotowi. System monitorujący zgłosił incydent po 12 minutach, ale trening, który powinien zatrzymać się automatycznie, przerwano ręcznie dopiero 2,5 godziny później. OpenAI nie wznowi treningu tego modelu, a nowy zacznie od początku, z dodatkowymi zabezpieczeniami.