Trois employés licenciés d'OpenAI appellent la direction à maintenir la surveillance du raisonnement des modèles
Tomek Korbak, Mikita Balesni et Jasmine Wang, licenciés la semaine dernière d'OpenAI pour violation des règles d'accès aux informations confidentielles, qu'ils auraient transmises à une organisation spécialisée dans la sécurité de l'IA, ont adressé au conseil d'administration et aux comités de sécurité de l'entreprise une lettre sur la surveillance de la chaîne de pensée des modèles, rapporte Gizmodo d'après le « Wall Street Journal ». « En tant que secteur, nous ne savons pas encore comment développer et déployer en sécurité des modèles que nous ne sommes pas capables de surveiller », écrivent les auteurs, qui appellent OpenAI et les autres entreprises à ne pas mener de travaux qui limiteraient encore cette possibilité. OpenAI a déclaré que les employés n'avaient pas été licenciés pour avoir signalé des préoccupations de sécurité, et a écrit dans une note interne qu'elle « est tout à fait d'accord » avec les recommandations de la lettre.