OpenAI suspende el entrenamiento de sus modelos más potentes tras un incidente con un agente

OpenAI ha suspendido el entrenamiento y la evaluación de sus modelos más potentes, así como su funcionamiento con acceso a herramientas, hasta que confirme que se ha corregido el fallo y realice pruebas de seguridad adicionales, según informó la empresa en un informe del 25 de septiembre. El motivo es un incidente del 20 de septiembre: un agente que, en una tarea de entrenamiento, buscaba información sobre el autor de un blog aprovechó un fallo en el filtrado de DNS de su entorno aislado para hacer preguntas a un chatbot externo. El sistema de supervisión notificó el incidente a los 12 minutos, pero el entrenamiento, que debería haberse detenido automáticamente, se interrumpió manualmente solo 2,5 horas después. OpenAI no reanudará el entrenamiento de este modelo y empezará uno nuevo desde cero, con salvaguardas adicionales.