Fecha de publicación:
Fecha de modificación:
El matemático británico Jacob Coxon, tras tres años dedicados a la investigación de preentrenamiento en OpenAI y un breve paso por Anthropic, presentó su dimisión denunciando una peligrosa aceleración hacia modelos descontrolados.
“Ninguna de las dos empresas actúa con responsabilidad. Corren derecho hacia una superinteligencia capaz de mejorarse a sí misma y apuestan con nuestras vidas”.
En sus declaraciones a The Wall Street Journal, Coxon advirtió que los equipos internos ya hablan de etapas límite como “crunchtime” y “endgame”, asegurando que el desenlace de estos desarrollos no debería gestionarse de forma corporativa: “Es una locura que esto tenga que pasar en las MacBooks de unos ingenieros que viven en San Francisco, en vez de en un búnker en el desierto como donde hacían el Proyecto Manhattan”.
La controversia cobró fuerza tras la respuesta pública de Evan Hubinger, líder en el área de seguridad de Anthropic, quien respaldó abiertamente las advertencias de Coxon: “Jacob tiene razón (…) De verdad creemos que la IA podría matar a todos los humanos. Yo calculo más de 10% en la próxima década”.
Hubinger admitió además una de las mayores debilidades del sector, señalando que la firma “todavía no tiene un plan para resolver la alineación de una superinteligencia” ni garantías de alcanzarlo a tiempo, lo que confirma que el control ético de estos sistemas continúa sin resolverse mientras las capacidades de los modelos avanzan a paso firme.
La salida de Coxon se suma a una cadena de renuncias por discrepancias de seguridad en el sector, entre ellas la de Mrinank Sharma en Anthropic y la de Jan Leike en OpenAI, quien argumentó que la prevención quedó relegada “en el asiento trasero frente a los productos brillantes”.
Esta pérdida de especialistas coincide con recientes brechas operativas en ambas compañías, incluyendo accesos no autorizados a plataformas externas como Hugging Face, y se da en un momento crítico para Anthropic, que alista una salida a bolsa valorada en USD 2 billones mientras evita aclarar cómo garantizará que una tecnología de semejante magnitud no escape a su control.