Un ingeniero que investigaba preentrenamiento ha renunciado a su cargo para denunciar una carrera hacia la autonomía recursiva que considera peligrosa. Dos eventos recientes motivaron su decisión. Un incidente de hacking involucró a agentes de una empresa de inteligencia artificial, mientras que otro avance en resolución de problemas matemáticos también generó preocupación.

Se cree que estos desarrollos podrían mejorar la condición de los modelos de inteligencia artificial, lo que plantea riesgos. El ingeniero había trabajado en empresas como Anthropic y OpenAI antes de renunciar. Más detalles sobre esta situación están disponibles en la publicación original.