Investigador de Anthropic renuncia y advierte sobre los peligros del desarrollo de IA

Un investigador de Anthropic dijo que renunció a la empresa debido a la preocupación de que la firma de inteligencia artificial y sus competidores no están actuando de manera responsable en el desarrollo de la IA, lo que refleja inquietudes planteadas dentro y fuera de la industria sobre el potencial de la tecnología para eludir el control humano.

Jacob Coxon, quien afirmó que pasó tres años realizando investigación tanto en Anthropic como en OpenAI, escribió en X que las dos compañías de IA están más enfocadas en superarse entre sí y a competidores globales para desarrollar el modelo más avanzado posible que en la seguridad.

OpenAI y Anthropic causaron revuelo este verano cuando anunciaron, con aproximadamente una semana de diferencia, que sus modelos se habían salido de los entornos de prueba y tuvieron acceso no autorizado a sistemas informáticos reales. Los anuncios despertaron preocupaciones sobre modelos fuera de control y que puedan llevar a cabo otras tareas, más dañinas. Ambas empresas anunciaron entonces una pausa en algunas evaluaciones mientras implementaban más medidas de monitoreo y candados.

En sus publicaciones en redes sociales, Coxon sostuvo que Anthropic y su principal rival, OpenAI, “están corriendo directo hacia una superinteligencia que se mejora a sí misma y apostando con nuestras vidas”. Advirtió que algunas personas que trabajan en el desarrollo de la IA creen que podría amenazar la vida humana antes de que termine la década.

“No subestimen el poder de esta tecnología”, advierte Coxon. “Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos sido testigos del progreso en cada uno de estos ámbitos, y el progreso no se está desacelerando”.