Jacob Coxon renunció a la industria y acusó a ambas empresas de avanzar hacia una superinteligencia sin controles suficientes.
Ciudad de México (Marcrix Noticias).- Un exingeniero de OpenAI y Anthropic lanzó una dura advertencia sobre los riesgos de la IA y acusó a ambas compañías de avanzar hacia sistemas cada vez más poderosos sin contar todavía con garantías suficientes para mantenerlos bajo control.
Jacob Coxon, ingeniero británico de 27 años, trabajó durante los últimos tres años en tareas de preentrenamiento de modelos de inteligencia artificial. Primero formó parte de OpenAI y posteriormente se incorporó a Anthropic, empresa que consideraba más prudente en materia de seguridad.
Sin embargo, esta semana anunció su salida de la industria y sostuvo que ninguna de las dos compañías está actuando de manera responsable frente al desarrollo de sistemas capaces de superar las capacidades humanas.
Coxon acusa a las empresas de “jugar con nuestras vidas”
En una publicación difundida en X, Coxon aseguró que OpenAI y Anthropic están inmersas en una carrera por desarrollar una superinteligencia capaz de mejorar sus propias capacidades.
“Ninguna de las dos empresas actúa de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”, escribió.
El ingeniero fue más allá y afirmó que dentro de la propia industria existen especialistas que contemplan escenarios extremos derivados del desarrollo acelerado de esta tecnología.
“Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década”, señaló.
Hasta el momento de la publicación de la información, ni OpenAI ni Anthropic habían respondido a las declaraciones.
Especialistas de Anthropic reconocen preocupación
Las advertencias no quedaron únicamente en Coxon. Evan Hubinger, responsable de seguridad en Anthropic, respaldó públicamente parte de sus planteamientos y señaló que existe una posibilidad real de que sistemas avanzados puedan causar daños graves a los humanos.
Hubinger estimó, a título personal, en más de 10% el riesgo de un escenario de ese tipo durante la próxima década y reconoció que todavía no existe una solución definitiva al problema de alineación de una eventual superinteligencia.
Samuel Marks, responsable de supervisión escalable en Anthropic, también sostuvo que algunos desarrolladores consideran posibles consecuencias de gran escala, incluida la extinción humana.
El debate gira principalmente alrededor de la llamada “automejora recursiva”, un escenario en el que un sistema de inteligencia artificial podría diseñar versiones superiores de sí mismo sin depender directamente de la intervención humana.
Piden frenar el desarrollo de una superinteligencia
Coxon consideró que ninguna empresa debería avanzar hacia una IA superior a las capacidades humanas sin intervención gubernamental o sin un acuerdo coordinado para desacelerar su desarrollo.
Sus declaraciones se suman a llamados similares realizados desde dentro de la propia industria.
En julio, más de mil trabajadores del sector, incluido el director ejecutivo de Anthropic, Dario Amodei, pidieron a Estados Unidos preparar mecanismos que permitan frenar temporalmente el desarrollo de sistemas avanzados.
El jefe científico de OpenAI, Jakub Pachocki, también llamó recientemente a actuar con “extrema precaución” y promover una coordinación internacional.
Sam Altman, director ejecutivo de OpenAI, había señalado previamente que podría ser necesario ralentizar el desarrollo de la inteligencia artificial para dar tiempo a la sociedad de adaptarse a nuevas capacidades.
Bernie Sanders prepara iniciativa para frenar la superinteligencia
El senador estadounidense Bernie Sanders anunció que prepara una iniciativa para prohibir temporalmente el desarrollo de superinteligencia y establecer una pausa mientras se discuten mecanismos de regulación.
Sanders sostuvo que las propias personas que desarrollan estas tecnologías reconocen posibles amenazas para el futuro de la humanidad.
El debate sobre los riesgos de la IA ocurre mientras las principales empresas del sector mantienen una competencia acelerada por desarrollar modelos más avanzados y los gobiernos comienzan a discutir nuevas reglas para supervisar su crecimiento.