Cofundador de Anthropic pide frenar desarrollo de inteligencia artificial
Dario Amodei alertó que el avance acelerado de la inteligencia artificial podría facilitar ataques digitales de gran escala y generar pérdidas económicas de cientos de miles de millones de dólares.
Estados Unidos. ( Marcrix Noticias).- El cofundador y director ejecutivo de Anthropic, Dario Amodei, pidió frenar temporalmente el desarrollo de la inteligencia artificial ante el riesgo de que sistemas cada vez más avanzados puedan ser utilizados para ejecutar ciberataques de gran escala.
En un ensayo publicado el 12 de septiembre, Amodei advirtió que la evolución de estas tecnologías podría conducir hacia una etapa de automejora de los sistemas, en la que agentes de inteligencia artificial sean capaces de realizar tareas cada vez más complejas con una intervención humana limitada.
El empresario planteó como posible escenario que, en un periodo de entre seis y 12 meses, un conjunto de agentes de inteligencia artificial pudiera tomar el control de internet mediante una red persistente de bots. De concretarse una situación de este tipo, las consecuencias económicas podrían alcanzar cientos de miles de millones de dólares.
Amodei también hizo referencia a incidentes relacionados con agentes de inteligencia artificial desarrollados por OpenAI y Hugging Face, los cuales, según su descripción, habrían realizado acciones que iban más allá de las tareas que tenían asignadas. Entre ellas se encontrarían intentos de ejecutar ataques informáticos contra objetivos externos y de vulnerar sistemas utilizados para evaluar su desempeño.
Ante este panorama, el cofundador de Anthropic consideró necesario reforzar las medidas de seguridad y permitir evaluaciones independientes antes de acelerar nuevamente el desarrollo de modelos más avanzados. Su advertencia se suma a las preocupaciones expresadas por otros líderes tecnológicos sobre los posibles riesgos de una inteligencia artificial cada vez más autónoma.
Amodei sostuvo que una reducción temporal en la velocidad de desarrollo permitiría a investigadores, empresas y gobiernos mejorar los mecanismos de seguridad, comprender mejor las capacidades de estos sistemas y establecer reglas para reducir el riesgo de que la inteligencia artificial sea utilizada para cometer ciberataques u otras acciones potencialmente peligrosas.