Jakub Pachocki advirtió que los sistemas de inteligencia artificial están adquiriendo capacidades a una velocidad que podría superar la capacidad humana para comprenderlos y controlarlos.
Ciudad de México (Marcrix Noticias).- El rápido desarrollo de la inteligencia artificial comienza a generar preocupación incluso dentro de las propias empresas que encabezan esta carrera tecnológica. Jakub Pachocki, científico jefe de OpenAI, llamó a extremar las medidas de seguridad y consideró necesario que los laboratorios estén dispuestos a desacelerar voluntariamente el desarrollo de estos sistemas cuando sea necesario.
Pachocki señaló que, en poco tiempo, los modelos de IA han pasado de responder preguntas a operar computadoras, colaborar con personas y otros sistemas, además de participar en proyectos de investigación.
Su principal preocupación está en el siguiente paso: que estas tecnologías logren mejorarse a sí mismas sin intervención humana, un proceso conocido como automejora recursiva. El científico advirtió que un incremento acelerado y sostenido de la inteligencia de las máquinas tendría consecuencias para las que, en su opinión, todavía no existe suficiente preparación.
Ante este escenario, planteó que las empresas desarrolladoras podrían limitar temporalmente determinados avances y establecer mecanismos comunes de seguridad antes de continuar con sistemas cada vez más poderosos. Pachocki señaló que espera que estas pausas voluntarias se conviertan en una práctica habitual dentro de la industria.
La advertencia se suma a otras realizadas por líderes del sector tecnológico. Entre ellas se encuentran los señalamientos sobre el impacto que la inteligencia artificial podría tener en el empleo, particularmente en puestos de nivel inicial, conforme aumente su capacidad para realizar tareas que actualmente dependen de trabajadores humanos.
Al mismo tiempo, las principales compañías tecnológicas continúan desarrollando modelos con mayores capacidades. Los avances recientes abarcan áreas como ciberseguridad, investigación científica y resolución de problemas matemáticos complejos.
Pese a las advertencias, también existe una fuerte competencia empresarial por desarrollar sistemas capaces de perfeccionarse de manera autónoma. Startups y laboratorios especializados han recibido inversiones millonarias para investigar tecnologías relacionadas con la llamada automejora recursiva.