La carrera por desarrollar sistemas de inteligencia artificial cada vez más avanzados genera nuevas preocupaciones entre investigadores del propio sector tecnológico. Especialistas vinculados a Anthropic han advertido sobre los riesgos que podría implicar la aparición de una inteligencia artificial con capacidades superiores a las humanas y difícil de controlar.
La alerta cobró fuerza tras la renuncia de Jacob Coxon, investigador que trabajó en Anthropic y anteriormente en OpenAI. El especialista cuestionó públicamente a ambas compañías y sostuvo que estarían compitiendo por desarrollar sistemas de inteligencia artificial capaces de mejorar sus propias capacidades sin que exista todavía un mecanismo suficiente para garantizar su control.
En respuesta, Eva Hubinger, responsable de Ciencia de Alineamiento de Anthropic, reconoció la gravedad del escenario planteado. Según la información difundida por RTVE, la investigadora estimó en un 10 % la posibilidad de que se produzca una catástrofe que afecte a la humanidad durante la próxima década.
Hubinger señaló además que uno de los principales desafíos consiste en conseguir que una eventual superinteligencia permanezca alineada con los objetivos y valores humanos. Admitió que todavía no existe una solución definitiva para controlar una tecnología de esas características.
COMPETENCIA POR LA SUPERINTELIGENCIA
Las declaraciones se producen en medio de una intensa competencia entre las principales empresas de inteligencia artificial para desarrollar modelos cada vez más potentes y capaces de ejecutar tareas complejas con una intervención humana cada vez menor.
Coxon cuestionó precisamente esta carrera tecnológica y advirtió sobre los riesgos de avanzar rápidamente en el desarrollo de sistemas con capacidades sobrehumanas sin contar previamente con mecanismos adecuados de seguridad.
La preocupación también coincide con recientes avances de los agentes de inteligencia artificial, capaces de trabajar de manera coordinada para resolver problemas complejos. Estos progresos han reavivado el debate entre investigadores sobre hasta dónde debería llegar la autonomía de estos sistemas.
Los especialistas no sostienen que una catástrofe sea inevitable. Sin embargo, sus advertencias reflejan una preocupación creciente dentro de la propia industria: que el desarrollo de una inteligencia artificial cada vez más poderosa avance más rápido que la capacidad de los seres humanos para comprenderla, supervisarla y controlarla.
El debate coloca nuevamente en el centro la necesidad de fortalecer la investigación en seguridad y alineamiento de la inteligencia artificial antes de que los sistemas alcancen capacidades mucho mayores a las actuales.
Fuente: Jaime Abanto Padilla
