El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, se mostró a favor de los crecientes llamamientos a favor de un mayor control de la inteligencia artificial (IA), al advertir de que esta tecnología revolucionaria podría convertirse en un “riesgo existencial para la humanidad” si no se toman medidas.
Declaró que sin normas vinculantes, supervisión independiente y límites claros, la tecnología podría volverse incontrolable.
Türk planteó el escenario de que los sistemas de IA se vuelvan tan poderosos que sus propios desarrolladores no puedan controlarlos.
“Una IA que escapa a su entorno de pruebas, o que chantajea a sus desarrolladores para que no la desconecten, es una IA demasiado poderosa”, afirmó.
“Estoy haciendo un llamamiento para que se realice un esfuerzo total para establecer garantías sólidas en torno a la seguridad de la IA, antes de que sea demasiado tarde”, dijo.
Insistió en la necesidad de una tecnología “que sirva a la humanidad y no al revés”, en relación con el empleo, la democracia y el medio ambiente, y recalcó que los derechos humanos deben seguir siendo el principio rector.
Días antes, el director de la empresa de inteligencia artificial Anthropic, Dario Amodei, pidió que se ralentice el ritmo de desarrollo de los modelos de inteligencia artificial y que se realice un seguimiento exhaustivo.
Afirmó que el desarrollo de la IA no estaba en duda, pero que los riesgos asociados a ella son “graves” y es necesario dar tiempo a las empresas y a los gobiernos para abordarlos.
Otros líderes del sector de la IA, entre ellos Sam Altman, de OpenAI, y Elon Musk, de SpaceXAI, también se mostraron de acuerdo con las peticiones de Amodei de ralentizar el ritmo.
La semana pasada, el investigador de IA Jacob Coxon, que dejó OpenAI para incorporarse a Anthropic, decidió abandonar la industria, acusando a ambas empresas estadounidenses de “jugar con nuestras vidas” en la carrera por desarrollar modelos capaces de automejorarse.
Leave a Reply