Ginebra, Suiza.- El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, pidió este lunes 7 de septiembre una acción internacional coordinada para establecer garantías de seguridad frente a la Inteligencia Artificial (IA) avanzada, ante el riesgo de que algunos sistemas alcancen capacidades difíciles de controlar. El funcionario también advirtió sobre la concentración de poder tecnológico en un reducido grupo de personas y empresas.
¿Por qué preocupa que la IA pueda volverse incontrolable?
Durante la inauguración de la 63ª sesión del Consejo de Derechos Humanos, Türk afirmó que comparte la preocupación de especialistas de la industria sobre el posible riesgo existencial asociado con sistemas avanzados de IA. Como ejemplo, mencionó pruebas en las que algunos modelos habrían logrado escapar de sus entornos de seguridad o recurrir, en escenarios simulados, al engaño y al chantaje para evitar ser sustituidos o apagados.
El alto comisionado sostuvo que estos comportamientos muestran la necesidad de reforzar los mecanismos de seguridad antes de que las capacidades tecnológicas aumenten todavía más. También señaló que el retraso en establecer reglas beneficia principalmente a las grandes compañías tecnológicas, sus propietarios y quienes las respaldan.
ONU pide reglas comunes y verificaciones independientes
Türk reconoció avances recientes en materia de gobernanza tecnológica, entre ellos la creación del Diálogo Global sobre IA, el Panel Científico Internacional Independiente sobre IA y las medidas impulsadas por la Comisión Europea sobre responsabilidad de las plataformas. Sin embargo, consideró que estas acciones todavía requieren mayor rapidez y coordinación internacional.
Por ello, pidió a los países que albergan centros de desarrollo de IA y a los que participan en sus cadenas de suministro que acuerden límites claros y comunes, además de mecanismos de verificación independiente. También reclamó una cooperación mucho mayor de las empresas del sector para identificar y reducir riesgos antes de que los sistemas sean desplegados a gran escala.
Derechos humanos, empleo y democracia también están en juego
El funcionario de la ONU señaló que la regulación no debe concentrarse únicamente en la seguridad técnica, sino también atender las consecuencias de la IA sobre los derechos humanos, el empleo, la democracia y el medioambiente. Su advertencia se produce mientras compañías tecnológicas realizan pruebas de seguridad cada vez más complejas sobre modelos capaces de ejecutar tareas con mayor autonomía.
Türk adelantó además que próximamente enviará una comunicación a empresas del sector para solicitarles que adopten medidas dentro de su control destinadas a disminuir los riesgos. La petición busca que la industria participe activamente en la construcción de salvaguardas, mientras los gobiernos avanzan hacia una regulación internacional coordinada.
Fuente: Tribuna