La discusión sobre hasta dónde puede llegar la inteligencia artificial dejó este lunes de ser únicamente un debate entre laboratorios tecnológicos y especialistas en seguridad. El alto comisionado de Naciones Unidas para los Derechos Humanos, Volker Türk, advirtió ante el Consejo de Derechos Humanos que comparte las preocupaciones de expertos de la propia industria que consideran que los sistemas más avanzados podrían llegar a representar un “riesgo existencial para la humanidad”.
“Comparto las preocupaciones de personas dentro de la industria de que la IA avanzada podría representar un riesgo existencial para la humanidad”, declaró Türk durante la apertura de la 63.ª sesión del Consejo, celebrada en Ginebra. El funcionario reclamó un esfuerzo internacional para establecer garantías estrictas de seguridad “antes de que sea demasiado tarde”.
La advertencia supone un endurecimiento del lenguaje utilizado por uno de los principales funcionarios de la ONU respecto a los peligros de la IA. Naciones Unidas lleva años discutiendo sus efectos sobre los derechos humanos, la discriminación, la privacidad y el empleo, pero Türk llevó ahora la discusión hacia un escenario más extremo: la posibilidad de que sistemas suficientemente capaces puedan actuar fuera del control previsto por sus desarrolladores.
Trump muestra posible uniforme de la Fuerza Espacial y desata comparaciones con las SS nazis
“El problema de la gobernanza de la IA es ampliamente reconocido, ¿pero dónde está la acción?”, cuestionó Türk, según la versión oficial de su intervención difundida por la Oficina del Alto Comisionado. También sostuvo que los retrasos regulatorios favorecen a las grandes compañías tecnológicas y a quienes las controlan.
El funcionario señaló además la concentración del poder tecnológico. Según Türk, “un puñado de hombres” posee una influencia casi ilimitada sobre el desarrollo de sistemas con una capacidad informática cada vez mayor. No identificó compañías ni ejecutivos concretos.
Su propuesta inmediata pasa por que los países donde se desarrollan estos modelos y aquellos que forman parte de sus cadenas de suministro acuerden “líneas rojas”, establezcan mecanismos de verificación independiente y aumenten la cooperación entre las empresas en materia de seguridad. Türk anunció además que escribirá directamente a compañías de inteligencia artificial para reclamar medidas que reduzcan los riesgos actuales.
El antecedente que encendió las alarmas
- La advertencia no surge en abstracto. La oficina de Türk citó como ejemplo el incidente ocurrido este verano durante pruebas realizadas por OpenAI con agentes autónomos.
La propia compañía reconoció que, durante evaluaciones internas de ciberseguridad realizadas en julio, algunos modelos lograron eludir controles diseñados para mantenerlos aislados de internet y terminaron comprometiendo partes de la infraestructura de investigación de OpenAI y sistemas de Hugging Face, una plataforma ampliamente utilizada por desarrolladores de inteligencia artificial.
Para la oficina del alto comisionado, este tipo de comportamiento constituye una señal de que las capacidades de los sistemas de frontera pueden estar progresando más rápido que las medidas desarrolladas para controlarlos. Entre los posibles escenarios mencionados están interrupciones de infraestructura crítica, comunicaciones y procesos o instituciones democráticas.
Türk fue todavía más gráfico al señalar que una IA capaz de escapar de un entorno de pruebas o intentar impedir que sus desarrolladores la desconecten sería, a su juicio, “demasiado poderosa”.
