Los directivos de OpenAI y Anthropic pidieron al Consejo de Seguridad de la ONU que impulse una regulación global para la inteligencia artificial, la misma tecnología que sus empresas desarrollan. El reclamo se produjo ante el riesgo de que la expansión descontrolada de los sistemas escape a cualquier supervisión humana.
Dario Amodei, director ejecutivo de Anthropic, y Sam Altman, director ejecutivo de OpenAI, dieron declaraciones ante el organismo y coincidieron en que, sin salvaguardias comunes, la humanidad podría perder el control sobre el desarrollo de la inteligencia artificial.
Amodei advirtió que la falta de control podría derivar en consecuencias irreversibles. “Si se gestiona mal, creo que la IA podría incluso suponer un riesgo para la humanidad en su conjunto”, afirmó ante el Consejo de Seguridad. Altman planteó una preocupación similar: “Podríamos perder el control del futuro a manos de la IA”, sostuvo.
Ambos ejecutivos coincidieron en que los países deben establecer salvaguardias para evitar que la tecnología alcance un nivel de poder imposible de supervisar. También reclamaron que ese poder no quede concentrado en una sola empresa o un solo país.
La inteligencia artificial, cuando se regula de forma adecuada, puede ampliar las capacidades humanas en tareas de análisis, producción y toma de decisiones. Pero también conlleva riesgos de pérdida de control si se desarrolla sin estándares comunes de seguridad verificables entre gobiernos y empresas.
Altman destacó además el potencial de esta tecnología para el progreso humano, al señalar que puede “dar a las personas mayor control sobre sus propias vidas”. Junto a ellos participó de forma remota Clément Delangue, director ejecutivo de Hugging Face, cuya conexión sufrió fallos técnicos durante la sesión.
El ministro de Asuntos Exteriores británico, Ed Miliband, respaldó el planteo de los ejecutivos. “Nos están diciendo claramente que no se les puede dejar a ellos la responsabilidad de evitar que el mundo se vea asediado”, declaró. “No podemos ignorarlos porque tienen razón”.
Miliband anunció que, cuando el Reino Unido asuma la presidencia del G20 el próximo año, colocará el control de la inteligencia artificial en el centro de las discusiones del foro. El objetivo declarado es alcanzar un conjunto único de estándares globales “para garantizar que el desarrollo de la IA sea seguro”.
Esa postura choca de manera directa con la posición de Estados Unidos, expresada en la misma sesión por Michael Kratsios, asesor científico de la Casa Blanca. Según Kratsios, las preocupaciones sobre el control de la tecnología “no son motivo para detener su desarrollo ni para limitarlo con una nueva estructura de gobernanza global”.
Kratsios remarcó que la posición de Washington apunta a extender los beneficios de la inteligencia artificial entre sus socios internacionales sin someterla a un marco regulatorio compartido. “Queremos que ustedes, nuestros aliados y socios, se beneficien de esta tecnología”, afirmó ante el Consejo de Seguridad.
Esta divergencia deja planteado un interrogante que atraviesa la agenda de los principales gobiernos: quién debe tener la última palabra sobre las decisiones que involucran a sistemas de inteligencia artificial, si los humanos o las propias máquinas, y bajo qué reglas comunes, si es que llegan a existir.
Un día antes de la sesión con los ejecutivos tecnológicos, el secretario general de la ONU, Antonio Guterres, había advertido sobre los llamados “robots asesinos”. Según expertos y líderes europeos que participaron del debate, esa advertencia no describe un escenario hipotético, sino una realidad ya presente o peligrosamente próxima a concretarse.
Comentarios