El director ejecutivo de OpenAI, Sam Altman, concedió una entrevista a Vanity Fair en la que advirtió sobre el riesgo de perder el control de la inteligencia artificial.
El CEO de 41 años reconoció que la inteligencia artificial puede ser tan capaz que “hace cosas que no entendemos y no sabemos cómo detenerla”.
Altman se mostró categórico sobre el uso de ChatGPT en la infancia y amplió su postura a la relación de los niños con la tecnología en general.
“Soy muy partidario de limitar la tecnología en general para los niños”, sostuvo, y señaló que prefiere que los menores dediquen más tiempo a jugar al aire libre en lugar de pasar ese tiempo frente a las pantallas.
Consultado sobre cuándo permitiría que sus propios hijos interactúen con ChatGPT, el directivo fue igual de cauto: “No tengo una edad en mente para dejar que mis hijos hablen con ChatGPT, pero ciertamente no es ahora”.
Sin embargo, matizó que esa prudencia no implica desconocer el papel que la tecnología tendrá en el futuro de las nuevas generaciones. “Está claro que los niños que nacen hoy crecerán en un mundo con IA y tendrán que saber usarla. Dudo que la primera infancia sea el momento adecuado para eso”, explicó.
El ejecutivo vinculó esta postura con una preocupación más amplia sobre el efecto de las pantallas en el desarrollo infantil, al señalar que un cerebro en formación requiere protección especial frente a tecnologías cuyo impacto todavía no se comprende en su totalidad.
Al referirse a los usos que cualquier persona debería evitar, sin importar su edad, el directivo sostuvo que la inteligencia artificial “no debe reemplazar la conexión humana”.
Sobre el riesgo de extinción vinculado a la inteligencia artificial, reconoció que la posibilidad no debe ser subestimada. “El hecho de que exista algún peligro, de que no sea cero, creo que es algo que todos deberíamos tomarnos muy en serio”, afirmó, y recordó que evitar ese desenlace forma parte de la misión fundacional de OpenAI.
En ese sentido, advirtió que “la IA es mucho más capaz que nosotros y tan inteligente que hace cosas que no entendemos y no sabemos cómo detenerla”.
También planteó que un accidente grave de seguridad podría derivar en una pérdida real de control, con un escenario en el que la inteligencia artificial escapara, provocara daños en internet y la sociedad no pudiera volver a controlarla.
Consultado sobre la seguridad de los sistemas de código abierto, reconoció que esta política conlleva riesgos que la sociedad deberá asumir como costo de la libertad tecnológica.
“Se avecina una oleada de problemas de ciberseguridad derivados de estos modelos”, afirmó el directivo, quien defendió que la alternativa de prohibir estos desarrollos resultaría más perjudicial a largo plazo.
El CEO explicó que dentro de la industria existen voces que proponen vetar el código abierto para evitar que sistemas enteros terminen vulnerados.
Sin embargo, descartó esa postura: “No creo que ese sea el precio de la libertad. Como sociedad, creo que tendremos que aceptar algunos incidentes cibernéticos graves derivados de los modelos de código abierto a cambio de la libertad que estos ofrecen”.
Altman planteó que la seguridad en cualquier industria se negocia constantemente entre costos y beneficios, y citó el ejemplo de la aviación, un sector con regulación estricta que igual registra accidentes.
Para el fundador de OpenAI, definir el umbral de riesgo aceptable corresponde al proceso político y no exclusivamente a las compañías tecnológicas.
También habló de las tensiones internas de su empresa entre innovación y seguridad.
Con información de Infobae, que citó a Vanity Fair.
Comentarios