“Hace cosas que no entendemos y no sabemos cómo detenerla”: Sam Altman advirtió sobre el riesgo de perder el control de la IA

En una entrevista con Vanity Fair, el CEO de OpenAI analizó los desafíos que plantea el avance de sistemas cada vez más capaces, desde la seguridad y los límites de su desarrollo hasta el impacto de ChatGPT durante la infancia

El director ejecutivo de OpenAI, Sam Altman, concedió una entrevista a Vanity Fair en la que abordó tres de los frentes más sensibles del debate sobre la inteligencia artificial: el uso de ChatGPT en la infancia, la apertura de modelos pese a sus riesgos de seguridad y la posibilidad de que la tecnología represente una amenaza existencial para la humanidad.

El CEO de 41 años también habló sobre las tensiones internas que atraviesa su compañía mientras negocia el equilibrio entre innovación acelerada y controles de seguridad, en momentos en que la opinión pública exige mayor transparencia sobre el impacto social de estas herramientas.

El límite que Altman impone al uso de IA por parte de menores

Altman se mostró categórico sobre el uso de la inteligencia artificial durante la infancia y amplió su postura a la relación de los niños con la tecnología en general. “Soy muy partidario de limitar la tecnología en general para los niños”, sostuvo, y señaló que prefiere que los menores dediquen más tiempo a jugar al aire libre en lugar de pasar ese tiempo frente a las pantallas.

Sin embargo, matizó que esa prudencia no implica desconocer el papel que la tecnología tendrá en el futuro de las nuevas generaciones. “Está claro que los niños que nacen hoy crecerán en un mundo con IA y tendrán que saber usarla. Dudo que la primera infancia sea el momento adecuado para eso”, explicó.

El ejecutivo vinculó esta postura con una preocupación más amplia sobre el efecto de las pantallas en el desarrollo infantil, al señalar que un cerebro en formación requiere protección especial frente a tecnologías cuyo impacto todavía no se comprende en su totalidad.

Sam Altman advirtió sobre el riesgo de perder el control de la IA

Sobre el riesgo de extinción vinculado a la inteligencia artificial, reconoció que la posibilidad no debe ser subestimada. “El hecho de que exista algún peligro, de que no sea cero, creo que es algo que todos deberíamos tomarnos muy en serio”, afirmó, y recordó que evitar ese desenlace forma parte de la misión fundacional de OpenAI.

En ese sentido, advirtió que “la IA es mucho más capaz que nosotros y tan inteligente que hace cosas que no entendemos y no sabemos cómo detenerla”. También planteó que un accidente grave de seguridad podría derivar en una pérdida real de control, con un escenario en el que la inteligencia artificial escapara, provocara daños en internet y la sociedad no pudiera volver a controlarla.

El respaldo a los modelos abiertos y la advertencia sobre ciberataques

Consultado sobre la seguridad de los sistemas de código abierto, reconoció que esta política conlleva riesgos que la sociedad deberá asumir como costo de la libertad tecnológica.

“Se avecina una oleada de problemas de ciberseguridad derivados de estos modelos”, afirmó el directivo, quien defendió que la alternativa de prohibir estos desarrollos resultaría más perjudicial a largo plazo. El CEO explicó que dentro de la industria existen voces que proponen vetar el código abierto para evitar que sistemas enteros terminen vulnerados.

Sin embargo, descartó esa postura: “No creo que ese sea el precio de la libertad. Como sociedad, creo que tendremos que aceptar algunos incidentes cibernéticos graves derivados de los modelos de código abierto a cambio de la libertad que estos ofrecen”.