«Puede salir mal»: la advertencia del creador de OpenAI sobre el avance de la Inteligencia Artificial

La carrera entre las principales empresas tecnológicas para desarrollar modelos de Inteligencia Artificial (IA) cada vez más potentes puede abrir escenarios difíciles de controlar. Sam Altman, CEO de OpenAI, planteó dos riesgos centrales y advirtió que el avance de esta tecnología podría tener consecuencias graves para la humanidad.

A través de una extensa publicación en X, el empresario sostuvo que existen dos maneras en las que el desarrollo de la IA podría desviarse de forma peligrosa. Una de ellas está vinculada con la posibilidad de que las personas pierdan el control sobre sistemas con capacidades superiores.

“Esto es inaceptable”, afirmó Altman al referirse a esa posibilidad. Al mismo tiempo, aseguró que OpenAI está “inequívocamente del lado de la humanidad” y sostuvo que las herramientas destinadas a garantizar que los modelos actúen de acuerdo con los intereses humanos deben avanzar más rápido que sus capacidades.

El temor a perder el control de la IA

Para Altman, el crecimiento acelerado de los modelos obliga a modificar la manera en que las empresas evalúan sus riesgos. Hasta ahora, buena parte de los controles se concentraba en comprobar la seguridad de los sistemas antes de ponerlos a disposición del público.

El CEO de OpenAI planteó que ese esquema ya no alcanza. A medida que los modelos incorporan nuevas capacidades, las evaluaciones deberían realizarse también durante las distintas etapas de su desarrollo.

En ese sentido, recordó que OpenAI ya había implementado iniciativas como las Responsible Scaling Policies y los Preparedness Frameworks, orientadas a anticipar posibles problemas derivados de modelos cada vez más avanzados.

La compañía también comenzó a elaborar “casos de seguridad” antes de determinadas etapas de entrenamiento mediante reinforcement learning, con el objetivo de detectar posibles riesgos antes de procesos capaces de generar saltos importantes en las capacidades de los sistemas.

La advertencia se produce después de distintos episodios que volvieron a poner bajo la lupa el grado de autonomía que pueden alcanzar estas herramientas. OpenAI confirmó recientemente que uno de sus programas autónomos atacó un sitio web durante una prueba, un episodio ocurrido dos meses antes de otro incidente relacionado con Hugging Face.

El segundo peligro señalado por Sam Altman

El otro escenario que preocupa al empresario no está relacionado con una IA que actúe por fuera del control humano, sino con el poder que podría concentrarse alrededor de quienes tengan acceso a los sistemas más avanzados.

Altman planteó la posibilidad de que una persona o una compañía consiga desarrollar una inteligencia artificial con suficiente poder como para intentar imponer su propia visión sobre el resto de la sociedad. A su entender, un escenario de esas características podría ser “extremadamente distópico”.

El problema, según su análisis, también podría darse a escala internacional. Un único país podría acumular una ventaja considerable si consigue concentrar capacidades extraordinarias en inteligencia artificial.

Por eso, el CEO de OpenAI consideró necesario evitar tanto una IA que escape al control humano como una concentración excesiva de poder tecnológico. Para lograrlo, habló de la necesidad de encontrar un “estrecho camino intermedio”.

El pedido de nuevas reglas para las empresas de IA

Ante estos riesgos, Altman respaldó la creación de un marco federal en Estados Unidos que establezca requisitos de seguridad comunes para las compañías que desarrollan los modelos más avanzados.

El planteo apunta a que las empresas asuman mayores responsabilidades a medida que aumenta el alcance de sus sistemas. Para el empresario, no sería conveniente esperar a que exista una nueva legislación o una excepción en materia antimonopolio para comenzar a establecer mecanismos de seguridad.

La advertencia llega en un momento de fuerte competencia entre los grandes laboratorios tecnológicos por alcanzar sistemas de inteligencia artificial cada vez más sofisticados. Para Altman, ese ritmo de desarrollo vuelve indispensable que la seguridad avance al mismo tiempo que las capacidades de los modelos.