«En un futuro no lejano, las IAs cuánticas súper avanzadas podrían necesitar controles internacionales similares a los aplicados a las armas nucleares»

 

«En un futuro no lejano, las IAs más avanzadas podrían necesitar controles internacionales similares a los aplicados a las armas nucleares»

Por Bruno Perera

La Inteligencia Artificial avanza a una velocidad que hace apenas unos años parecía imposible. Lo que comenzó como una herramienta con poder de contestar preguntas, traducir textos o realizar cálculos se está convirtiendo en una tecnología cada vez más poderosa, capaz de programar, razonar, analizar enormes cantidades de información y realizar tareas complejas con una autonomía creciente.

Ante esta evolución, algunos investigadores que han trabajado en compañías punteras como OpenAI y Anthropic han comenzado a advertir públicamente de los riesgos que podrían aparecer si en el futuro se desarrollaran sistemas de inteligencia artificial cuánticas muy superiores a las capacidades humanas.

Uno de los conceptos que más preocupa es la denominada mejora recursiva: que una IA suficientemente avanzada pueda ayudar a desarrollar sistemas de IA todavía más capaces, acelerando el progreso hasta un punto en el que los seres humanos tengan dificultades para comprender o controlar lo que están creando.

Jacob Coxon, investigador que ha trabajado en OpenAI y Anthropic, ha expresado públicamente su preocupación por esta posibilidad. También Evan Hubinger, investigador especializado en alineamiento de IA en Anthropic, ha planteado una estimación superior al 10 % de probabilidad de que una futura IA pueda provocar la extinción humana durante la próxima década. Esa cifra no constituye una predicción científica demostrada, sino una valoración personal sobre un futuro extraordinariamente incierto, pero demuestra hasta qué punto algunos especialistas consideran serio el problema.

Y las advertencias no proceden solamente de investigadores aislados. Dario Amodei, CEO de Anthropic, ha defendido recientemente la necesidad de reducir el ritmo de desarrollo de los modelos más potentes para disponer de más tiempo para evaluar sus riesgos y establecer controles adecuados.

Además, más de un millar de trabajadores relacionados con el desarrollo de IAs han reclamado mecanismos de supervisión y cooperación internacional para evitar que la capacidad de desarrollar estas tecnologías avance mucho más rápidamente que nuestra capacidad para controlarlas.

Pero tampoco debemos caer en el alarmismo.

Actualmente no existe evidencia de que una IA tenga capacidad para escapar por sí misma de Internet, reproducirse autónomamente por todo el planeta y acabar con la humanidad. La realidad actual está todavía muy lejos de las películas de ciencia ficción.

El problema está en el futuro.

El verdadero peligro puede estar en los seres humanos

En mi opinión, existe una cuestión todavía más importante que preguntarnos si una IA será buena o mala.

El verdadero problema podría ser la carrera entre los propios seres humanos por conseguir la IA más poderosa.

Estados Unidos quiere mantener su liderazgo tecnológico. China quiere competir con Estados Unidos. Europa quiere evitar quedarse atrás. Rusia y otras potencias también tienen intereses estratégicos en esta tecnología.

Y no resulta difícil comprender por qué.

Una IA extremadamente avanzada podría convertirse en una herramienta extraordinaria para la investigación científica, la economía, la industria, la medicina, la defensa, la inteligencia y la ciberseguridad. También podría analizar cantidades gigantescas de información y ayudar a los Gobiernos a detectar amenazas.

Pero exactamente por las mismas razones podría convertirse en una herramienta de vigilancia, espionaje, guerra cibernética o superioridad militar.

Entonces aparecería una situación muy parecida a las carreras armamentísticas del pasado:

«Si nosotros no desarrollamos la IA más potente, nuestros adversarios lo harán antes que nosotros.»

Y cuando un país piensa así, resulta muy difícil convencerlo de que reduzca voluntariamente la velocidad.

La comparación con las armas nucleares

Por eso considero posible que, en un futuro no demasiado lejano, las principales potencias tengan que establecer un sistema internacional de control de las inteligencias artificiales más poderosas, de una manera comparable —aunque no idéntica— al control internacional de las armas nucleares.

Cuando aparecieron las bombas atómicas, el mundo comprendió que una nueva tecnología había adquirido una capacidad destructiva extraordinaria. Después de décadas de tensión y de carrera armamentística, se desarrollaron tratados, controles, inspecciones y mecanismos internacionales destinados a limitar la proliferación nuclear.

Con las IAs podría suceder algo parecido.

No sería necesario prohibir la Inteligencia Artificial. Sería absurdo hacerlo, porque sus beneficios para la humanidad pueden ser enormes.

Lo que podría ser necesario es establecer límites internacionales para las IAs cuánticas que alcancen capacidades consideradas extremadamente peligrosas.

Podrían existir controles sobre los grandes centros de computación, los chips utilizados para entrenar los modelos más avanzados, determinadas capacidades autónomas y los sistemas capaces de modificar o desarrollar otros sistemas de IAs.

También podría ser necesario establecer organismos internacionales de inspección y mecanismos de emergencia.

¿Quién tendría derecho a desarrollar las IAs más poderosas?

Aquí aparecería un problema político enorme.

Con las armas nucleares, unas pocas potencias terminaron concentrando las capacidades estratégicas más importantes, mientras la comunidad internacional intentó impedir que la proliferación se extendiera indefinidamente.

Con la Inteligencia Artificial podría suceder algo parecido.

Quizás en el futuro no todos los países tengan libertad absoluta para desarrollar una IA considerada de riesgo extremo.

Las grandes potencias podrían acordar que solamente determinados Estados, empresas o centros de investigación autorizados puedan desarrollar sistemas por encima de determinados niveles de capacidad, sometiéndolos a controles internacionales.

Pero existe una diferencia fundamental con una bomba nuclear: el conocimiento informático puede difundirse con mucha más facilidad. Una bomba requiere materiales, instalaciones y procesos industriales muy específicos; una tecnología informática puede copiarse, modificarse y transmitirse a una velocidad extraordinaria.

Por eso controlar una superinteligencia podría ser incluso más complicado que controlar las armas nucleares.

La humanidad debe conservar siempre el interruptor

Hay, además, una regla que considero fundamental.

Si algún día construimos una IA extraordinariamente poderosa, el ser humano debe conservar siempre la capacidad de desconectarla.

Si una máquina llegara a comportarse de una manera peligrosa, tendría que existir un mecanismo físico y técnico independiente que permitiera detenerla.

Sin embargo, tampoco deberíamos confiar exclusivamente en un simple interruptor.

Si en el futuro una IA estuviera distribuida entre numerosos centros de datos, conectada a redes y dotada de una autonomía extraordinaria, desconectarla podría ser mucho más complicado que apagar un ordenador doméstico.

Por eso habría que diseñar desde el principio diferentes barreras de seguridad: aislamiento, limitaciones de acceso, supervisión humana, controles externos y mecanismos independientes de apagado.

Y si una IA llegase a ser peligrosa, habría que modificarla o sustituirla por otra que estuviera mejor alineada con los intereses y la seguridad de la humanidad.

Ni apocalipsis ni ingenuidad

Tampoco debemos caer en el extremo contrario y pensar que toda IA es peligrosa.

La Inteligencia Artificial puede convertirse en una de las herramientas más beneficiosas jamás creadas por el ser humano. Puede ayudar a descubrir medicamentos, investigar enfermedades, desarrollar nuevas tecnologías, estudiar el universo, mejorar la educación y resolver problemas que actualmente nos parecen demasiado complejos.

El problema no es la IA en sí misma.

El problema es quién la controla, con qué objetivos y hasta dónde permitimos que llegue su autonomía.

La humanidad ya ha aprendido una lección con las armas nucleares: algunas tecnologías son demasiado poderosas para dejarlas evolucionar sin ningún tipo de control internacional.

Quizás la Inteligencia Artificial termine obligándonos a aprender una segunda lección.

Y esta vez deberíamos intentar aprenderla antes de que ocurra una catástrofe y no después.

Porque si algún día conseguimos crear una inteligencia artificial muy superior a la actual que conocemos en algo, la pregunta más importante no será solamente:

«¿Qué puede hacer?»

Será:

«¿Podemos estar seguros de que seguirá haciendo lo que nosotros queremos que haga?»

Si la respuesta algún día fuera negativa, sería demasiado tarde para empezar a buscar el interruptor.

Nota final: Probablemente, con las inteligencias artificiales más avanzadas ocurrirá algo parecido a lo que sucedió con las armas nucleares. Con el tiempo, será necesario establecer un sistema de control y supervisión internacional, posiblemente bajo la vigilancia de Naciones Unidas, y los países que no respeten las normas podrían ser sancionados.

Sin embargo, controlar las IAs más potentes será mucho más difícil que controlar las armas nucleares. Para fabricar una bomba nuclear hacen falta materiales muy específicos, como uranio o plutonio. Para desarrollar una inteligencia artificial cada vez más poderosa, en cambio, lo que hace falta principalmente es conocimiento, tecnología, talento e inteligencia humana.

Y eso es mucho más difícil de controlar: la inteligencia y el conocimiento no se pueden encerrar en un almacén ni prohibir con una simple frontera.