«En
un futuro no lejano, las IAs más avanzadas podrían necesitar controles
internacionales similares a los aplicados a las armas nucleares»
Por Bruno Perera
La Inteligencia Artificial avanza a una velocidad
que hace apenas unos años parecía imposible. Lo que comenzó como una
herramienta con poder de contestar preguntas, traducir textos o realizar cálculos
se está convirtiendo en una tecnología cada vez más poderosa, capaz de
programar, razonar, analizar enormes cantidades de información y realizar
tareas complejas con una autonomía creciente.
Ante esta evolución, algunos investigadores que
han trabajado en compañías punteras como OpenAI y Anthropic han comenzado a advertir
públicamente de los riesgos que podrían aparecer si en el futuro se
desarrollaran sistemas de inteligencia artificial cuánticas muy superiores a las
capacidades humanas.
Uno de los conceptos que más preocupa es la
denominada mejora recursiva: que una IA suficientemente avanzada pueda
ayudar a desarrollar sistemas de IA todavía más capaces, acelerando el progreso
hasta un punto en el que los seres humanos tengan dificultades para comprender
o controlar lo que están creando.
Jacob Coxon, investigador que ha trabajado en
OpenAI y Anthropic, ha expresado públicamente su preocupación por esta
posibilidad. También Evan Hubinger, investigador especializado en alineamiento
de IA en Anthropic, ha planteado una estimación superior al 10 % de
probabilidad de que una futura IA pueda provocar la extinción humana durante la
próxima década. Esa cifra no constituye una predicción científica demostrada,
sino una valoración personal sobre un futuro extraordinariamente incierto, pero
demuestra hasta qué punto algunos especialistas consideran serio el problema.
Y las advertencias no proceden solamente de
investigadores aislados. Dario Amodei, CEO de Anthropic, ha defendido
recientemente la necesidad de reducir el ritmo de desarrollo de los modelos más
potentes para disponer de más tiempo para evaluar sus riesgos y establecer
controles adecuados.
Además, más de un millar de trabajadores
relacionados con el desarrollo de IAs han reclamado mecanismos de supervisión y
cooperación internacional para evitar que la capacidad de desarrollar estas
tecnologías avance mucho más rápidamente que nuestra capacidad para
controlarlas.
Pero tampoco debemos caer en el alarmismo.
Actualmente no existe evidencia de que una IA
tenga capacidad para escapar por sí misma de Internet, reproducirse autónomamente
por todo el planeta y acabar con la humanidad. La realidad actual está todavía muy lejos de las películas de ciencia
ficción.
El problema está en el futuro.
El verdadero
peligro puede estar en los seres humanos
En mi opinión, existe una cuestión todavía más
importante que preguntarnos si una IA será buena o mala.
El verdadero problema podría ser la carrera
entre los propios seres humanos por conseguir la IA más poderosa.
Estados Unidos quiere mantener su liderazgo
tecnológico. China quiere competir con Estados Unidos. Europa quiere evitar
quedarse atrás. Rusia y otras potencias también tienen intereses estratégicos
en esta tecnología.
Y no resulta difícil comprender por qué.
Una IA extremadamente avanzada podría convertirse
en una herramienta extraordinaria para la investigación científica, la
economía, la industria, la medicina, la defensa, la inteligencia y la
ciberseguridad. También podría analizar cantidades gigantescas de información y
ayudar a los Gobiernos a detectar amenazas.
Pero exactamente por las mismas razones podría
convertirse en una herramienta de vigilancia, espionaje, guerra cibernética o
superioridad militar.
Entonces aparecería una situación muy parecida a
las carreras armamentísticas del pasado:
«Si nosotros no desarrollamos la IA más potente,
nuestros adversarios lo harán antes que nosotros.»
Y cuando un país piensa así, resulta muy difícil
convencerlo de que reduzca voluntariamente la velocidad.
La comparación
con las armas nucleares
Por eso considero posible que, en un futuro no
demasiado lejano, las principales potencias tengan que establecer un sistema
internacional de control de las inteligencias artificiales más poderosas,
de una manera comparable —aunque no idéntica— al control internacional de las
armas nucleares.
Cuando aparecieron las bombas atómicas, el mundo
comprendió que una nueva tecnología había adquirido una capacidad destructiva
extraordinaria. Después de décadas de tensión y de carrera armamentística, se
desarrollaron tratados, controles, inspecciones y mecanismos internacionales
destinados a limitar la proliferación nuclear.
Con las IAs podría suceder algo parecido.
No sería necesario prohibir la Inteligencia
Artificial. Sería absurdo hacerlo, porque sus beneficios para la humanidad
pueden ser enormes.
Lo que podría ser necesario es establecer límites
internacionales para las IAs cuánticas que alcancen capacidades consideradas
extremadamente peligrosas.
Podrían existir controles sobre los grandes
centros de computación, los chips utilizados para entrenar los modelos más
avanzados, determinadas capacidades autónomas y los sistemas capaces de
modificar o desarrollar otros sistemas de IAs.
También podría ser necesario establecer
organismos internacionales de inspección y mecanismos de emergencia.
¿Quién tendría
derecho a desarrollar las IAs más poderosas?
Aquí aparecería un problema político enorme.
Con las armas nucleares, unas pocas potencias
terminaron concentrando las capacidades estratégicas más importantes, mientras
la comunidad internacional intentó impedir que la proliferación se extendiera
indefinidamente.
Con la Inteligencia Artificial podría suceder
algo parecido.
Quizás en el futuro no todos los países tengan
libertad absoluta para desarrollar una IA considerada de riesgo extremo.
Las grandes potencias podrían acordar que
solamente determinados Estados, empresas o centros de investigación autorizados
puedan desarrollar sistemas por encima de determinados niveles de capacidad,
sometiéndolos a controles internacionales.
Pero existe una diferencia fundamental con una
bomba nuclear: el conocimiento informático puede difundirse con mucha más
facilidad. Una bomba requiere materiales, instalaciones y procesos
industriales muy específicos; una tecnología informática puede copiarse,
modificarse y transmitirse a una velocidad extraordinaria.
Por eso controlar una superinteligencia podría
ser incluso más complicado que controlar las armas nucleares.
La humanidad debe
conservar siempre el interruptor
Hay, además, una regla que considero fundamental.
Si algún día construimos una IA
extraordinariamente poderosa, el ser humano debe conservar siempre la
capacidad de desconectarla.
Si una máquina llegara a comportarse de una
manera peligrosa, tendría que existir un mecanismo físico y técnico
independiente que permitiera detenerla.
Sin embargo, tampoco deberíamos confiar
exclusivamente en un simple interruptor.
Si en el futuro una IA estuviera distribuida
entre numerosos centros de datos, conectada a redes y dotada de una autonomía
extraordinaria, desconectarla podría ser mucho más complicado que apagar un
ordenador doméstico.
Por eso habría que diseñar desde el principio
diferentes barreras de seguridad: aislamiento, limitaciones de acceso,
supervisión humana, controles externos y mecanismos independientes de apagado.
Y si una IA llegase a ser peligrosa, habría que
modificarla o sustituirla por otra que estuviera mejor alineada con los
intereses y la seguridad de la humanidad.
Ni apocalipsis
ni ingenuidad
Tampoco debemos caer en el extremo contrario y
pensar que toda IA es peligrosa.
La Inteligencia Artificial puede convertirse en
una de las herramientas más beneficiosas jamás creadas por el ser humano. Puede
ayudar a descubrir medicamentos, investigar enfermedades, desarrollar nuevas
tecnologías, estudiar el universo, mejorar la educación y resolver problemas
que actualmente nos parecen demasiado complejos.
El problema no es la IA en sí misma.
El problema es quién la controla, con qué
objetivos y hasta dónde permitimos que llegue su autonomía.
La humanidad ya ha aprendido una lección con las
armas nucleares: algunas tecnologías son demasiado poderosas para dejarlas
evolucionar sin ningún tipo de control internacional.
Quizás la Inteligencia Artificial termine
obligándonos a aprender una segunda lección.
Y esta vez deberíamos intentar aprenderla antes
de que ocurra una catástrofe y no después.
Porque si algún día conseguimos crear una
inteligencia artificial muy superior a la actual que conocemos en algo, la pregunta más importante
no será solamente:
«¿Qué puede hacer?»
Será:
«¿Podemos estar seguros de que seguirá haciendo
lo que nosotros queremos que haga?»
Si la respuesta algún día fuera negativa, sería
demasiado tarde para empezar a buscar el interruptor.
Nota final:
Probablemente, con las inteligencias artificiales más avanzadas ocurrirá algo
parecido a lo que sucedió con las armas nucleares. Con el tiempo, será
necesario establecer un sistema de control y supervisión internacional,
posiblemente bajo la vigilancia de Naciones Unidas, y los países que no
respeten las normas podrían ser sancionados.
Sin embargo, controlar las IAs más potentes será
mucho más difícil que controlar las armas nucleares. Para fabricar una bomba
nuclear hacen falta materiales muy específicos, como uranio o plutonio. Para
desarrollar una inteligencia artificial cada vez más poderosa, en cambio, lo
que hace falta principalmente es conocimiento, tecnología, talento e
inteligencia humana.
Y eso es mucho más difícil de controlar: la
inteligencia y el conocimiento no se pueden encerrar en un almacén ni prohibir
con una simple frontera.



