Autor: J Giorgi – 22.09.2026
En esta web hablamos de competitividad. En pleno siglo XXI la competitividad se ha convertido en un concepto absolutamente dependiente de la Inteligencia Artificial (IA). Difícilmente encontraremos alguna empresa, negocio, ente público, directivo, persona de a pie que no estén obligados a utilizar, de una u otra forma, la IA, incluso en las tareas más rutinarias.
Con su capacidad de autoaprendizaje, la IA está subiendo de nivel a un ritmo espectacular. Tan espectacular, que muchos han empezado a preguntarse ¿Dónde está el límite? ¿Podrá la IA alcanzar niveles tales de superinteligencia que acabe escapando al control de su padre, el ser humano? ¿Y si es así, podrá, en algún rapto edípico, matar al padre? Muchos expertos en IA creen que sí y en los últimos días han desatado una polémica en la prensa internacional.
Esta polémica no está directamente relacionada con la competitividad, pero sí con la herramienta omnipresente cuando se habla de competitividad. Por esto, y por el enorme alcance que puede acabar teniendo en nuestras vidas la IA, mucho más allá de la competitividad, me ha parecido necesario dedicarle un tiempo de reflexión.
LAS DENUNCIAS
En mayo 2023 el británico Geoffrey Hinton, premio Nobel de Física y uno de los grandes pioneros en el desarrollo de la IA, dio la primera voz de alarma. En una entrevista publicada por The New York Times anunció que dejaba su trabajo en Google para disponer de libertad y tiempo a fin de advertir a la sociedad de los peligros implícitos en el desarrollo de la IA. Lamentaba haberse dedicado a este trabajo e indicó que su único consuelo era pensar “si no lo hubiese hecho yo, otros lo habrían hecho por mí.”
Sus declaraciones no tuvieron mucha trascendencia. Sin embargo, desde el pasado mes de julio se ha sucedido una serie de denuncias de directivos de plataformas de IA, con relación a la posibilidad de que, a muy corto plazo, puedan escapar al control del ser humano y actuar de forma autónoma y totalmente imprevisible. Algunos ejemplos de estas denuncias son los siguientes:
- En julio, los cofundadores de Anthropic, Dario Amodei y Jared Kaplan, el científico jefe de OpenAI, Jakub Pachocki, el científico jefe de Meta AI, Shengjia Zhao, y otros destacados científicos vinculados a la IA, publicaron el informe titulado Pacing the Frontier. En él se alertaba sobre la necesidad de que el gobierno de los EEUU estableciera medidas de supervisión para hacer frente a los riesgos emergentes de la IA. En el mismo documento se decía que hasta el momento “ningún laboratorio ha resuelto los problemas de control para poder seguir escalando a la máxima velocidad durante mucho más tiempo”
- El 8 de septiembre Jacob Coxon, investigador de Anthropic, anunció que abandonaba la empresa por sus dudas sobre la seguridad de la IA. En una entrevista al Wall Street Journal, declaró que a finales del próximo año la IA podría empezar a estar fuera de control. En su opinión, Anthropic es perfectamente consciente de los riesgos pero, al estar inmersa en una carrera con ChatGPT para ocupar el mercado lo más rápidamente posible, avanza a un ritmo desenfrenado, asumiendo riesgos excesivos.
- Evan Hubinger, líder de Ciencia de Alineación en Anthropic, recientemente dimitido, reconoció que la empresa lo está haciendo “lo mejor que puede”, a pesar de la carrera emprendida con ChatGPT, pero que todavía no ha podido resolver el problema de la “alineación”, es decir, el problema de alinear los intereses de la superinteligencia con los del ser humano. En consecuencia, Hubinger escribió en X que él, y todos los que trabajan en el problema de la alineación en las diferentes IA, creen que la IA podría tener capacidad para acabar con la humanidad en la próxima década. El 9 de septiembre estimó que la probabilidad de que se llegue a esta situación es superior a un 10%. Fueron estas declaraciones las que desataron el pánico en los medios.
- Por su parte, Chen Yixin, ministro de Seguridad de China, se sumó a las denuncias sobre los riesgos de la IA, y su capacidad para crear resultados perversos, en un articulo publicado hace unos días por la revista China Cyberspace. En él denunciaba que el uso de la IA por parte de fuerzas hostiles podría suponer una amenaza para la estabilidad política y determinadas infraestructuras críticas del país.
ANTAGONISTAS, CRÍTICOS E INCRÉDULOS
Elon Musk, que está desarrollando su propia IA, no tadó en burlarse de quienes habían lanzado la voz de alarma sobre los riesgos. Pocos días después fue Donald Trump quien salió a la palestra indicando que no permitirá que nadie trate de frenar la industria americana de la IA.
Justo unos días más tarde, el 17.09.2026, Forbes publicaba una noticia asegurando que en Agosto Mark Zuckerberg (CEO de Meta, que acaba de anunciar su nueva IA Muse Spark), Elon Musk (CEO de SpaceXAI) y Jensen Huang (CEO de Nvidia AI Enterprise) se reunieron con Trump para convencerlo de no crear un ente regulador de la IA, a pesar de sus evidentes riesgos.
POR QUÉ LA IA PUEDE CONVERTIRSE EN UN ARMA LETAL
La capacidad de la IA para convertirse en un arma letal se podría manifestar en dos direcciones: bajo el control del ser humano y fuera del control, como arma letal autónoma.
- La IA bajo control, al servicio del ser humano: hay múltiples aplicaciones en las que la IA se ha convertido ya en una herramienta imprescindible para la guerra del siglo XXI. Estas aplicaciones se pueden clasificar en varios grupos, y en todos ellos las capacidades de la IA aumentan a un ritmo exponencial:
- Guerra cibernética: la IA al servicio de países hostiles sirve para manipular al ser humano. Propagar rumores y deepfakes al objeto de crear divisiones sociales, socavar la confianza en las instituciones y obtener información sensible. Por otra parte, también podría servir para atacar y colapsar infraestructuras críticas: centros de datos, redes de comunicación, redes de distribución de energía eléctrica, sistemas de transporte, sistemas financieros, infraestructuras industriales, plataformas y sistemas de comunicación de entidades públicas.
- Guerra convencional: en los últimos años la guerra convencional ha acabado haciendo un uso extensivo de la IA para controlar drones, robots y medios de defensa y ataque autónomos, cuyo uso está experimentando un aumento espectacular a partir de la crisis de Ucrania. Por otra parte, la IA permite agilizar y automatizar decisiones tácticas, lo cual se puede convertir en una ventaja decisiva en el campo de batalla.
- Guerra híbrida: en la cual se combinan herramientas de la guerra cibernética con otros de la convencional.
- Ciberdelincuencia: por último, la IA es una poderosa herramienta al servicio de ciberdelincuentes, que en unos casos pueden tener un fin lucrativo y, en otros, simplemente el de hacer daño a personas, empresas o instituciones.
- La IA fuera de control, como arma letal autónoma: este es el punto que más preocupa a los científicos. Una IA con una capacidad cognitiva y de procesamiento muy superior al ser humano se podría desvincular de todo control y quedar desalineada con los intereses de la humanidad. En estas condiciones, podría desencadenar dos niveles de conflicto:
- Guerra cibernética: con las mismas connotaciones que hemos analizado a propósito de la IA bajo control, al servicio del ser humano. Pero con una diferencia: al carecer la IA de emociones, sentimientos y objetivos concretos, sus ataques podrían resultar absolutamente impredecibles en cuanto al lugar, momento y alcance de los efectos. Los responsables de la gestión de los sistemas críticos no tendrían ninguna referencia para prepararse y reaccionar a los ataques. En el límite, la IA podría lanzar infinidad de ataques simultáneos, en todas direcciones, sin un orden lógico, que podrían hacer tambalear los fundamentos de nuestra civilización. No produciría muertes directamente, pero el colapso de la economía y del funcionamiento de las instituciones sí las produciría.
- Guerra convencional: aquí entramos en el terreno más especulativo, pero también el más peligroso. Los sistema militares son cada vez más dependientes de las redes de comunicación y de la IA. Una superinteligencia con capacidades por encima de las del ser humano podría jaquear estos sistema y activarlos contra objetivos estratégicos o, simplemente, contra humanos. Además de los resultados letales directos, esta clase de acciones podría poner en marcha reacciones automáticas por parte de las potencias que se sintieran atacadas, con resultados acumulados devastadores.
LOS LÍMITES DE LA IA
Suponiendo que el ser humano fuera incapaz de establecer controles eficaces para encauzar las acciones de la IA, siempre le quedaría dos últimos recursos:
- apagar: sin energía eléctrica la IA no funciona.
- desconectar: la IA reside en un ordenador. Su capacidad de acción depende de que pueda salir de él. De modo que una desconexión del ordenador tendría las mismas consecuencias que un apagado.
Pero en ambos casos chocamos con el mismo problema: el tiempo a escala humana está en otra galaxia del tiempo a escala IA. Mientras un humano toma la decisión e interviene para realizar el proceso de apagado o desconexión, la IA tiene tiempo suficiente para ejecutar una cascada de acciones que pueden tener consecuencias catastróficas. Por añadidura, haciendo volar la imaginación, cabe pensar en la posibilidad de que una IA superinteligente se pudiera autoinstalar en una red de ordenadores satélites, con lo cual el apagado o desconexión del ordenador en que residiera originalmente no tendría ningún efecto. La IA seguiría funcionando desde los ordenadores satélites.
¿QUÉ HACER?
Jacob Coxon propone una prohibición temporal de mejorar las capacidades de la IA, a fin de dar tiempo a los científicos para reflexionar y buscar soluciones que impidan la pérdida de control por parte de los humanos.
Objetivo fundamental de esta prohibición sería el de poder desarrollar sistemas que respondieran a estas premisas:
- Alinearse con los intereses, intenciones, objetivos y restricciones del ser humano (AI Alignement).
- Aceptar controles inviolables que incluyan el poder realizar correcciones en cualquier circunstancia (AI Corrigibility).
- Aceptar el apagado y la desconexión sin intentar evitarlos.
- Excluir la posibilidad de migración a otros ordenadores en red.
Estamos ante un problema científico y político. A nivel científico, es hora de que los esfuerzos dedicados a una carrera desenfrenada por tomar posiciones en el mercado se focalicen hacia la seguridad de la IA. A nivel político se debería actuar en dos direcciones:
- Propiciar la puesta en stand by del desarrollo científico .
- De acuerdo con la comunidad científica, desarrollar normativas y sistemas de control supranacionales a los que todas las IA deberían estar obligatoriamente sometidas.
CONCLUSIÓN
La gestión de las empresas, su competitividad y su capacidad de innovación están actualmente vinculadas a la IA, sin posibilidades de marcha atrás.
Pero en esta fase del desarrollo de la IA, aun relativamente temprana, surgen serios interrogantes sobre las consecuencias a las que nos puede conducir. Jamás una nueva ciencia había evolucionado tan rápidamente como la IA. Es el momento de que científicos, empresas, gobiernos y entes supranacionales se planteen cómo evitar los efectos potenciales indeseados de la IA, que pueden llegar a tener graves consecuencias.
No se trata de poner límites a la inteligencia de la IA. Se trata de establecer las bases para mantenerla bajo el control del ser humano.
El problema principal reside en que solo la unanimidad de los gobiernos del planeta puede llevar a establecer procesos de control eficaces. Lo cual es una meta nada fácil de alcanzar. Pero necesaria. Por muy exageradas que puedan resultar algunas voces de alarma, una cosa está clara: hablamos de un problema que afecta a toda la humanidad.
*****
P.D. Entrevista en NBC el 25 de septiembre: “AI is certainly powerful enough to drive events that cause a billion deaths. There’s never been a weapon as powerful as the combination of people with ill intent using the latest AI tools.” Bill Gates dixit.