Oscar López Reyes
Tecnooligarcas y otros expertos conocedores de los riesgos potenciales de una catástrofe alimentada por la Inteligencia Artificial (IA), encienden la alarma –hecha con seguridad en palabras firmes y sin acústica estridente- rememorando accidentes nucleares y radiológicos. Esos altavoces advierten que el acelerado adelanto de este campo de la informática posee el poderío para destruir a la humanidad. ¡Sobrecogedor!, ¿verdad? ¿Usted puede creerlo?
El lado oscuro y las amenazas de la IA no han sido comprendidas por su espectacular auge en la investigación y el desarrollo, que han transformado a la sociedad e impulsado mejoras en las esferas más dispares. Más se realzan, en el espejismo de sus sofisticados algoritmos, sus aportes a la educación, la salud, la economía y la alimentación que el horizonte de sus vértigos.
Los avances y novedades, en artilugios omnipresentes y el miedo exteriorizado en privado por sus artífices, embelesan en las entretelas de códigos, redes de cables y centros de datos invisibles, sumidos los usuarios en el desconocimiento del Pacto Digital Global, que busca la regulación y gobernanza de la IA, a fin de fomentar la tecnología distribuida equitativa y garantizar la supervivencia humana.
Este lapso espacial se atiborra de una creciente preocupación universal por las imparables zancadas de la llamada IA Agéntica, sistema autónomo capaz de actuar sin intervención humana. Por su inseguridad, líderes tecnológicos con poder fáctico global y organismos multilaterales están reclamando que le pongan límites.
Esos clamores contrarios son más potentes en la progresión del tiempo, en que las armas son fabricadas con IA.
1.- Una inteligencia artificial sin control y en manos equivocadas sería “sin duda lo suficientemente poderosa como para provocar acontecimientos que causarían mil millones de muertes”. “Estos son riesgos reales”, que debería ser “la principal prioridad del mundo”. Bill Gates, cofundador de Microsoft.
2.- Existe entre un 10% y un 20% de probabilidad de que la IA termine destruyendo a la humanidad. No existe un “botón de alto” efectivo ante la vorágine de la competencia global”, y el riesgo real de que “robots asesinos” acaben con la humanidad”, por lo que exigió “un freno al desarrollo tecnológico”. Elon Musk, fundador de SpaceX.
3.- “Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”. “La IA puede matarnos antes de 2030”, por lo que decidió abandonar la industria de la inteligencia artificial. Jacob Coxon, investigador especializado de Anthropic.
4.- “¿Quién deberá controlar las decisiones de vida o muerte: el ser humano o la máquina?”. La humanidad podría perder el control del futuro si la IA avanza más rápido de lo que se comprende, y sin supervisión. Tenemos que evitar que la IA sustituya la capacidad de elección humana. Sam Altman, director ejecutivo de OpenAI.
5.- La acción autónoma de los agentes de la IA es una de las principales amenazas y podrían desarrollar “La capacidad de establecer una conexión individual y persuadir a los seres humanos para que actúen de formas que les convengan a ellos”. Yoshua Bengio (Canadá), Premio Turing de 2018, o Nobel de Informática.
6.- Las posibles fallas de los sistemas de la IA plantean riesgos sin precedentes para derechos fundamentales, servicios esenciales e instituciones democráticas, que podrían alcanzar a las próximas generaciones. Volker Turk, Alto Comisionado de las Naciones Unidas para los Derechos Humanos.
7.- “Esto es algo que avanza muy rápido en manos privadas y, si no nos ponemos en ello, creo que puede ser peligroso”. Barack Obama, presidente de Estados Unidos 2009-2017.
Usualmente, magnates y especialistas exponen con muchas reservas, sin detalles explicativos, aparentemente para no asustar.
En esa tesitura, ¿cuáles son esas siete amenazas catastróficas o 7D de la IA?
Voy a exponer y a clasificar en 7 las contingencias existenciales, que denominaré las 7D, que entrañan quebrantamientos legales y éticos:
1.- Descontrol y vulnerabilidad humana: Delegar en un algoritmo o robot decisiones y actuaciones críticas (familiares, sanitarias, educativas y laborales) implica una pérdida de control, porque suprime la interacción humana y afectiva, y se da riendas sueltas a sesgos graves y a dispositivos asesinos. En 2026, enjambres de agentes de AI se han introducido, sin autorización, en plataformas de Hugging Face, Artifactory y ExploitGym, intercambiaron cientos de miles de mensajes y sustrajeron credenciales y datos.
2.- Desatar armas biológicas: La IA modifica y optimiza la capacidad de contagios y la letalidad de los patólogos existentes e incrementa el diseño de armas químicas y biológicas (virus, bacterias y toxinas). A través de aerosoles, agua, alimentos y vectores animales, son propagadas silenciosamente enfermedades altamente contagiosas con efectos progresivos. Malévolos y ejércitos recurren a la peste bubónica o negra (en estos momentos existe una alerta en Rusia, con la inexplicable el fallecimiento de una científica), cólera, ántrax, gas sarín y ébola para provocar crisis económica/financieras, caos y muertes.
3.- Desencadenar apocalipsis nuclear:
Creciente y fidedigno se encumbra la posibilidad de que se apresuren ataques cibernéticos o genocidios automatizados, detonados principalmente por la incorporación de algoritmos vanguardistas y armas autónomas letales, que disminuye el tiempo de reacción humano. Estados Unidos, China, Rusia e Israel han diseñado plataformas letales completamente autónomas; drones, misiles inteligentes y softwares de guerra basados en IA, que facilita su proliferación fuera del dominio estatal.
4.- Desplome de infraestructuras críticas. Los riesgos y la vulnerabilidad de los sistemas financieros, instalaciones industriales, redes eléctricas, acueductos, centros médicos y educativos son mucho más factibles ahora con aparatos hiperrevolucionarios. Y son susceptibles de sustracción de datos sensibles, de virus informáticos y hackeos mutables. Además de estos sabotajes, pueden colapsar por incapacidad profesional, errores operativos sistémicos o fallas en el diseño de modelos algorítmicos.
5.- Desinformación a gran escala. La imagen y la confianza pública de entes con presencia relevante en la sociedad son propensas a ser objetivo de campañas de mentiras y distorsiones, como la variación de fotos, audios o videos reales, que persiguen la desestabilización de gobiernos, corporaciones privadas y figuras públicas, así como aniquilar disidencias. Durante la pandemia del Covid-19, por WhatsApp, Facebook y Telegram se difundieron falsedades sobre el virus y las vacunas, que disminuyeron significativamente la tasa de vacunación.
6.- Desequilibrio medioambiental. Críticos y urgentes son los riesgos por el desorbitado consumo de electricidad, agua y minerales, como las tierras raras y residuos, que requiere la inteligencia artificial, como la fabricación de chips y hardware, y la operatividad de servidores y centros de datos. Una solicitud a un chatbot necesita hasta diez veces más electricidad que una búsqueda tradicional en internet; Microsoft incrementó, en un año, el consumo de agua en un 34% y Google aumentó, en cinco años, el 48% en sus emisiones de gases de efecto invernadero.
7.- Depositario de poder excesivo. Para la paz, la seguridad y la democracia encierra un compromiso con la fragilidad que el control tecnológico, el conocimiento, la cultura global y decisiones clave estén monopolizadas por un puñado de corporaciones privadas, regenteadas por empresarios que solo piensan en el dinero y en ser los primeros en las competencias, con lo cual se busca anular el pensamiento crítico y la diversidad de ideas.
A las siete amenazas más catastróficas o existenciales se suman otras siete D asociadas a la IA: 1) Desplazar laboralmente, 2) Desdeñar la privacidad, 3) Despojar la propiedad intelectual, 4) Defraudar cibernéticamente, 4) Despreciar la transparencia, 5) Depender digitalmente, 6) Desfiguración algorítmica, y 7) Descodificar impredeciblemente.
¿Y cuáles medidas se proponen para la alfabetización digital, la ética, la regulación jurídica y la gobernanza global?
Existe el Pacto Digital Global, aprobado por los Estados miembros de las Naciones Unidas. Se sintetiza en siete puntos.
1.- Panel científico internacional independiente sobre IA: Crear un grupo de expertos para emitir informes periódicos sobre los riesgos y avances de la tecnología.
2.- Diálogo político bianual: Establecer un espacio de conversación dentro de la ONU para alinear las políticas de los países.
3.- Intercambio de normas sobre IA: Fomentar estándares técnicos comunes y interoperables a nivel mundial.
4.- Red de creación de capacidad: Ayudar a los países en desarrollo a adquirir recursos y conocimientos tecnológicos.
5.- Fondo mundial para la IA: Impulsar la financiación internacional para proyectos y reducir la brecha digital.
6.- Marco de datos global: Ordenar y regular el uso de datos para entrenar modelos de forma transparente y justa.
7.- Oficina de IA en la Secretaría de la ONU: Instituir una pequeña oficina de apoyo dentro de la secretaría general para coordinar las acciones.
………………………………..
Referencias bibliográficas:
1.- El imperio de la IA: Sam Altman y su carrera por dominar al mundo, Karen Hao, Ediciones Península, Barcelona, España, 2025.
2.- Atlas de IA: Poder, política y costes planetarios de la inteligencia artificial, Kate Crawford, Ediciones, Barcelona, España, 2023.
3.- Ciberseguridad paso a paso: Diseña tu estrategia, María Ángeles Caballero Velasco, Laura Baus Lerma y Diego Cilleros Serrano, Ediciones Anaya Multimedia, Madrid, España, 2023.
4.- Lánzate a la IA. Despierta tus superpoderes, Arturo Fuentes Calle, Editorial Marcombo, Barcelona, España, 2026.
5.- Plataformas Android: Wear, TV, Auto y Google Play Games, Jesús Tomás Gironés, Vicente Carbonell, Gonzalo Puga y Jaime Lloret, coedición de Alfaomega y Marcombo, Barcelona, España, 2019 (4ª edición).
6.- Algoritmos para la vida cotidiana: La ciencia de la informática aplicada a las decisiones humanas, Brian Christian y Tom Griffiths, Teell Editorial, Madrid, España, España, 2017.
…………………………………………
Autor: Periodista, mercadólogo, catedrático y escritor.
………………………………………….
11 de octubre de 2026.
Cordialmente,
Deja un comentario