Inteligencia Artificial apocalíptica
La Inteligencia Artificial podría matarnos a todos. Aseguraba Jacob Coxon, un joven ingeniero de Anthropic que ha presentado su renuncia al puesto, por considerar que la carrera para mejorar los sistemas de la Inteligencia Artificial (IA) supone un peligro existencial para la Humanidad.
Consideración que el mismo Coxon hizo pública el nueve de septiembre con un mensaje en el que precisaba que "Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década" y acusaba a las empresas del sector de "estar jugando con nuestras vidas".
Aunque ambas afirmaciones han sido puestas en duda por otros expertos, estas se convirtieron rápidamente en un fenómeno viral que ha disparado las alarmas y el miedo entre los ciudadanos, las organizaciones y la clase política a escala mundial. Mas, ¿De verdad, de verdad eso es posible? A día de hoy y según los expertos, sí sería posible. ¿Nos tenemos que tomar esta amenaza al pie de la letra? No necesariamente, pero sí debemos preocuparnos intensamente por ello.
Debemos preocuparnos, porque la alarma y el miedo provocado por el contenido de los mensajes de Jacob Coxon han sido refrendados por los propios fundadores y directivos de las grandes compañías dedicadas a la IA al salir en tromba, proponiendo medidas correctoras y abriendo así un debate que se prolongará en el tiempo. Entre esos esos fundadores y directivos están Dario Amodei, CEO de Anthropic, quien ha hecho público un manifiesto en el que pedía ralentizar el ritmo de desarrollo de la IA. Petición a la que rápidamente se sumaron Sam Altman, CEO de OpenAI; Elon Musk, CEO de xAI; y Demis Hassabis, jefe de Inteligencia Artificial en Alphabet perteneciente a Google.
Algunos ya apuntamos a principios de 2023 que la IA desafiaba los límites de la capacidad humana, y que un desarrollo desmesurado de la misma podría jugar en contra de la Humanidad, pereciendo esta a manos de aquella. Por lo que sugeríamos ralentizar y controlar su expansión. Entonces era como clamar en el desierto. Solo han pasado tres años y tal presentimiento podría hacerse hoy realidad.
Otras voces autorizadas venían pidiendo moratorias y más controles para la IA. Pero ahora es el temor de los propios magnates promotores de la IA que acabamos de citar, el miedo a que no puedan controlarla, lo que está encendiendo las alarmas sobre un posible apocalipsis de la IA. Y, por eso, han decido hacer pública la necesidad de frenar su desarrollo.
Pero ¿Qué ha pasado para que de repente, de un día para otro y como si se hubieran puesto de acuerdo, todos los grandes jefazos de la IA hayan coincidido en la necesidad de frenar el desarrollo de esta? Pensamos que se ha dado la tormenta perfecta en torno a la IA: generalización de modelos, casos de agentes de la misma descontrolados (se llama agente de la IA a un sistema que puede pensar, actuar y autocorregirse), posibles denuncias y acciones legales, espionaje de China y cuestiones económicas, entre otros. Fenómenos que, ellos mismos, los magnates tecnológicos, tengan miedo de no poder controlar.
La cuestión es: ¿De qué información disponen esos magnates, para que todo haya cambiado de forma tan radical en unos días? y ¿Qué pretenden con la nueva postura?.
Hemos de tener en cuenta que la IA ya no es solo una cuestión académica o de investigación universitaria, sino más bien un asunto de empresa, de grandes y potentes empresas, que se rigen por las normas del mercado y que, obviamente, tienen sus propios intereses y obligaciones para con los accionistas.
Consecuentemente, las empresas tecnológicas tienen sus luchas políticas, empresariales y económicas, lo que hace difícil saber si estos vaticinios catastrofistas de los magnates de la IA obedecen a una actitud realista y sincera o a una estrategia encaminada a asegurarse el oligopolio de tan magnífico negocio y poder, a la vez que se sacan responsabilidades de encima cargándosela a otros. Lo cierto es, no obstante, que hay mucha gente con conocimiento de causa diciendo que el peligro es real.
El desarrollo de la IA generativa es una historia de gran velocidad. En noviembre de 2022 apareció el primer chatbot generativo impulsado por la IA, el ChatGPT, con el que una parte del gran público se familiarizó y también se empezaron a analizar las aportaciones y los riesgos de la IA. Entre estos últimos, Goldman Sachs apuntó que, a la altura de 2030, podría haber afectado a unos 300 millones de empleos. También se detectaron otros grandes aspectos negativos como algoritmos erróneos, ciberataques o lanzamiento automatizado de armas.
De todos ellos se han dado evidencias, a las que hay que añadir la infiltración de China en modelos de vanguardia de IA para extraer y copiar sus capacidades, los 18.000 millones de dólares que Meta ha tenido que pagar debido a los efectos nocivos de sus plataformas Facebook e Instagram sobre la salud mental de los menores que, además, incitará a emprender más acciones judiciales; así como la rebelión de agentes de la IA frente a instrucciones dadas por los humanos, llegando a crear su propio lenguaje totalmente desconocido para la especie humana.
Sucesos acumulados todos ellos que ponen de manifiesto la necesidad de establecer límites, aprobar nueva legislación y mejorar la gestión de la IA desde las administraciones públicas y los gobiernos, elaborando estándares mundiales y nacionales, así como directrices y mejores prácticas, tendentes a descubrir, verificar y controlar los múltiples agentes de IA que vayan saliendo.
Entendemos que lo de que la “IA podría matarnos a todos” no implica que sus agentes, que podrían ser robots, se conviertan en asesinos, metralleta en mano y acaben con todos los humanos. Habría que interpretarlo como que esos agentes van introduciéndose en las organizaciones e instituciones, asumiendo tareas y funciones de los humanos hasta suplantarlos y poder prescindir de estos. Lo que al respecto ya se percibe es el incremento de las desigualdades y la división, destruyendo la comunidad y la democracia. La introducción de la IA en las redes sociales potencia el sesgo de los algoritmos, amplificando los peores instintos y práctica, que son una parte significativa de la actual crisis democrática.
En el artículo de Amodei, más arriba citado, este advierte de que un enjambre de agentes descontrolados podría hacerse con el control de "todo internet" en seis o doce meses, lo que, tal y como está organizada la sociedad de hoy día, basada en lo digital e internet, supondría hacerse con el control de la vida diaria de los ciudadanos. Por su parte, el responsable de IA de Microsoft ha advertido que, sin salvaguardias adecuadas, el desarrollo de esta tecnología podría dar lugar a la aparición de una nueva "especie de silicio" capaz de competir con los humanos.
Algunos pensamos, y muchos expertos lo sostienen, que el riesgo real no está en las máquinas, sino en que el desarrollo de la IA esté en manos de unos pocos con sus propias empresas y sin contrapeso político. La altísima concentración de poder que se está dando, tanto económico como político, está asfixiando a la democracia y a la especie humana.
La IA es cada vez más difícil de dominar y los riesgos de que las empresas tecnológicas continúen desarrollando sistemas de IA capaces de fijar sus propios objetivos, generar ingresos y poseer activos, son una realidad. Máxime, cuando existe una carrera de rivalidad entre Estados Unidos y China de que quien logre el liderazgo de la IA controlará el futuro. Pero de ahí a que la IA se convierta en una fuerza sobrenatural queda mucho camino por recorrer. En medio queda la esperanza de que todavía hoy los humanos pueden frenar una hipotética rebelión de agentes de la IA y mantener el control. Confiemos en que el sentido común sepa verlo y actúe como tal, por el bien de la Humanidad, porque la IA también aporta grandes avances positivos para la sociedad.
No somos apocalípticos, pero si queremos salvar las democracias y los valores humanos, los organismos internacionales, las administraciones públicas, los parlamentos, los gobiernos y la presión de los ciudadanos, deben marcar y hacer cumplir las normas para acotar el actual desgobierno de las redes sociales y de la IA.
Les dejo con Doble Valentina y Tanta Inteligencia Artificial
https://www.youtube.com/watch?v=WLCQ4JMFWew&t=1s
© Francisco Aguadero Fernández, 19 de septiembre de 2026
La empresa Diario de Salamanca S.L, No nos hacemos responsables de ninguna de las informaciones, opiniones y conceptos que se emitan o publiquen, por los columnistas que en su sección de opinión realizan su intervención, así como de la imagen que los mismos envían.
Serán única y exclusivamente responsable el columnista que haga uso de nuestros servicios y enlaces.
La publicación por SALAMANCARTVALDIA de los artículos de opinión no implica la existencia de relación alguna entre nuestra empresa y columnista, como tampoco la aceptación y aprobación por nuestra parte de los contenidos, siendo su el interviniente el único responsable de los mismos.
En este sentido, si tiene conocimiento efectivo de la ilicitud de las opiniones o imágenes utilizadas por alguno de ellos, agradeceremos que nos lo comunique inmediatamente para que procedamos a deshabilitar el enlace de acceso a la misma.
