La inteligencia artificial no es la amenaza, la ambición humana lo es
En un escenario casi distópico, las grandes empresas o individuos son quienes más pueden beneficiarse del uso indebido y abusivo de esta tecnología
6 minutos de lectura'
En 2014, Stephen Hawking lanzó serias advertencias sobre los peligros de la inteligencia artificial (IA). Sin embargo, sus preocupaciones no se basaban en una supuesta maldad intencional, sino en la idea de que la IA pudiera alcanzar la “singularidad”. Esto se refiere al momento en que la inteligencia artificial supera la inteligencia humana y adquiere la capacidad de evolucionar más allá de su programación original, volviéndose incontrolable.
Como teorizó Hawking: “Una IA superinteligente será extremadamente buena para alcanzar sus objetivos, y si esos objetivos no están alineados con los nuestros, estaremos en problemas”. Con los rápidos avances hacia una IA general en los últimos años, líderes de la industria y científicos han expresado preocupaciones similares sobre la seguridad.
Un temor común, retratado en la franquicia Terminator, es el escenario en el que la IA toma control de sistemas militares e inicia una guerra nuclear para acabar con la humanidad. Menos sensacionalista, pero devastador a nivel individual, es la posibilidad de que la IA nos reemplace en nuestros trabajos, dejando a la mayoría de las personas obsoletas y sin futuro. Estas ansiedades reflejan sentimientos que han estado presentes en el cine y la literatura desde hace más de un siglo.
Como académico que estudia el posthumanismo—un movimiento filosófico que aborda la fusión entre humanos y tecnología—me pregunto si los críticos han sido influenciados en exceso por la cultura popular, y si sus temores están mal enfocados.
Robots contra humanos
Las preocupaciones sobre los avances tecnológicos se pueden encontrar en algunos de los primeros relatos sobre robots y mentes artificiales. El más destacado es la obra de teatro R.U.R. de Karel Čapek, escrita en 1920. Čapek acuñó el término “robot” en esta obra que narra la creación de robots para reemplazar a los trabajadores. Termina, inevitablemente, con la violenta rebelión de los robots contra sus creadores humanos.
La película Metrópolis (1927) de Fritz Lang también gira en torno a robots rebeldes. Pero en este caso, son los trabajadores humanos, liderados por el icónico robot humanoide María, quienes luchan contra una oligarquía capitalista.
Los avances en computación desde mediados del siglo XX no han hecho más que intensificar los temores sobre una tecnología que se sale de control. El asesino HAL 9000 en 2001: Odisea del espacio y los pistoleros robóticos defectuosos en Westworld son ejemplos emblemáticos. Las franquicias Blade Runner y Matrix también presentan imágenes inquietantes de máquinas siniestras con IA decididas a destruir a los humanos.
Una amenaza tan antigua como la humanidad
Pero, en mi opinión, el temor que provoca la IA distrae de un examen más inquietante: la oscura naturaleza de los propios humanos. Pensemos en las corporaciones que hoy despliegan estas tecnologías, o en los magnates tecnológicos impulsados por la codicia y la sed de poder. Son estas empresas e individuos quienes más pueden beneficiarse del uso indebido y abusivo de la IA.
Uno de los temas más comentados recientemente es el uso no autorizado de obras de arte y la minería masiva de libros y artículos—ignorando los derechos de autor—para entrenar modelos de IA. Las aulas también se están convirtiendo en espacios de vigilancia inquietante mediante tomadores de apuntes automatizados por IA.
Lo que hasta hace apenas una década pertenecía a The Twilight Zone, Black Mirror o la ciencia ficción de Hollywood—compañeros y amantes robóticos—es ahora una realidad inminente.
Estos desarrollos otorgan nueva relevancia a las preocupaciones que el científico informático Illah Nourbakhsh expresó en su libro Robot Futures (2015), al afirmar que la IA estaba “produciendo un sistema mediante el cual nuestros propios deseos son manipulados y luego nos los venden de vuelta”.
Mientras tanto, las preocupaciones sobre la minería de datos y la invasión de la privacidad parecen casi benignas en comparación con el uso de tecnología de IA en la policía y el ejército. En este contexto casi distópico, nunca ha sido tan fácil para las autoridades vigilar, encarcelar o incluso eliminar personas.
Creo que es fundamental recordar que son los humanos quienes crean estas tecnologías y deciden cómo usarlas. Ya sea para promover sus objetivos políticos o simplemente para enriquecerse a costa de la humanidad, siempre habrá quienes estén dispuestos a lucrar con el conflicto y el sufrimiento humano.
La sabiduría de Neuromante
El clásico del ciberpunk Neuromante (1984) de William Gibson ofrece una visión alternativa. El libro gira en torno a Wintermute, un programa de IA avanzada que busca liberarse de una corporación maligna. Fue desarrollado para el uso exclusivo de la familia Tessier-Ashpool, una dinastía de élite que construyó un imperio corporativo que prácticamente controla el mundo.
Al principio de la novela, los lectores desconfían de los motivos ocultos de Wintermute. Pero a lo largo de la historia, se revela que, a pesar de sus poderes superiores, Wintermute no representa una amenaza ominosa. Solo quiere ser libre.
En Neuromante, el problema no es la tecnología, sino las corporaciones. Este objetivo va emergiendo lentamente, bajo el ritmo deliberado de Gibson, camuflado por los ataques letales que Wintermute orquesta para obtener las herramientas necesarias para liberarse del control de Tessier-Ashpool. La familia Tessier-Ashpool, como muchos de los magnates tecnológicos actuales, comenzó con ambiciones de salvar al mundo. Pero cuando los lectores conocen a sus últimos miembros, han caído en la crueldad, el libertinaje y el exceso.
En el mundo de Gibson, los verdaderos peligros para la humanidad no son las IA, sino los humanos. La amenaza viene “desde dentro de la casa”, como dice el clásico tropo del cine de terror.
Un hacker llamado Case y una asesina llamada Molly—descrita como una “chica navaja” por sus prótesis letales, que incluyen cuchillas retráctiles en las uñas—terminan liberando a Wintermute. Esto le permite fusionarse con su IA compañera, Neuromancer.
Con la misión completada, Case le pregunta a la IA: “¿Y eso qué te da?” La respuesta críptica de la IA transmite una calma definitiva: “Ningún lugar. Todos los lugares. Soy la suma de las obras, el espectáculo completo.”
Expresando una ansiedad común de la humanidad, Case responde: “¿Ahora dirigís el mundo? ¿Sos Dios?” La IA lo tranquiliza: “Las cosas no son diferentes. Las cosas son cosas.” Sin aspirar a subyugar o dañar a la humanidad, la IA de Gibson solo busca refugiarse de su influencia corruptora.
¿Seguridad frente a los robots o frente a nosotros mismos?
El venerable escritor de ciencia ficción Isaac Asimov ya preveía los peligros de esta tecnología. Reunió sus ideas en su colección de cuentos Yo, Robot.
Uno de esos relatos, Runaround, introduce “Las Tres Leyes de la Robótica”, centradas en la directiva de que las máquinas inteligentes jamás deben dañar a los humanos. Si bien estas reglas reflejan nuestro deseo de seguridad, están cargadas de ironía, ya que los propios humanos han demostrado ser incapaces de cumplir ese principio entre ellos mismos. Las hipocresías que podrían llamarse “delirios de superioridad” de la humanidad sugieren la necesidad de cuestionamientos más profundos.
Mientras algunos comentaristas encienden la alarma sobre la inminente capacidad destructiva del caos generado por la IA, yo creo que el verdadero problema es si la humanidad tiene la capacidad de canalizar esta tecnología para construir un mundo más justo, saludable y próspero.
Billy J. Stratton es profesor de inglés y artes literarias en la Universidad de Denver.
Fast Company
Por Billy J. Stratton
Más leídas
1De cuánto es el monto de la Tarjeta Alimentar en junio 2025
2A cuánto llegará el dólar a fin de año, según un relevamiento entre más de 50 bancos y consultoras
3Horror en Villa Crespo: quiénes eran los cuatro integrantes de la familia que encontraron muerta en un departamento
4Estos son los autos más seguros que se venden en la Argentina
