1
Los gigantes de la IA coinciden en querer controlar a sus sistemas, pero hay poca confianza en que lo hagan
Los planteos de autoregulación para demorar el desarrollo de la IA serían muy difíciles de implementar, dicen los expertos
8 minutos de lectura'
Las principales voces de la industria de la IA raras veces están de acuerdo, por lo que cuando lo están, no es de extrañar que llame la atención.
Dario Amodei, de Anthropic, Sam Altman, de OpenAI, Elon Musk, de SpaceXAI, y otros destacados líderes del sector han declarado en los últimos días que el desarrollo de la IA debe desacelerarse. El consenso se produjo después de que un investigador de Anthropic dimitiera con una severa advertencia sobre las amenazas que esta tecnología representa para la humanidad.
Sin embargo, obstáculos como la competencia interna y global, los incentivos de lucro y la resistencia del presidente Donald Trump se interponen en el camino de un esfuerzo coordinado para marcar el ritmo del desarrollo de la IA.
Aún así, este momento podría obligar a la industria a enfrentarse a un “replanteamiento de lo que consideramos un éxito”, afirmó Nick Reese, exdirector de política de tecnologías emergentes del Departamento de Seguridad Nacional y profesor adjunto de la Universidad de Nueva York.
“¿Qué pasaría si consideráramos el éxito en la IA de la misma manera que consideramos el éxito de las aerolíneas? A tiempo y sin haber tenido un accidente en no se sabe cuánto tiempo”, dijo Reese. “No toleramos accidentes de aerolíneas comerciales, pero sí toleramos fallos significativos en la IA”.
Lo que los líderes tecnológicos buscan con la desaceleración de la IA
En teoría, las principales startups de IA podrían frenar el avance de sus modelos en cualquier momento. Sin embargo, los saltos cualitativos en la tecnología han surgido en parte de la competencia por construir modelos aún más potentes, todo ello con la bendición de una Casa Blanca que no quiere que EE.UU. pierda su ventaja sobre China. Anthropic y OpenAI también compiten por lo que podrían ser salidas a bolsa récord en Wall Street, aunque esta última señaló que pospondrá su salida al mercado este año mientras continúa con sus esfuerzos de seguridad.
Por ello, las propuestas planteadas por la industria dependen de la colaboración mutua y, hasta cierto punto, de la regulación gubernamental.
Amodei publicó recientemente un extenso ensayo en el que trazaba un plan para frenar el desarrollo de la IA avanzada.
Una de las propuestas pide que las empresas a la vanguardia de la IA —a menudo llamadas laboratorios de frontera (frontier labs)— se comprometan a conceder un “acceso continuo, similar al de un empleado” a evaluadores externos independientes. Los equipos de evaluación dispondrían de oficinas, credenciales de acceso y portátiles de la empresa para supervisar las prácticas de seguridad.
Anthropic se está “comprometiendo unilateralmente” a dar este paso ahora, escribió Amodei. Altman calificó la medida de “excelente idea” en las redes sociales y afirmó que OpenAI seguirá el mismo camino.
Altman señaló que agradecería un “marco federal” que estableciera normas de seguridad para la IA avanzada, aunque aclaró que la empresa no necesita esperar a que haya legislación o una exención antimonopolio para abordar la seguridad de la IA.
El ensayo de Amodei también pedía la regulación e intervención gubernamental, incluida la coordinación entre las empresas de IA de frontera con la ayuda del gobierno estadounidense y los de otros países democráticos. Manifestó su esperanza de que los principales laboratorios puedan establecer “normas de seguridad comunes, así como límites al ritmo del progreso sin control de la IA”.
El plan de Amodei contempla además que EE.UU. y otros países trabajen para coordinarse con “gobiernos autoritarios”. Reconoció la dificultad que esto entraña, citando específicamente los retos para lograr la cooperación de China.
El máximo responsable de Anthropic esbozó varios niveles de acuerdo que los líderes mundiales podrían suscribir. El más factible, según dijo, sería un acuerdo que prohíba “ciertos usos reducidos y evidentemente peligrosos de la IA”, como la producción de armas biológicas o permitir que los usuarios lo hagan. Más difícil sería lograr que EE.UU. y sus adversarios acepten probar los modelos antes de su lanzamiento —posiblemente a través de un organismo de normas globales— para evaluar riesgos en ámbitos como la ciberseguridad o las amenazas biológicas.
Más difícil todavía sería fijar un “límite de velocidad” a los modelos de IA capaces de desarrollar versiones mejoradas de sí mismos de forma autónoma, lo que se conoce como automejora recursiva.
“Reducir el ritmo de ‘extremadamente rápido’ a ‘solo algo rápido’ supone renunciar a muy poca ventaja estratégica, al tiempo que puede mejorar enormemente la seguridad”, escribió Amodei.
Estableció una analogía con los tratados de la era de la Guerra Fría, en los que “limitar el número de misiles restringía el potencial de destrucción manteniendo al mismo tiempo la capacidad de disuasión de cada país”.
Amodei afirmó que la propuesta más difícil de aplicar sería una “regulación total del ritmo, o incluso una ‘pausa’”, mediante la cual los gobiernos participantes acuerden limitar sustancialmente el ritmo general del desarrollo de la IA.
En las redes sociales, Altman puntualizó que la “graduación del ritmo” (pacing) del desarrollo de la IA no significa detenerse. El progreso de la IA seguirá siendo rápido, afirmó Altman en X. “Pero debería ser más lento de lo que podría ser de otro modo; intervenciones como los casos de seguridad y la supervisión conllevan costes significativos”.
“Ajustar el ritmo valdrá la pena a pesar de este coste”, afirmó, añadiendo que “ninguna presión competitiva estadounidense debería justificar la imprudencia”.
Dudas sobre las medidas propuestas de autoregulación
Aunque los expertos afirman que el clima de acuerdo en la industria es prometedor, quedan muchas preguntas sin respuesta.
Una desaceleración es posible “en teoría”, afirmó Sandra Wachter, profesora de tecnología y regulación en el Oxford Internet Institute.
Sin embargo, en la práctica, “requeriría una coordinación y cooperación sustanciales entre empresas y gobiernos de distintos países”, algo que considera “muy poco realista” debido al “estado actual del mundo”.
Entre las opciones para promover una desaceleración, sugirió que los gobiernos hagan más para responsabilizar a las empresas de IA de los riesgos que plantea su tecnología, así como impulsar regulaciones que limiten su acceso a la electricidad, el agua y otros recursos que alimentan los centros de datos.
La idea de integrar evaluadores externos dentro de las empresas ha tenido una acogida mayoritariamente favorable en la industria, pero algunos críticos cuestionan hasta qué punto podrían ser independientes los evaluadores y cómo se redactarían las normas de evaluación. El resultado podría ser una concentración de poder aún mayor, escribió Aidan Gomez, cofundador y CEO del laboratorio de IA canadiense Cohere, en respuesta al ensayo de Amodei.
“Un puñado de los laboratorios más potentes con sede en un solo país se pondría de acuerdo sobre unas normas compartidas y sobre los límites a la velocidad con la que la tecnología debería avanzar”, afirmó Gomez.
También rechazó la idea de Amodei de que el gobierno de EE.UU. conceda a los laboratorios de frontera exenciones para eludir las restricciones antimonopolio.
“Si esta es la tecnología más trascendental de la historia de la humanidad, las reglas para gestionarla no pueden ser escritas por un pequeño grupo de empresas con intereses comerciales al amparo de una exención antimonopolio”, declaró Gomez.
Elham Tabassi, directora de la Iniciativa de IA y Tecnologías Emergentes e investigadora principal de la Brookings Institution, señaló que, hasta que las medidas a las que se comprometen las empresas se consoliden y se hagan públicas, contar con auditores independientes seguirá siendo un movimiento “voluntario y controlado por la propia empresa”.
Tabassi destacó que es crucial que las empresas de IA sigan invirtiendo en el desarrollo de métodos “científicamente válidos” para probar y medir sus modelos en busca de una mayor seguridad. Sin esto, la regulación no tendrá suficiente fuerza, concluyó.
La resistencia de Trump y la presión por superar a China juegan en contra
La administración Trump siempre ha favorecido un enfoque de intervención mínima con la industria de la IA, con la esperanza de que la innovación florezca y que el desarrollo de la IA en EE. UU. supere al de China.
La competencia entre las empresas de IA estadounidenses y chinas se ha comparado con una carrera armamentística, lo que, según los expertos, no favorece la colaboración. Esto crea “condiciones en las que ahora tenemos a este adversario existencial”, afirmó Reese.
Aun así, algunos líderes de la industria mantienen una “esperanza cautelosa” de que el desarrollo de la IA se oriente más hacia la seguridad, señaló Zahra Timsah, cofundadora y CEO de la plataforma de gobernanza i-GENTIC AI.
“En cuestión de días, directores ejecutivos que son competencia entre sí han encontrado, de repente, un punto en común. Hay senadores de ambos partidos que han empezado a promover distintas formas de supervisión”, afirmó Timsah.
“Está recibiendo atención, pero la atención no equivale a la ejecución. ¿Funcionará realmente? No lo sé”.
AP
LA NACION
Más leídas de Tecnología
