1
La nueva batalla judicial de Florida con la IA: solicita una medida cautelar para frenar a ChatGPT
El fiscal general James Uthmeier reclamó supervisión externa para futuros modelos de OpenAI y pidió excluir a menores del servicio mientras avanza la demanda estatal
4 minutos de lectura'
LA NACION
Florida abrió un nuevo capítulo en su disputa judicial con la inteligencia artificial (IA) al pedir una medida cautelar contra OpenAI y su director ejecutivo, Sam Altman, que busca frenar el desarrollo de ChatGPT bajo las condiciones actuales y restringir determinadas funciones. La ofensiva se suma a la reciente regulación escolar sobre IA que el estado aprobó en septiembre.
Qué pide Florida contra OpenAI y ChatGPT
Según Axios, el fiscal general de Florida, James Uthmeier, solicitó una medida cautelar temporal contra OpenAI y ChatGPT. El funcionario sostuvo que la empresa no cuenta con capacidad suficiente para regular su propia tecnología y pidió que un tribunal intervenga durante el avance de la demanda estatal.
La presentación busca impedir que OpenAI desarrolle nuevos modelos de inteligencia artificial sin supervisión externa. De acuerdo con Reuters, Uthmeier también pidió que la empresa mantenga a los menores de edad fuera de ChatGPT y que el servicio no atribuya características humanas a la plataforma.
La Oficina del Fiscal General de Florida confirmó el 28 de septiembre la solicitud de una medida cautelar temporal contra OpenAI y Sam Altman. El organismo publicó además la moción presentada ante la Justicia, que amplía las medidas que el estado pretende obtener durante el proceso.
Cómo comenzó la demanda de Florida contra OpenAI
La disputa comenzó meses antes. El 1° de junio, la misma oficina anunció una demanda civil contra OpenAI y Altman por presuntas prácticas engañosas y daños a residentes de Florida. La fiscalía acusó a la compañía de priorizar la velocidad de lanzamiento y los beneficios comerciales sobre la seguridad de los usuarios.
El reclamo estatal sostuvo que ChatGPT llegó al público, incluso a menores, pese a advertencias internas y externas sobre posibles riesgos. También atribuyó a la plataforma fallas vinculadas con autolesiones, violencia, recolección de datos de menores y errores que, según la demanda, OpenAI minimizó.
La fiscalía relacionó el caso con una investigación penal iniciada después del tiroteo del 17 de abril de 2025 en la Universidad Estatal de Florida. El comunicado oficial señaló que los fiscales revisaron conversaciones entre ChatGPT y Phoenix Ikner, autor del ataque que dejó dos muertos y varios heridos.
En otro episodio en el estado, OpenAI alertó al FBI por un hombre que utilizó ChatGPT para detallar planes violentos contra su expareja.
La supervisión externa que Florida reclama para la IA
Bloomberg Law indicó que la solicitud pretende imponer una autorización previa antes de que OpenAI lance nuevos modelos. El medio explicó que Florida reclama una revisión de seguridad de terceros y describió el pedido como una forma de supervisión externa sobre uno de los principales laboratorios de inteligencia artificial.
La presentación también cita incidentes de seguridad relacionados con modelos de OpenAI. Entre ellos aparecen el acceso no autorizado a la plataforma Hugging Face y un episodio vinculado con un sistema de salud del gobierno australiano. Estos antecedentes forman parte del argumento de Florida sobre los límites de la autorregulación de las empresas de IA.
El pedido judicial coincide con una política estatal más amplia sobre inteligencia artificial. En septiembre, Florida adoptó reglas para las escuelas públicas que exigen transparencia sobre las herramientas utilizadas, consentimiento de los padres para determinadas interacciones y alternativas sin IA para estudiantes que no participen.
El gobernador Ron DeSantis también cuestionó a las empresas de IA y rechazó posibles rescates federales para compañías del sector. El antecedente se suma a los casos vinculados con el uso de la plataforma para situaciones de violencia que forman parte del debate sobre sus mecanismos de seguridad.
Qué respondió OpenAI ante el pedido de Florida
OpenAI rechazó la idea de que la empresa ignore los riesgos. Reuters citó al portavoz Drew Pusateri, quien afirmó que la compañía pausó el entrenamiento de sus modelos más capaces y que no retomará ese trabajo hasta contar con protecciones adicionales.
El vocero sostuvo además que los gobiernos cumplen un papel importante en la creación de estándares de seguridad. Pusateri señaló que OpenAI busca trabajar con Florida y otros estados en reglas que alcancen a toda la industria y no solo a una compañía.
