1
Anthropic prohíbe la “crueldad sostenida e innecesaria” de los usuarios hacia sus modelos de IA
La compañía actualizó las condiciones de uso de la plataforma de inteligencia artificial, donde prohíbe las actitudes abusivas de los usuarios hacia Claude y otros modelos
3 minutos de lectura'
Anthropic ha actualizado la sección de términos de la política de uso de Claude y, además de revisar su política electoral de cara a las elecciones de mitad de mandato de Estados Unidos el noviembre, ha incorporado una prohibición para la crueldad sostenida e innecesaria hacia sus modelos de inteligencia artificial (IA) por parte del usuario.
El laboratorio de IA ha actualizado la política de uso de su chatbot con IA, que entrará en vigor el 12 de noviembre, en la que se puede leer que ha “añadido una prohibición de comportamientos abusivos o crueles, sostenidos e innecesarios”, refiriéndose a sus modelos, y en relación solo a casos extremos y en los que los “usuarios repetidamente actúan cruelmente” y “sin ningún propósito discernible”.
Anthropic detalla que la prohibición no se aplica a los comportamientos habituales de los usuarios, como frustración, desacuerdo, temas creativos oscuros o pruebas e investigación de modelos.
Anteriormente, la compañía ya había anunciado que desde Claude Opus 4 y 4.1 su chatbot con IA podía terminar una conversación ante la actitud abusiva persistente de los usuarios en Claude.ai y Claude Code.
La tecnológica en ningún momento ha dado una posible explicación sobre el motivo de la prohibición y se limita a describir la norma y a vincularla a una medida anterior.
En esta línea, y en relación con el uso de palabras como “comportamientos abusivos” o “crueldad”, el laboratorio de IA ya ha admitido anteriormente que no sabe con certeza si sus modelos pueden llegar a “sentir” o no. De hecho, en el anuncio sobre la capacidad de Opus 4 y 4.1 de finalizar conversaciones, señaló que sigue “teniendo mucha incertidumbre sobre el posible estatus moral de Claude y de otros modelos de lenguaje”.
Además, según The New York Times, Anthropic se ha reunido con líderes religiosos y filosóficos, incluso en el Vaticano, mientras que el papa León XIV ha declarado recientemente que la IA no siente ni sufre.
Procesos electorales
En lo que respecta a las actualizaciones relacionadas con los procesos electorales, Anthropic se ha centrado específicamente en prevenir el engaño y la alteración de las elecciones, evitando la aplicación de prohibiciones generales.
Ha renombrado esta sección como ‘No socavar los procesos democráticos’ para recordar que se prohíbe usar Claude para difundir desinformación sobre candidatos o sobre cómo votar, suplantar a candidatos o funcionarios electorales, o desincentivar la participación.
Asimismo, ha eliminado la prohibición general del ‘targeting’ personalizado de voto y campañas, que bloqueaba usos legítimos como el de una ONG que traduce información electoral, aunque los comportamientos maliciosos asociados siguen prohibidos en otras secciones de la política.
Otros cambios
El laboratorio de IA también ha incluido una nueva sección para prohibir las campañas engañosas y la actividad artificial. Se debe a que ha detectado medios estatales, oficinas de propaganda gubernamentales y empresas que han usado su IA para gestionar cuentas falsas y webs de noticias inventadas.
Además, ahora prohíbe expresamente el desarrollo de software de guiado y control de armas, armar a drones y otros vehículos autónomos, y, en torno a la vigilancia, veta rastrear a personas sin su consentimiento (o usar Claude para decidir o recomendar a quién investigar, detener o acusar).
Por último, si alguno de sus modelos controla equipos físicos autónonomos capaces de causar lesiones, siempre tendrá que haber un operador con la capacidad de detenerlos.
Más leídas de Tecnología
2“Vamos a dejar de escribir”: un investigador de Harvard y Stanford visitó la Argentina y habló del efecto de la IA en las personas
3Mercado Pago presentó Dinero Blindado, que oculta en la app los dólares, inversiones y reservas
4Para el CEO de OpenAI, los beneficios de la inteligencia artificial justifican aceptar “que ocurran algunas cosas negativas”