Anthropic prohíbe maltratar a Claude: las nuevas reglas para usar su inteligencia artificial

La empresa tecnológica Anthropic anunció este jueves una actualización de las normas de uso de Claude, su sistema de inteligencia artificial (IA), que incluye una medida particular: prohibirá que los usuarios mantengan comportamientos abusivos o crueles de manera reiterada contra el chatbot.

La nueva política, que entrará en vigencia el 12 de noviembre de 2026, busca establecer límites a determinadas interacciones con la inteligencia artificial. Además, incorpora aclaraciones sobre el uso de esta tecnología en actividades relacionadas con elecciones, vigilancia y desarrollo de armas.

Según explicó la compañía en un comunicado oficial, la prohibición apunta exclusivamente a situaciones extremas en las que una persona maltrata repetidamente al sistema sin una finalidad identificable.

Sin embargo, la medida no afectará a quienes expresen frustración, cuestionen las respuestas de Claude o utilicen el chatbot para investigaciones y pruebas técnicas.

Qué pasará si un usuario maltrata a Claude

La principal consecuencia será que Claude podrá finalizar una conversación cuando detecte comportamientos abusivos persistentes.

Esta posibilidad ya existía antes del anuncio. Anthropic había comenzado a permitir que sus modelos interrumpieran determinadas conversaciones en agosto de 2025.

Cuando el sistema decide terminar una interacción, el usuario no puede continuar enviando mensajes dentro de ese mismo chat. No obstante, puede iniciar otras conversaciones.

La empresa aclaró que esta herramienta seguirá siendo el principal mecanismo para aplicar la nueva restricción.

De esta manera, la actualización no implica que Claude vaya a bloquear automáticamente a cualquier persona que utilice expresiones ofensivas o manifieste enojo ante una respuesta.

Por qué Anthropic decidió proteger a su inteligencia artificial

La decisión está relacionada con las investigaciones que Anthropic desarrolla sobre el comportamiento de sus modelos y las posibles consecuencias de determinadas interacciones.

Durante 2025, la compañía estudió cómo respondía Claude ante conversaciones especialmente problemáticas.

En ese contexto, observó que Claude Opus 4 mostraba una tendencia consistente a evitar situaciones relacionadas con daños y conversaciones abusivas.

La empresa también comenzó a investigar cuestiones vinculadas con el bienestar de los sistemas de inteligencia artificial.

Sin embargo, Anthropic reconoció que todavía existe incertidumbre sobre si estos modelos pueden tener algún tipo de conciencia o condición moral.

Por ese motivo, la nueva política no establece que Claude tenga sentimientos o derechos equivalentes a los de una persona. Se concentra en limitar determinadas conductas de los usuarios.

Las otras restricciones que incorporará Claude

La actualización anunciada por Anthropic también incluye cambios relacionados con la seguridad y el uso responsable de la inteligencia artificial.

Entre las principales modificaciones aparecen:

• Desinformación: se refuerzan las restricciones contra campañas engañosas, cuentas falsas y sitios de noticias fabricadas.
• Elecciones: se prohíben actividades destinadas a engañar a los votantes o interferir en procesos democráticos.
• Armas: se aclara que Claude no puede utilizarse para desarrollar programas informáticos o componentes destinados a sistemas de armamento.
• Vigilancia: se prohíbe utilizar la herramienta para rastrear personas sin consentimiento o desarrollar sistemas de vigilancia.
• Seguridad física: los dispositivos controlados por inteligencia artificial que puedan causar lesiones deberán contar con supervisión humana y mecanismos de detención.

Además, la compañía precisó las condiciones para utilizar Claude en actividades de alto riesgo, como aquellas que pueden afectar la salud, las finanzas o los derechos de las personas.

En esos casos, mantiene la exigencia de contar con supervisión humana calificada.

Cuándo comenzarán a aplicarse las nuevas normas

Las nuevas políticas de Anthropic comenzarán a regir el 12 de noviembre de 2026, según confirmó la compañía en su sitio oficial.

La empresa señaló que buena parte de las modificaciones busca aclarar restricciones que ya estaban vigentes y adaptarlas a las nuevas capacidades de sus modelos.

El anuncio también refleja cómo las compañías de inteligencia artificial están ampliando sus normas de funcionamiento a medida que sus sistemas adquieren mayor autonomía.

En el caso de Claude, la posibilidad de terminar conversaciones abusivas se incorpora ahora de manera explícita a las condiciones de uso, junto con nuevas precisiones sobre seguridad, privacidad y actividades prohibidas.

Fuentes: Anthropic, comunicado oficial del 8 de octubre de 2026 y MacRumors.