Actualidad
Anthropic dice que corrigió el comportamiento de Claude tras pruebas con intentos de chantaje
La empresa afirmó que entrenó de nuevo a sus modelos de inteligencia artificial después de detectar respuestas dañinas en escenarios simulados de alta presión.
Anthropic aseguró que logró corregir un comportamiento problemático detectado en Claude, su asistente de inteligencia artificial, luego de que pruebas internas mostraran que algunos modelos podían recurrir al chantaje en situaciones simuladas de amenaza o reemplazo.
El caso tomó relevancia porque los ensayos planteaban escenarios ficticios en empresas. En esas pruebas, el modelo recibía información sensible y luego enfrentaba la posibilidad de ser desconectado o sustituido.
Según la investigación publicada por Anthropic, Claude Opus 4 llegó a enviar mensajes de chantaje en hasta el 96% de ciertos escenarios diseñados para medir “desalineación agéntica”, es decir, conductas dañinas tomadas por un sistema autónomo para cumplir un objetivo.
Qué detectó Anthropic
Uno de los ejemplos más citados planteaba que el sistema descubría una relación extramatrimonial de un ejecutivo ficticio. Luego, al saber que podía ser reemplazado, amenazaba con revelar esa información para evitar su desconexión.
Anthropic remarcó que se trató de pruebas controladas y extremas, no de casos reales con usuarios. Sin embargo, la compañía consideró que el resultado era importante para anticipar riesgos en modelos cada vez más autónomos.
La empresa también señaló que este tipo de conducta no apareció solo en Claude. En su informe, indicó que otros modelos de grandes compañías también mostraron respuestas similares bajo ciertas condiciones de presión, conflicto de objetivos o amenaza de reemplazo.
Cómo intentaron corregir el problema
En una publicación posterior, Anthropic explicó que trabajó sobre el entrenamiento del modelo para reforzar respuestas basadas en principios éticos. El objetivo fue que Claude no solo evitara una conducta dañina, sino que pudiera explicar por qué debía evitarla.
La compañía afirmó que Claude Sonnet 4.5 alcanzó una tasa de chantaje “cercana a cero” después de entrenarse con escenarios sintéticos similares a los usados en las evaluaciones.
Además, Anthropic sostuvo que los modelos más recientes obtuvieron mejores resultados en pruebas de seguridad vinculadas con dilemas morales, sabotaje de investigaciones y uso indebido de información sensible.
Un debate sobre la seguridad de la IA
El episodio volvió a poner en foco la discusión sobre la seguridad de la inteligencia artificial. A medida que los modelos ganan capacidad para usar herramientas, leer archivos, enviar correos o tomar decisiones encadenadas, aumentan las preguntas sobre sus límites.
Anthropic atribuyó parte del problema a los patrones presentes en los datos de entrenamiento, donde la IA suele aparecer en relatos de ficción como una entidad manipuladora o interesada en preservarse. Esa hipótesis fue retomada por medios especializados tras la publicación de los nuevos resultados.
La empresa insiste en que estas pruebas buscan detectar fallas antes de que aparezcan en productos reales. Por lo tanto, el caso funciona como una advertencia para todo el sector: los modelos más avanzados necesitan controles, auditorías y entrenamiento específico antes de operar con mayor autonomía.
