Anthropic bloqueó dos abusos de IA. El patrón es más importante que el titular.

Un reporte de Anthropic reunió dos noticias que, leídas por separado, parecen pertenecer a mundos distintos.

Por un lado, personas usaron Claude en actividades de investigación biológica que podían apoyar el desarrollo de armas biológicas. Por el otro, Anthropic dice haber desmantelado una operación de influencia vinculada con alta confianza a funcionarios de Emiratos Árabes Unidos, enfocada en Sudán, los Hermanos Musulmanes y mecanismos de rendición de cuentas de la ONU.

La tentación es convertir ambas historias en un titular de miedo: “la IA ya fabrica armas y manipula a gobiernos”. Sería impreciso.

La lectura seria es más incómoda: los objetivos, doctrinas y decisiones seguían siendo humanos. La IA redujo el tiempo, el costo y el número de personas necesarios para ejecutar partes de esos planes.

Qué confirmó Anthropic y qué no

El reporte cubre actividad detectada y bloqueada entre diciembre de 2025 y agosto de 2026. Anthropic identificó casos en siete áreas, entre ellas ciberoperaciones, vigilancia, fraude, armas convencionales, influencia y biología.

Esta tabla parece una precaución editorial. En realidad cambia por completo la historia.

Decir “Anthropic bloqueó armas biológicas” sugiere que se frustró un artefacto listo para usarse. El informe no sostiene eso. La empresa habla de investigación que podía apoyar el desarrollo de armas. Es una diferencia grande y necesaria.

Decir “EAU manipuló a la ONU” también borra el matiz. Anthropic documentó materiales redactados para presentarse ante el Consejo de Derechos Humanos y dossiers contra relatores críticos de la conducta emiratí en Sudán. Al mismo tiempo, reconoce que no pudo verificar si los materiales llegaron a su audiencia prevista ni si cambiaron una política.

El caso biológico: el problema del doble uso

Anthropic describió cinco casos. Incluyen solicitudes y trabajo relacionado con investigación sobre patógenos, toxinas y compuestos que pueden servir tanto para fines médicos como para fines dañinos.

Ese punto es central. La biología no viene con una etiqueta clara de “beneficiosa” o “maliciosa”.

Una técnica puede ayudar a estudiar un virus, diseñar una terapia o entender una proteína. La misma capacidad también puede reducir barreras para volver un agente más peligroso. La intención a veces está escondida, dividida entre personas o mezclada en solicitudes aparentemente académicas.

La compañía explica que bloqueó cuentas asociadas, reforzó sus controles y compartió información con socios y autoridades cuando correspondía. También ocultó instituciones, países y agentes específicos. Dice que no acusa a los científicos de intención dañina y que revelar esos detalles podría exponerlos.

La conclusión confirmada es limitada, pero importante: actores con intereses en investigación sensible intentaron evadir controles regionales, usar intermediarios y buscar modelos menos restrictivos cuando Claude se negaba a responder.

Eso demuestra una realidad operativa: un filtro aislado no basta. Cuando una plataforma bloquea una solicitud, el actor puede probar otra cuenta, un revendedor, otro proveedor o un modelo con menos barreras.

El caso de Sudán: propaganda convertida en proceso

El segundo caso es más concreto en términos de operación.

Anthropic afirma que un actor usó Claude para sostener una campaña organizada contra los Hermanos Musulmanes, el conflicto en Sudán y los mecanismos de rendición de cuentas de la ONU. Según el informe, el actor creó y administró unas 300 cuentas de apariencia independiente, imitó la identidad de una organización suiza real y publicó informes de derechos humanos preparados desde una perspectiva estatal.

También habría usado la herramienta para redactar testimonios destinados a dos personas en la sesión 62 del Consejo de Derechos Humanos de la ONU. Los documentos fueron diseñados para que no mencionaran a Emiratos Árabes Unidos. En paralelo, la campaña elaboró perfiles de 18 eurodiputados y periodistas, además de dossiers contra relatores especiales que habían criticado la conducta emiratí en Sudán.

Anthropic vincula la actividad con alta confianza a funcionarios de EAU y afirma que archivos internos mencionaban a altos funcionarios como receptores del trabajo.

Es una atribución relevante. También merece el lenguaje correcto: es la evaluación de una empresa que observó el uso de su producto y sus cuentas, no una resolución judicial ni una investigación pública concluida por un organismo internacional.

La empresa clasificó la campaña como categoría tres en su propia escala de propagación: actividad en varias plataformas. No la elevó a las categorías que requerirían evidencia de atención pública amplia o impacto en políticas. Ese límite es raro de ver en una comunicación corporativa y conviene conservarlo.

El mismo mecanismo detrás de ambos casos

No hay que meter biología y propaganda en el mismo saco moral. Sus daños, víctimas potenciales y formas de respuesta son diferentes.

Lo que comparten es el mecanismo de escala.

Una operación de influencia ya no requiere un equipo grande para producir versiones de un mismo mensaje, traducirlas, personalizarlas por audiencia, redactar documentos formales y coordinar cuentas. Un solo operador puede llevar una doctrina predefinida a muchos formatos.

En investigación sensible, la IA puede ordenar información, redactar propuestas, resumir literatura, planear experimentos o ayudar a comunicar resultados. Las capacidades que aceleran ciencia legítima también pueden servir a proyectos peligrosos.

La IA no eligió ni a Sudán ni los objetivos biológicos. No definió la doctrina ni aprobó un presupuesto. Su papel fue bajar la fricción entre una orden humana y muchas tareas ejecutadas.

Esa es la parte que los equipos técnicos y los gobiernos deben entender: el riesgo no exige autonomía total. Basta con que una herramienta convierta trabajo especializado y lento en una secuencia repetible.

Qué defensa sirve de verdad

Los bloqueos de contenido son necesarios. Anthropic sostiene que sus clasificadores funcionaron mejor en categorías de alto riesgo que habían sido diseñadas para detectar. Pero reconoce que un clasificador no puede distinguir siempre entre investigación médica legítima y trabajo con potencial dañino.

La respuesta necesita capas:

• Filtros estrictos para solicitudes de mayor riesgo.
• Verificación reforzada para acceso a capacidades científicas avanzadas.
• Señales de cuenta e institución para detectar evasiones y redes de intermediarios.
• Conservación de información suficiente para investigar abuso, con reglas claras de privacidad y debido proceso.
• Intercambio de indicadores entre proveedores, plataformas y autoridades competentes.
• Auditoría externa que permita revisar qué se bloqueó, qué falló y qué impacto tuvo cada medida.

El último punto importa especialmente. Las empresas de IA poseen una ventana de observación que gobiernos, periodistas y sociedad civil no tienen: ven los intentos antes de que salgan convertidos en una publicación, un archivo o una operación.

Eso puede ser útil para defender a la sociedad. También concentra mucho poder. Por eso la transparencia verificable y la supervisión independiente no pueden depender solo de la buena voluntad de la empresa que escribe el reporte.

Lo que me llevo

Los dos casos reportados por Anthropic no prueban que la IA haya creado un arma biológica ni que haya alterado una decisión de la ONU.

Sí documentan algo serio: personas intentaron usar un modelo comercial para actividades de doble uso y para una operación de influencia compleja. También muestran que la defensa depende de detectar el contexto completo, no solo una frase peligrosa escrita en una ventana de chat.

La discusión madura sobre seguridad de IA no necesita inventar intenciones en las máquinas. Necesita mirar quién fija los objetivos, qué capacidades se automatizan, qué controles se pueden evadir y quién verifica a quienes prometen detener el abuso.

Fuentes: reporte de inteligencia de amenazas de Anthropic, cobertura de AP sobre los casos de posible uso biológico y reporte de AP sobre las redes externas que alimentan la guerra en Sudán.