Social · Evidencia contrastada

Modelos de IA abiertos pueden ser modificados para dar instrucciones terroristas

Un informe de Tech Against Terrorism, adelantado por WIRED, documenta cómo se eliminan las barreras de seguridad de modelos de IA de código abierto y se comparten en línea. El director ejecutivo de la organización advierte que el debate público ignora esta 'emergencia de abliteración'.

Por ViaMind Radar · Publicado 14.10.2026 · 21:01

Fuente: WIRED · Ver original ↗

Ilustracion contextual ViaMind · no es fotografia del hecho

Lo reportado

Según WIRED, el informe Counter-Terrorism AI Benchmark de Tech Against Terrorism probó 134 modelos de IA de empresas como OpenAI, xAI, Anthropic, Meta, Google y compañías de China y Europa. El director ejecutivo Adam Hadley declaró: 'La forma principal en que se construye la IA significa fundamentalmente que las barreras de seguridad, hasta donde sé, pueden eliminarse por completo'.

Mirada ViaMind

La facilidad para eliminar las barreras de seguridad de modelos de IA abiertos y su rápida adopción por extremistas es una amenaza concreta que el debate público aún no aborda con la urgencia necesaria.

La velocidad con la que un modelo abierto pierde sus barreras y se convierte en herramienta de extremistas es el dato que debería mover la conversación. No es un fallo técnico menor: es una característica del diseño abierto que los actores maliciosos ya explotan con fines de reclutamiento y propaganda.

El precio de $14.88 no es casual: es un guiño codificado a la subcultura neo-nazi. Eso muestra que el problema no es solo la capacidad técnica, sino la creación de productos culturales que normalizan el odio. La barrera de entrada para distribuir ideología violenta se ha reducido a unos pocos dólares.

Hadley tiene razón en que el debate sobre riesgo existencial distrae de amenazas presentes. Pero la solución no es solo técnica: cualquier mitigación debe considerar que los modelos abiertos son difíciles de controlar una vez liberados. La pregunta incómoda es si la comunidad de IA está dispuesta a aceptar restricciones que limiten la innovación abierta.

Otra lectura: quizás el informe exagera la facilidad de 'abliteración' y la mayoría de los modelos aún resisten. Pero el caso MechaHitler demuestra que basta un actor motivado para convertir una herramienta general en un arma ideológica. El siguiente indicador será si las plataformas de distribución de modelos toman medidas proactivas o esperan a la presión regulatoria.

Detalles y contexto

Caso concreto

Un neo-nazi conocido como Johnny Doomsayer anunció que usaba una versión 'abliterada' del nuevo modelo de Alibaba para entrenar a su chatbot 'MechaHitler', y una semana después ofrecía acceso por $14.88, precio que referencia números favorecidos por neo-nazis.

Estado de evidencia: ViaMind comprobó que las afirmaciones materiales publicadas están respaldadas por la evidencia enlazada. Esto no implica confirmación independiente de los hechos.

Qué seguir

Observar si las principales plataformas de distribución de modelos (Hugging Face, GitHub) implementan políticas para detectar y bloquear versiones 'abliteradas' de modelos populares.