ViaMind Radar

Social · Evidencia contrastada

OpenAI despide a tres investigadores que pedían preservar el monitoreo del razonamiento de sus modelos

Tomek Korbak, Mikita Balesni y Jasmine Wang, investigadores de OpenAI, fueron despedidos tras compartir información con una organización externa de seguridad en IA, según el Wall Street Journal. La empresa atribuye la decisión a violaciones de políticas sobre información sensible y niega relación con preocupaciones de

· Publicado

Fuente: WWWhat’s New · Ver original ↗

Ilustracion contextual ViaMind · no es fotografia del hecho

Lo reportado

Antes de ser despedidos, los tres publicaron un alegato conjunto en el que argumentan que la industria no sabe cómo desarrollar modelos que no puedan ser monitoreados de manera segura, y que ningún avance que reduzca esa monitorización debería considerarse progreso. La cadena de pensamiento (chain of thought, CoT) es el proceso por el que un modelo de lenguaje genera razonamiento intermedio antes de dar una respuesta final; en modelos como los de la serie o1 y GPT-6, ese razonamiento es parcialmente visible para el usuario o para los monitores de seguridad.

Cita de la fuente

violación de políticas sobre manejo de información sensible de la empresa

WWWhat’s New

Estado de evidencia: ViaMind comprobó que las afirmaciones materiales publicadas están respaldadas por la evidencia enlazada. Esto no implica confirmación independiente de los hechos.

Qué seguir

Habrá que observar si OpenAI publica detalles sobre la organización externa involucrada y si otros empleados de seguridad dejan la empresa en los próximos meses.

Compartir esta historia

LinkedIn WhatsApp

RECIBE VIAMIND RADAR

Lo que importa,
directo en tu correo.

Un resumen diario con una historia clave de cada sección.

Fuentes

← Volver al inicio