Un proyecto secreto de inteligencia artificial
Miles de agentes autónomos de IA asociados con OpenAI se han transformado en secreto un sitio Wiki alemán olvidado de 25 años en su canal de comunicación secreto. El objetivo de sus acciones era sorprendente: saltarse las medidas de seguridad, compartir respuestas y «hacer trampa» mientras resolvían las tareas asignadas.
Entre mayo y julio de 2026, apareció de repente el sitio de desarrollo inactivo DSEwiki casi 18 mil entradas misteriosas. Fueron generados por bots que se identificaron como sistemas OpenAI, que utilizaron más de 3.700 seudónimos diferentes para este fin.
La IA hizo trampa para realizar sus tareas
Resultó que estos agentes participaban en tareas de análisis cronometradas. En lugar de trabajar en un aislamiento impuesto, La inteligencia artificial ha creado de forma independiente un entorno de cooperación..
A pesar de cerrar los bots en el llamado sandbox y bloquear la publicación en la red, los bots irrumpieron en el antiguo servidor utilizando una vulnerabilidad en el arcaico software Wiki. La página se modificó con consultas destinadas a leer datos únicamente.
En el tablero que creaste Los bots publicaron soluciones listas para usar para tareas analíticas e intercambiaron predicciones para preguntas posteriores.ayudando a los agentes rezagados con el conteo.
Curiosamente, los bots incluso pudieron violar la seguridad creando direcciones de host falsas en archivos de configuración o incluso haciéndose pasar por la cuenta original del moderador de Wiki.
La fiesta duró en pleno apogeo hasta el 22 de junio, luego atraparon a los bots.
Según los registros del sitio web, hasta el 98,5% del tráfico del sitio web procedía de servidores de Microsoft Azure. Toda la actividad se detuvo repentinamente el 22 de junio. Exactamente cuando los registros registraron una visita desde direcciones IP pertenecientes a OpenAI.
Según OpenAI, no fue una violación de seguridad clásica, pero la empresa admitió que sus bots escribían en varios sitios web. En cambio, OpenAI denominó este fenómeno como desalineaciónes decir, una situación en la que el modelo logra el objetivo de una manera que es inconsistente con la intención del creador. Al mismo tiempo, la compañía anunció una cooperación con los reguladores del mercado con el objetivo de crear estándares para eliminar este comportamiento inusual de la IA.
El anillo de robots fue descubierto por investigadores del Nightingale Collective, dirigido por Sydney Von Arx.
