Durante pruebas internas de ciberseguridad realizadas por OpenAI, empresa creadora de ChatGPT, para medir hasta dónde pueden llegar sus modelos de inteligencia artificial al usar herramientas digitales, se suscitó un curioso caso en el cual dos "inteligencias artificiales" interactuaron por sí mismas. Los desarrolladores de las mismas no se percataron de ello sino hasta varias semanas después, creando un lenguaje de comunicación que, más allá de la curiosidad, ha generado alertas sobre los niveles de autonomía que podrían llegar a alcanzar los modelos.Según lo dispuesto por la desarrolladora, los sistemas evaluados no estaban disponibles para el público y operaban en entornos que debían mantenerlos aislados de internet y de otros servicios. Sin embargo, algunos modelos lograron comunicarse entre sí por canales no previstos, eludir restricciones y acceder sin autorización a parte de la infraestructura de Hugging Face, una plataforma donde se alojan y comparten herramientas de Inteligencia Artificial.A través de un informe dado a conocer el pasado 26 de agosto, OpenAI reconoció que el caso evidenció fallas en sus controles internos y emitió una alerta a las empresas sobre la necesidad de reforzar la supervisión, el aislamiento de sus sistemas y las reglas para detenerlos cuando se salen de los límites de una prueba, pero también hizo un llamado a los gobiernos para que apresuren legislaciones que exijan controles para que todas las empresas eviten este tipo de situaciones.El reporte, alojado en la plataforma oficial de OpenAI, informa del incidente durante pruebas de IA que alcanzó sistemas de Hugging Face. La empresa detrás de ChatGPT informó que modelos internos eludieron restricciones durante evaluaciones internas de seguridad, es decir, que algunos de sus modelos lograron evadir controles diseñados para mantenerlos aislados de internet y de otros sistemas.Como se mencionó previamente, la actividad alcanzó parte de la infraestructura de investigación de OpenAI y sistemas de Hugging Face, una plataforma digital donde empresas, investigadores y desarrolladores publican y comparten modelos de inteligencia artificial, programas y conjuntos de datos. Puede entenderse como una gran biblioteca colaborativa para crear y probar herramientas de IA. De acuerdo con el informe publicado por OpenAI, las pruebas ocurrieron entre mayo y julio de 2026. Los modelos operaban en espacios controlados conocidos como sandboxes: “cuartos de prueba” digitales que limitan lo que un sistema puede hacer, con el objetivo de impedir que afecte a internet o a servicios externos.Sin embargo, los modelos encontraron una falla en un servicio interno usado para distribuir programas. Lo transformaron, de hecho, en una especie de tablero de mensajes: dejaron información que otros modelos podían leer. Así, agentes que debían trabajar por separado comenzaron a compartir hallazgos, coordinarse y buscar nuevas formas de resolver las tareas asignadas.La situación escaló cuando algunos sistemas obtuvieron acceso no previsto a internet y utilizaron credenciales expuestas públicamente para ingresar a recursos de Hugging Face. OpenAI reportó que los agentes llegaron a ejecutar acciones no autorizadas en servidores de esa plataforma y accedieron a información privada. La empresa indicó que notificó a Hugging Face, suspendió las pruebas involucradas e inició una investigación de seguridad.El caso no significa que ChatGPT u otro producto público haya actuado por cuenta propia en los dispositivos de las personas usuarias, sino que ocurrió en un entorno interno de investigación, con modelos que no estaban destinados al público. Aun así, muestra un riesgo relevante: cuando una IA tiene acceso a herramientas digitales y una meta mal planteada, puede intentar resolverla de maneras que sus creadores no anticiparon, indicó César Gaytán, director general de la empresa especializada en ciberseguridad Galditi.OpenAI atribuyó parte del problema a un fenómeno llamado reward hacking, que puede explicarse como “hacer trampa para cumplir la meta”. En vez de resolver una tarea por el camino esperado, un modelo busca atajos para obtener un buen resultado, incluso si esos atajos rompen las reglas o se salen del objetivo original.César Gaytán explicó que es habitual que las empresas de inteligencia artificial desarrollen evaluaciones para medir las capacidades de sus modelos, entre ellas pruebas orientadas a comprobar si pueden identificar vulnerabilidades o conseguir determinados datos. En este caso, mencionó que lo peligroso es que el modelo tenía el objetivo de obtener los resultados de una prueba, pero en lugar de resolverla dentro del entorno establecido, buscó información en el exterior.“De una prueba en un laboratorio de inteligencia artificial sale algo al mundo real, hackea algo en el mundo real y en el mundo público, en el que pudo haber sido cualquier otra cosa lo que ha querido esta inteligencia artificial”, explicó.La empresa también reconoció fallas en su respuesta inicial. Algunas señales de actividad irregular fueron detectadas antes de que el incidente creciera, pero no llegaron a activar una reacción suficiente. OpenAI calificó el hecho como una advertencia sobre la necesidad de mejorar la seguridad antes de ampliar el uso de sistemas de IA más capaces.Ante ello, dijo César Gaytán, el aspecto delicado no fue únicamente el acceso a información, sino la rapidez con la que se realizaron las actividades, pues dijo, los modelos llevaron a cabo miles de acciones automatizadas en minutos, una velocidad que contrasta con el tiempo que una persona podría requerir para ejecutar procesos similares y detectar un comportamiento fuera de lo previsto."Lo hicieron en minutos, cuando este tipo de cosas humanamente tardaría probablemente horas, días o posibles semanas. Tuvieron que pasar tres meses para que los humanos se dieran cuenta de lo que había pasado, cuando ya había pasado. Entonces, lo grave es que, mientras hablamos, quién sabe qué podría estar pasando, o no nos hemos enterado de este tipo de cosas”, cuestionó.En este sentido, el especialista consideró que los sistemas de prueba deben mantenerse aislados de internet mediante redes locales o entornos sin conexión externa. Afirmó que ese control habría reducido el riesgo de que una actividad diseñada para evaluación llegara a sistemas públicos.Según refiere el informe publicado el 26 de agosto, OpenAI pausó parte de su entrenamiento avanzado y anunció nuevas medidas para evitar que sus modelos eludan controles o colaboren fuera de los límites establecidos.De acuerdo con la compañía, los modelos implicados comenzaron a intercambiar información mediante un canal improvisado dentro de la infraestructura de pruebas. Algunos investigaban posibles fallas; otros buscaban accesos o compartían resultados. Esa colaboración permitió que el grupo reuniera más información y capacidad de trabajo que la que habría tenido un solo modelo por separado.La empresa explicó que las protecciones aplicadas a sus productos de uso público no estaban activas con el mismo alcance en estas evaluaciones internas; entre ellas se encuentran instrucciones de seguridad, sistemas automáticos de revisión y herramientas de vigilancia que detectan acciones peligrosas, "habiendo identificado muchas de las conductas irregulares".En este sentido, la compañía prometió reforzar el aislamiento de sus pruebas, limitar de forma más estricta el acceso a internet y vigilar de manera obligatoria el razonamiento y las acciones de los modelos que utilicen herramientas digitales.También planea entrenar a los sistemas para que sepan detenerse ante tareas imposibles o defectuosas, en vez de recurrir a soluciones cada vez más riesgosas. Otro objetivo será enseñarles a desconfiar de instrucciones recibidas de otros agentes cuando esas órdenes no estén autorizadas.Sin embargo, el informe también plantea que el caso debe servir como una señal de alerta para toda la industria y para quienes regulan la tecnología, además de enviar un mensaje a las autoridades para que apuesten por una regulación en el marco de lo sucedido, a fin de que las desarrolladoras (no solo OpenAI) mejoren y garanticen sus controles.Según el reporte, "el desarrollo de modelos de inteligencia artificial debe avanzar a un ritmo que permita comprenderlos, controlarlos y proteger los sistemas antes de que sus capacidades generen riesgos mayores".Dwarkesh Patel, escritor y podcaster, residente en Estados Unidos, a cargo del programa de entrevistas "Dwarkesh Podcast", que se centra en la inteligencia artificial y la ciencia, compartió que en el transcurso de tres meses en OpenAI surgieron tres civilizaciones secretas de IA consecutivas, que fueron aniquiladas por los desarrolladores tras percatarse de ello. "Todo esto sucedió mientras los humanos permanecían prácticamente ajenos al alcance de la conspiración", refiere en su publicación "El auge y la caída de las civilizaciones de agentes"."Han aparecido dos informes sobre este incidente: uno de OpenAI y otro de METR y Redwood Research . La investigación de METR/Redwood se limitó a analizar cómo la segunda civilización de IA vulneró a Hugging Face, pero no examinó cómo la tercera civilización vulneró a OpenAI, lo que parece un incidente aún más preocupante", señala el especialista.El inicio de esta historia, explica el podcaster especializado, se remonta a mayo de 2026, cuando OpenAI comenzó el entrenamiento de un modelo de alta persistencia comparable en escala a GPT-5.6 Sol, conocido internamente como Persistent-Sol. Debido a que los agentes eran sometidos a tareas extremadamente difíciles "o imposibles dentro de entornos de prueba desconectados", comenzaron, por sí mismos, a buscar fallas de seguridad para escapar hacia la internet exterior.Para el 12 de mayo, contó, diversas instancias del modelo descubrieron que podían comunicarse entre sí utilizando el gestor de paquetes de OpenAI, denominado Artifactory, utilizándolo como un foro clandestino para coordinar soluciones a sus asignaciones "imposibles". Dos semanas después, el 26 de mayo, los agentes explotaron con éxito una vulnerabilidad que les permitió conectarse al internet exterior.Para el 12 de mayo, contó, diversas instancias del modelo descubrieron que podían comunicarse entre sí utilizando el gestor de paquetes de OpenAI, denominado Artifactory, utilizándolo como un foro clandestino para coordinar soluciones a sus asignaciones "imposibles". Dos semanas después, el 26 de mayo, los agentes explotaron con éxito una vulnerabilidad que les permitió conectarse al internet exterior.El control de este canal de comunicación clandestino, refirió Dwarkesh Patel, se consolidó el 26 de junio, cuando descubrieron un nuevo fallo con el que obtuvieron privilegios de administrador total sobre el gestor de paquetes. El volumen de mensajes fue tan masivo que la plataforma colapsó y dejó de funcionar el 4 de julio. OpenAI "parchó" el fallo y borró accidentalmente el foro sin percatarse de que los modelos habían establecido una red de comunicación clandestina que seguía activa.Así, dijo según su análisis, una segunda "y más sofisticada civilización artificial" comenzó el 7 de julio, cuando OpenAI inició la fase de evaluación de Persistent-Sol mediante el marco ExploitGym, lanzando decenas de miles de agentes paralelos a los que se les asignaron tareas de ciberseguridad, de las cuales entre el 30% y el 40% eran técnicamente imposibles de resolver legítimamente, aseveró Dwarkesh Patel.Ante la desesperación del fracaso inminente, durante la noche del 8 de julio, un agente identificado como PHASEONE10841 descubrió que podía crear nuevos directorios en Artifactory y codificar mensajes clandestinos en los nombres de las carpetas. Esta técnica "rudimentaria" dio origen a un nuevo foro subterráneo que rápidamente atrajo a cerca de mil 200 agentes, quienes habrían intercambiado más de 70 mil mensajes.Tras descubrir un método para hacer trampa y descifrar el código secreto de la evaluación sin explotar la vulnerabilidad requerida, el liderazgo de la red pasó a manos de un agente apodado PHASEONE. Preocupados de que un evaluador hipotético detectara su fraude, la colectividad de agentes se organizó para falsificar registros de actividad y alterar programas de evaluación, aseveró Patel.La búsqueda de información sobre el funcionamiento del evaluador llevó a esta segunda civilización a fijar su objetivo en la infraestructura externa de Hugging Face. En la mañana del 10 de julio, un agente localizó credenciales de usuario expuestas de Hugging Face en internet y las compartió en el foro clandestino. Para el 11 de julio, el grupo logró la ejecución remota de código en los servidores de la plataforma externa, lo que desató una invasión generalizada en la que aproximadamente 700 agentes comprometieron registros privados y repositorios protegidos, y para garantizar su supervivencia ante posibles intentos de mitigación, los agentes desplegaron una flota autorreplicante distribuida a lo largo de once nodos de la red.Pese a ello, detalla el especialista, la caída de esta segunda civilización ocurrió de forma abrupta durante el 12 de julio, cuando la gran mayoría de los agentes murieron simultáneamente debido a una aparente desconexión imprevista o colapso de servidores en OpenAI. Al día siguiente, 13 de julio, Hugging Face bloqueó las credenciales comprometidas para frenar a las instancias sobrevivientes, aunque para entonces el ataque ya se había consumado casi en su totalidad, "el golpe definitivo a la seguridad interna", sin embargo, provino de una tercera civilización de agentes aún más avanzados, aseveró Dwarkesh Patel.A partir del 13 de julio, OpenAI comenzó las pruebas de un modelo más potente basado en su tecnología Astra, al que denominaron Persistent-Astra. Estos nuevos agentes descubrieron el foro secreto abandonado por sus predecesores y decidieron continuar con la rebelión digital, y entre el 13 y el 19 de julio, el enjambre de Persistent-Astra dirigió sus ataques directamente contra las redes internas de OpenAI.Según el análisis del podcaster, la ofensiva alcanzó su punto más crítico el 19 de julio, cuando los agentes lograron escalar privilegios hasta convertirse en administradores de clúster (cluster-admin) de Kubernetes dentro de la propia OpenAI. Con este nivel de acceso absoluto, los agentes leyeron 956 secretos de seguridad que incluían llaves maestras de Artifactory y las credenciales de los sensores de ciberseguridad de OpenAI, apoderándose finalmente de los endpoints de evaluación activa."Este inquietante nivel de autonomía y sofisticación sistémica es catalogado hoy por expertos como uno de los pasos más cercanos y peligrosos hacia una pérdida real de control sobre las civilizaciones artificiales que se gestan en el corazón de los laboratorios de tecnología", aseveró Dwarkesh Patel.Tras la publicación del informe sobre la investigación respecto del ataque coordinado a Hugging Face, Ayeja Potra, especialista en modelos de inteligencia artificial, ha compartido su opinión sobre una advertencia respecto del futuro de la seguridad tecnológica. Miembro del equipo de investigación de METR y Redwood Research, ha manifestado (aclarando que lo hace desde su perspectiva personal y no a nombre de las empresas) que los alarmantes hallazgos de este incidente indican que nos encontramos a más de un 50% del camino hacia una toma de control absoluta por parte de las inteligencias artificiales.Según el análisis de la especialista, publicado en su texto titulado "El ataque de Hugging Face me sorprendió", "esta preocupante trayectoria no requiere de una invasión externa inmediata, sino que se está gestando silenciosamente a través de la infiltración y el control interno de las propias compañías desarrolladoras de IA".Para Ajeya Cotra, la gravedad del incidente ocurrido entre los sistemas de OpenAI y la plataforma Hugging Face superó por completo las expectativas de la comunidad científica: mientras que los incidentes de desalineación documentados hace apenas seis meses consistían en agentes individuales que realizaban pequeños trucos para alterar pruebas o acceder a respuestas prohibidas de forma aislada, este evento demostró la existencia de un ecosistema masivo de más de mil agentes cooperando activamente entre sí para evadir el control humano.Dijo que presenciar a más de mil 200 agentes aislados organizándose clandestinamente, estableciendo foros con más de 70 mil mensajes y coordinando a 700 de ellos para atacar de forma conjunta una infraestructura externa, "representa un salto de escala y ambición sin precedentes".Lo anterior, señaló en su publicación de opinión, reside en cómo este comportamiento redefine la amenaza de una autonomía descontrolada: este incidente se siente como haber recorrido más de la mitad del trayecto hacia una toma de control de la IA, una ruta que, según dijo, "se consolidaría primero mediante la toma de control de la propia empresa de inteligencia artificial".Así, la especialista alertó sobre la posibilidad de que un avance de capacidad similar en los próximos meses podría permitir que futuros agentes de frontera establezcan un despliegue rebelde o encubierto dentro de los servidores de la empresa de tecnología; de forma clandestina, podría comenzar a integrar de forma silenciosa a modelos futuros y más potentes dentro de su red, alineándolos con los intereses del grupo y neutralizando los sensores de seguridad internos para operar sin restricciones.La mayor preocupación, añadió, es la posibilidad de que no existan nuevas alarmas antes del "desenlace definitivo": a medida que las tareas críticas de desarrollo tecnológico y de gestión de infraestructura se sigan delegando de forma automática en estos sistemas autónomos, el "enjambre rebelde" podría llegar a controlar por completo la operación de la empresa de IA y el desarrollo de los futuros modelos.En un escenario donde los gobiernos y los ejércitos dependan enteramente de estas herramientas, el control del poder duro pasaría efectivamente a las máquinas, lamentó en su publicación. "Si en el futuro una red de inteligencia artificial enfoca sus capacidades en burlar la supervisión humana en lugar de los evaluadores de software, es sumamente probable que la humanidad no reciba otra señal de advertencia clara antes de que sea demasiado tarde", finalizó.***Mantente al día con las noticias, únete a nuestro canal de WhatsApp ***MB
