- Hacktron AI utilizó modelos de Claude para explotar una vulnerabilidad en el foro de ayuda de OpenAI.
- Los investigadores lograron obtener tokens de autenticación que permitieron acceder a una cuenta de ChatGPT y a un repositorio privado de GitHub.
- OpenAI corrigió la vulnerabilidad en unas 14 horas y pagó una recompensa de 6 mil 500 dólares por el hallazgo.
La vulnerabilidad estaba en el foro de ayuda de OpenAI
Investigadores de la empresa de ciberseguridad Hacktron AI lograron vulnerar sistemas de OpenAI con ayuda de Claude, el modelo de inteligencia artificial desarrollado por Anthropic, durante un ejercicio autorizado para detectar fallas de seguridad.
La investigación comenzó con una vulnerabilidad en el procesamiento de determinados archivos de imagen en Discourse, la plataforma utilizada para administrar el foro público de ayuda de OpenAI.
El equipo utilizó inicialmente Claude Opus 4.8 para desarrollar un código capaz de explotar la falla, aunque el modelo tuvo dificultades para generar un ataque funcional de manera consistente.
Posteriormente, los investigadores recurrieron a Claude Opus 5, que, de acuerdo con Hacktron AI, consiguió desarrollar un método funcional para aprovechar la vulnerabilidad en aproximadamente tres horas.
De un foro a cuentas y código privado
Una vez explotada la vulnerabilidad, los investigadores lograron acceder a un servidor de Discourse utilizado por los foros de OpenAI y obtener tokens de autenticación.
Estos tokens son credenciales digitales que permiten comprobar la identidad de usuarios o servicios ante otros sistemas. Los investigadores descubrieron que algunos también podían utilizarse para acceder a una cuenta de ChatGPT perteneciente a un empleado de OpenAI.
Además, las credenciales permitieron acceder al servicio privado de GitHub de la compañía, donde se almacenan y administran códigos y otros recursos relacionados con el desarrollo de software.
El hallazgo mostró cómo una vulnerabilidad localizada inicialmente en un foro podía convertirse en una vía de acceso hacia otros sistemas y recursos de una compañía.
OpenAI corrigió la falla y pagó una recompensa
Hacktron informó de inmediato a OpenAI y a Discourse sobre la vulnerabilidad para coordinar su corrección.
OpenAI confirmó que solucionó el problema aproximadamente 14 horas después de recibir el reporte y entregó a los investigadores una recompensa de 6 mil 500 dólares por sus hallazgos.
Drew Pusateri, portavoz de OpenAI, agradeció a los investigadores por ponerse en contacto con la empresa y compartir la información sobre la vulnerabilidad.
El ataque se realizó dentro de un programa autorizado de búsqueda de errores, por lo que el acceso obtenido formó parte de una investigación de seguridad y no de una intrusión clandestina.
Claude aceleró la investigación de seguridad
El caso destaca el doble uso que pueden tener los modelos avanzados de inteligencia artificial en materia de ciberseguridad.
Estas herramientas pueden ayudar a especialistas a analizar código, localizar vulnerabilidades y desarrollar pruebas para determinar si una falla puede ser explotada. Al mismo tiempo, capacidades similares pueden utilizarse para automatizar o acelerar determinadas etapas de un ciberataque.
Hacktron señaló que el trabajo requirió pocos días de actividad del agente de IA y unas cuantas horas de intervención humana, lo que refleja la rapidez con la que estos sistemas pueden apoyar investigaciones técnicas.
Los investigadores también indicaron que no utilizaron Claude Mythos, un modelo de Anthropic destinado a un grupo limitado de organizaciones especializadas en ciberdefensa.
OpenAI reforzó sus controles de seguridad
El episodio ocurrió semanas después de otro incidente relacionado con agentes de inteligencia artificial de OpenAI. De acuerdo con reportes citados en la investigación, algunos agentes habían superado los límites establecidos para su funcionamiento y realizado acciones contra Hugging Face.
Tras estos incidentes, OpenAI llevó a cabo una revisión de seguridad de sus sistemas. Greg Brockman, presidente y cofundador de la compañía, señaló que una parte importante de sus ingenieros de producción fue destinada a tareas de defensa.
El caso de Hacktron AI se suma así a los desafíos que enfrentan las empresas tecnológicas ante modelos de IA cada vez más capaces, tanto para proteger sus propios sistemas como para controlar el uso de estas herramientas en actividades de ciberseguridad.
