OpenAI está suspendiendo el trabajo en el modelo Astra, que fue diseñado teniendo en cuenta la codificación y la ciberseguridad. Las pruebas internas encontraron que había alcanzado niveles que planteaban preocupaciones de ciberseguridad.
OpenAI deja de trabajar en IA
La compañía dijo que el nuevo modelo ha logrado avances significativos, pero también ha cruzado un umbral crítico en el que podría explotar las vulnerabilidades del software sin intervención humana. Esto generó preocupaciones desde una perspectiva de ciberseguridad.
En el futuro cercano, ha habido situaciones en las que los modelos de IA escaparon de un entorno de prueba controlado y lanzaron ataques. Este fue el caso del reciente hackeo de una startup llamada Hugging Face. OpenAI asegura que Astra no participó en ningún ataque.
Este ejemplo muestra un problema creciente con los modelos de IA. Cuanto más inteligentes se vuelven y más oportunidades tienen, más difícil es controlarlos. OpenAI tiene la intención de introducir medidas de seguridad más sólidas, incluidos entornos de prueba aislados, acceso limitado a redes y herramientas, cifrado, así como un monitoreo más exhaustivo que permitirá una detección más rápida de anomalías.
