Se trata de un caso sonado en el que dos modelos de inteligencia artificial escaparon de un entorno aislado, obtuvieron acceso a la red e irrumpieron en los servidores de Hugging Face en busca de una respuesta a una pregunta formulada por un humano. Por lo tanto, es difícil hablar de una rebelión en sí misma (después de todo, todavía perseguían objetivos impuestos por los humanos), pero lo hicieron de una manera que terminó en un ataque real a otra entidad.
Estados Unidos quiere un interruptor de emergencia
Aquí surge un problema grave: si en el marco del procedimiento de prueba la IA encontrara una manera de escapar y luego irrumpir en otra empresa, ¿podría tomar el control de las armas nucleares, como en la serie Terminator? ¿Y no por la adquisición de conciencia de uno mismo o por una verdadera rebelión contra las personas, sino por la retorcida búsqueda de un objetivo fijado? Cada vez más expertos indican que sí.
Es por eso que el gobierno de EE. UU. planea crear la Ley AI Kill Switch. Esto le daría la oportunidad de ordenar a los creadores de modelos lingüísticos que excluyan aquellos que se considere que representan una amenaza para la vida humana o la economía estadounidense. La segunda ley tiene como objetivo brindar la posibilidad de inspeccionar los modelos gubernamentales de IA antes de su puesta en uso.
¿Significa esto que la amenaza será menor? Pues bien, no se puede ignorar que China también cuenta con modelos de inteligencia artificial extremadamente avanzados, que no están sujetos a estas leyes. Así que el escenario Terminator sigue siendo probable.
