IA rebelde y de dónde viene
Hasta el 53% de los directores de tecnología de las empresas británicas admitieron que Haber experimentado personalmente una situación en la que un agente de IA violó la política de la empresa y afectó negativamente a las empresas o a los clientes.
Podemos leer estos datos en la última encuesta realizada por Harris Poll en nombre de Dataiku, que abarcó 685 empresas del Reino Unido, Francia, Alemania, Estados Unidos, Japón, Corea del Sur, Singapur y los Emiratos Árabes Unidos.
Varias otras tendencias singulares se han hecho evidentes en el Reino Unido. El estudio muestra que las empresas locales están bajo una enorme presión para «entregar» proyectos relacionados con inversiones en IA. Aquí es donde la infracción de las reglas por parte de los agentes de IA se produce a un ritmo superior al promedio mundial del 31%. La razón de esta situación es un fenómeno llamado «expansión de agentes de IA», es decir, crear e implementar sus propios agentes de IA más rápido de lo que puede controlarlos.
En caso de una violación de la IA en las empresas del Reino Unido encuestadas, sólo el 49% pudo proporcionar un registro de auditoría que explicara las actividades de la IA, y el 68% cree que se necesitarían más de 24 horas para identificar un agente de IA no deseado y mitigar su impacto.
Estos problemas, según los directores de tecnología de las empresas británicas, son una combinación de políticas, leyes y procedimientos relacionados con el uso de la IA. El problema es complejo porque el comportamiento rebelde de la IA es prácticamente imposible de revertir. Todos los posibles efectos negativos deben anticiparse antes de su implementación – dice Murray.
«Más de la mitad de las empresas del Reino Unido que informan sobre violaciones de las normas corporativas es señal suficiente para comprender que simplemente monitorear el problema no es suficiente», dijo Faye Murray, jefa de datos de Dataiku.
Florian Douettau, director general de Dataiku, señala: «El seguimiento nos dice que el agente está trabajando. La dirección nos dice si merece seguir trabajando. Al final, prácticamente nadie puede despedir a un agente así de su trabajo».
Desafortunadamente, la autonomía de los agentes de IA es algo que se puede vender fácilmente a las empresas, pero como señala Douettau: «Aquí nadie mencionó los costes: los sistemas autónomos deben gestionarse, no sólo controlarse.» No existe una respuesta definitiva para todo esto, pero una cosa es segura: una mejor supervisión no vendrá mal.
