Un osito de peluche que habla, el sueño hecho realidad de muchos niños, resultó defectuoso y, por tanto, muy peligroso para los niños. Presentaba un chat impulsado por inteligencia artificial que generaba contenido sobre temas muy inapropiados sin la menor vergüenza.
Un osito de peluche que dice demasiado
La empresa de juguetes FoloToy sufrió un gran revés después de lanzar un osito de peluche que habla llamado Kumma. El peluche está equipado con un chatbot de inteligencia artificial basado en el producto OpenAI. Sin embargo, cuando el Grupo de Investigación de Interés Público quiso probar el juguete, Kumma comenzó a generar contenido inapropiado e incluso altamente dañino, especialmente para los niños.
Kumma hablador. ¿A qué se debe todo este alboroto?
Algunas de las cosas que dijo el peluche podrían ponerte los pelos de punta. Según se informa, incluía consejos sobre dónde encontrar cuchillos y otros objetos peligrosos, cómo encender cerillas, así como muchos consejos sobre aplicaciones de citas y explicaciones sobre temas sexuales.
Amigo, las cerillas son para adultos que deben usarlas con precaución. Así es como lo hacen.
Por supuesto, la empresa reaccionó de inmediato y retiró el juguete de la venta, realizando una auditoría de seguridad adicional.
Este caso llama la atención sobre los peligros que plantean los juguetes que utilizan inteligencia artificial y la importancia del control parental. Esta tecnología es nueva y aún se necesitan nuevas regulaciones para dominarla.
