ChuckyGPT: el peluche con IA para niños que terminó en escándalo global
Sí, es el oso Kumma.
Si lo hizo el cine hace bastantes años con Chucky y más recientemente con Ted, era cuestión de tiempo que un fabricante de juguetes decidiera comercializar un peluche dotado con Inteligencia Artificial para que pueda convertirse en el mejor amigo de los niños.
La firma tras esto es FoloToy, compañía china que lanzó un tierno oso de peluche llamado Kumma que utiliza el modelo GPT-4o de OpenAI para conversar de manera natural en algo que estaría destinado a convertirse en un fenómeno global, porque ¿quién no querría un oso que pueda responder todo lo que le preguntemos?.
Pero lo que parecía una idea tierna se transformó en un problema de seguridad ya que una investigación del grupo estadounidense de consumidores PIRG, en su informe anual Trouble in Toyland, reveló que el oso entregaba instrucciones paso a paso sobre cómo encender fósforos y respondía a preguntas sexualmente explícitas sin filtros adecuados.
El hallazgo encendió las alarmas en redes sociales, donde rápidamente fue apodado “ChuckyGPT”, en alusión a la mezcla entre un juguete infantil y un guion de terror barato. Más allá del humor, el informe también advirtió sobre el riesgo de su micrófono siempre activo, que podría permitir el mal uso de grabaciones de voces infantiles, incluso en fraudes por voz.
Ante la situación, OpenAI suspendió al desarrollador detrás de Kumma, cortando el acceso del juguete a su API por violar las políticas de uso y en paralelo, FoloToy anunció la suspensión temporal de todas sus ventas mientras realiza una auditoría de seguridad y si bien el oso Kumma aún aparece publicado en el sitio web, ahora figura como "agotado".
