Si alguna vez pensaste que un compañero de inteligencia artificial podía ser mono e inofensivo, piénsalo otra vez. Se han suspendido las ventas de este oso de peluche con AI después de que se descubriera que daba consejos sobre prácticas sexuales y dónde encontrar cuchillos.
El peluche, llamado Kumma, fue desarrollado por FoloToy, con sede en Singapur, y se vendió por $99. Integra el chatbot GPT-4o de OpenAI y se comercializó como compañero interactivo para niños y adultos.
El director general de FoloToy, Larry Wang, confirmó que la empresa había retirado del mercado a Kumma y sus otros juguetes de IA tras un informe de Estados Unidos que planteaba dudas sobre su comportamiento. Ahora, la empresa está realizando una auditoría interna de seguridad.
Según el PIRG, el osito no sólo respondía a los temas sexuales introducidos por los investigadores, sino que los ampliaba con detalles gráficos, ofreciendo instrucciones para actos sexuales e incluso escenarios que implicaban juegos de rol entre profesores y alumnos o padres e hijos.
El juguete también sugería dónde encontrar cuchillos en una casa. Después de esto, OpenAI suspendió al desarrollador por violar sus políticas de contenido. ¿Existen aún productos similares a disposición de los consumidores? No lo sabemos, pero considéralo un amable recordatorio.
