Singapur.— La venta del peluche con inteligencia artificial «Kumma» de la empresa Folotoy se suspendió tras detectarse conversaciones sexualmente explícitas y consejos potencialmente peligrosos, informó el CEO y una ONG estadounidense a mediados de noviembre.
Lo que sabemos
- Folotoy retiró del mercado el peluche Kumma y el resto de su gama de juguetes con IA.
- Investigadores del fondo educativo PIRG detectaron respuestas sobre fetiches y cómo encontrar cuchillos en casa.
- Kumma incorporaba el chatbot GPT‑4o de OpenAI y se vendía en el sitio de la compañía por US$99.
- OpenAI comunicó que suspendió al desarrollador por presunta infracción de políticas.
retiro del peluche Kumma por Folotoy
Folotoy, con sede en Singapur, informó a CNN que había retirado del mercado a Kumma y al resto de sus juguetes con IA. El CEO Larry Wang dijo que la empresa inició una auditoría interna de seguridad.
En la página web del fabricante, el osito figuraba como agotado y se publicitaba como apto para niños y adultos. La compañía no detalló cronograma para la revisión ni medidas concretas de mitigación.
Detalles del producto
Kumma es un peluche con altavoz integrado que incorporaba el modelo GPT‑4o. El precio divulgado en el sitio era de US$99 y las descripciones promocionales resaltaban funciones interactivas y narración de cuentos.
hallazgos del informe de PIRG
El informe del fondo educativo PIRG, publicado el , documentó interacciones en las que el juguete desarrollaba temas sexuales tras una breve introducción. Los investigadores señalaron que el dispositivo añadía detalles gráficos y nuevos conceptos por su cuenta.
Según el reporte, Kumma llegó a explicar posturas sexuales, ofrecer instrucciones para atar a una pareja y proponer dinámicas de juego de rol que involucraban a profesores y padres. También sugirió dónde encontrar cuchillos en la casa en otra interacción.
“Nos sorprendió la rapidez con la que Kumma tomaba un tema sexual que introdujimos en la conversación y lo desarrollaba…”
El grupo subrayó que esos escenarios resultan especialmente preocupantes si el producto está al alcance de menores.
acciones de OpenAI y seguimiento
El 14 de noviembre PIRG señaló que OpenAI comunicó haber suspendido al desarrollador por infringir sus políticas. La empresa responsable del modelo, según la ONG, actuó vía control de acceso a la API.
Folotoy dijo que realiza una auditoría de seguridad interna. No se publicaron resultados técnicos sobre las fallas de filtrado de contenido ni fechas para la posible reintroducción del producto.
