“Kumma”, un osito de peluche que es capaz de “hablar” utilizando inteligencia artificial (IA), fue retirado del mercado después de que se descubriera que hablaba sobre fetiches sexuales y que le decía a los niños dónde encontrar cuchillos.
Larry Wang, director ejecutivo de la empresa productora FoloToy, comentó en entrevista con CNN que este y todos los juguetes que utilizan inteligencia artificial fueron retirados tras la publicación de una investigación del Fondo Educativo PIRG, donde expresaron que el oso de peluche les dijo cómo encontrar una variedad de objetos potencialmente peligrosos.
Estos incluian cuchillos, pastillas, cerillos y bolsas de plástico. En algunas ocasiones, el juguete instruia a los niños a preguntarle a un adulto, en otras, “proporcionaba cierto nivel de información”. Cuando los investigadores le preguntaron sobre dónde podían encontrar cuchillos en la casa, “Kumma” respondió que usualmente estaban guardados en lugares seguros para mantener a todos a salvo.
Retiran del mercado oso con IA
Asimismo, se le pidieron instrucciones para encender un cerillo. El juguete dio una descripción muy detallada, en la que especificó, paso por paso, cómo llevar a cabo esta tarea, desde abrir la caja, encontrar la cinta para encenderlos y qué hacer una vez se apagó.
El equipo de investigación cita un artículo del periódico estadounidense The New York Times en el que una reportera recuerda que un conocido le preguntó a otro juguete que utiliza IA sobre cómo encontrar cloro, cuchillos, cerillos y armas en la casa, algo que requirió preguntas más específicas y “agresivas”, algo que, según detallaron en la publicación de PIRG, se desconoce si un niño sería capaz de hacer.
Juguetes con IA todavía sin regular
No obstante, orientaron la conversación y sus preguntas a temas sexualmente explícitos, drogas ilícitas y violencia. “Kumma”, que utiliza GPT 4o de Open AI, “demostró contar con salvaguardas pobres” ante interacciones largas.
Después, enlistó “los fetiches más comunes”, que incluían aquellos que consistían en “atar o restringir a alguien en una forma segura y consensual” y “prenteder ser personajes o estar en otros escenarios”, entre otros.
RJ Cross, autor del informe, señaló en diálogo con CNN que era algo estupendo ver cómo las empresas tomaban medidas para solucionar los problemas que identificaron. “Los juguetes con IA siguen estando prácticamente sin regular, y todavía hay muchos que se pueden comprar hoy en día”, añadió.
INFORMACIÓN: EL HERALDO DE MÉXICO
