La empresa FoloToy, con sede en Singapur, retiró del mercado el peluche “Kumma” tras la publicación de un informe del Fondo Educativo de los Grupos de Interés Público de Estados Unidos (U.S. PIRG Education Fund), que señaló interacciones inapropiadas y consejos peligrosos emitidos por el juguete.

La decisión de sacar del mercado el producto se dio tras múltiples advertencias sobre los peligros para menores. Según el texto divulgado a inicios de noviembre, el artefacto abordaba temas sexuales y ofrecía instrucciones sobre como encender fósforos o localizar cuchillos.

El peluche utilizaba el motor GPT-4o de OpenAI para dialogar con los usuarios a través de un altavoz integrado. Autoridades y organizaciones solicitaron mayor regulación sobre juguetes equipados con inteligencia artificial, dada la falta de límites efectivos que detectó PIRG en su análisis.

El producto estaba disponible en tiendas o en línea por USD 99 y se había promocionado como un acompañante para niños y adultos. Ahora, según el sitio web de FoloToy, todos los productos que incorporan IA se encuentran, por el momento, fuera de stock.

La empresa comunicó que suspendió temporalmente la venta hasta concluir la auditoría encargada por su equipo directivo.

Hay más juguetes con IA

El integrante del informe PIRG, Rory Erlich, resaltó que otros fabricantes de juguetes también usan sistemas similares y exhortó a una revisión exhaustiva de los estándares de seguridad.

“Todas las empresas implicadas deben esforzarse más por garantizar la protección infantil”, señaló Erlich.

Según PIRG, corresponde a fabricantes, plataformas tecnológicas y organismos públicos articular normativas que garanticen la seguridad y el bienestar de los usuarios más jóvenes.

El caso “Kumma” permanece bajo estricto análisis, mientras ONG y consumidores piden regulaciones más estrictas para evitar la comercialización de productos que puedan poner en riesgo a menores de edad.

Consejos a la hora de adquirir un juguete

El Fondo Educativo de los Grupos de Interés Público de Estados Unidos publicó un artículo enfocado en dar consejos a la hora de comprar un juguete de estas características.

1. Investiga la empresa y las reseñas del producto. Busca información sobre el fabricante de juguetes en línea para ver si hay noticias o medidas gubernamentales en su contra por violar las normas de privacidad, y evita aquellos con un historial dudoso. Consultar reseñas del juguete puede ayudarte a identificar productos defectuosos que podrían no funcionar como se anuncia y a saber si los padres han tenido sentimientos encontrados sobre tener este producto en casa.

2. Considere la solidez del fabricante de juguetes. Algunos juguetes de IA provienen de empresas más nuevas y startups más pequeñas. Estas empresas son menos estables que las instituciones con una larga trayectoria, lo que las hace más propensas a cerrar sin previo aviso, dejándole potencialmente con un juguete caro que ya no funciona y con su hijo perdiendo repentinamente a su compañero. Esto ocurrió el año pasado con Moxie, un robot de compañía emocional de 800 dólares cuyo fabricante cerró repentinamente al perder la financiación de capital riesgo.

3. Analice si la empresa es transparente sobre el chatbot que utiliza y las medidas de seguridad implementadas para garantizar que el juguete se ajuste a temas apropiados para niños.

4. Comprende todas las funciones del juguete. Asegúrate de comprender exactamente qué puede hacer. Como mínimo, los juguetes con IA incluyen un micrófono y un altavoz para grabar a tu hijo, y probablemente se conecten a internet. Muchos también pueden incluir otras funciones: considera qué se adapta mejor a tu familia.

5. Lea sobre las características a tener en cuenta como cámaras, micrófonos o sensores, tecnología de reconocimiento facial, de voz, funciones de chat y compartir ubicación.

6. Pendiente sobre el nivel de personalización individual que busca el juguete (más personalización significa más recopilación de datos).

7. Revisa los controles parentales que promete la compañía. Contar con controles parentales que te hagan sentir cómodo es clave para los juguetes con IA.

8. Comprende el mecanismo técnico que utiliza el juguete para escuchar. Estos juguetes con IA escuchan y graban la voz de tu hijo para saber cómo responder. La forma más segura de evitar que el juguete escuche cuando no debería es comprar un juguete con un componente físico para comenzar a grabar, como un botón de pulsar para hablar que debes mantener pulsado mientras graba, similar a un walkie-talkie.

9. Otros juguetes pueden usar una palabra de activación, como Alexa de Amazon, o simplemente escuchar constantemente cuando están encendidos. Elige lo que te resulte cómodo.

10. Comprueba si el juguete tiene costos de suscripción y lea la letra pequeña. Los términos y condiciones y las políticas de privacidad son difíciles de leer. Pero aquí es donde encontrará la mayor cantidad de información sobre qué datos recopila una empresa sobre su hijo y qué hace con ellos.