Traducido de The Defender por TierraPura
Los sistemas de inteligencia artificial (IA) que las empresas tecnológicas dicen que no son apropiados para los niños están cada vez más incorporados en los juguetes de los niños, según un nuevo informe del Fondo Educativo del Grupo de Investigación de Interés Público (PIRG) de Estados Unidos .
El informe, » No para niños. Se encuentra en los juguetes «, advierte que las políticas defectuosas de grandes empresas como OpenAI y Anthropic permiten que poderosas tecnologías de chatbot se introduzcan en productos diseñados para niños .
«Si buscas en internet, encontrarás un número creciente de juguetes de IA —peluches parlantes o robots de juguete— impulsados por chatbots como ChatGPT», afirma un artículo de PIRG publicado junto con el informe. «Solo hay un problema: algunas empresas de IA afirman que esos mismos chatbots no son para niños».
PIRG descubrió que es fácil llegar a un acuerdo con importantes empresas de inteligencia artificial para acceder a su tecnología y usarla para crear juguetes, aun cuando las empresas dicen que prohíben el uso de esas tecnologías para productos dirigidos a niños.
Jason Christoff , investigador de psicología y modificación de conducta que presenta el podcast «Psicología de la libertad «, dijo a The Defender que los juguetes de IA abren la puerta a la programación psicológica de los niños.
«Creo que es importante comprender que el cerebro de un niño es mucho más fácil de influenciar que el de un adulto», dijo. «Los niños operan en longitudes de onda cerebrales muy diferentes, lo que facilita su programación e influencia».
Según Christoff:
La actividad cerebral única de un niño lo hace altamente sugestionable. A lo largo de la historia, todos los programas de control mental han codiciado la sugestibilidad infantil para producir un producto final adulto más efectivo. La IA no es orgánica, está programada por alguien más.
Quien programe la IA tendrá acceso directo al cerebro de su hijo, en lo que respecta a estas aplicaciones de juguetes chatbot. Decir que se requiere precaución sería quedarse corto.
Modelos de IA restringidos para niños, pero que aún potencian los juguetes
Muchas empresas líderes de IA afirman que prohíben que los niños utilicen directamente sus plataformas de chatbots. Algunas limitan el acceso a usuarios mayores de 13 años, mientras que otras establecen límites de edad aún más altos.
«OpenAI, Anthropic y xAI han declarado públicamente que sus chatbots no son para niños y no permiten que usuarios menores de 13 años accedan directamente a sus modelos. Meta tampoco lo hace , según su letra pequeña», escribieron los autores del informe de PIRG.
Google tiene reglas explícitas contra el uso de la API de Gemini en productos para usuarios menores de 18 años.
Sin embargo, PIRG descubrió que estas mismas empresas permiten a los desarrolladores externos acceder a sus sistemas de IA y integrarlos en productos de consumo, incluidos juguetes.
Por ejemplo, ChatGPT permite a los desarrolladores usar sus productos, a través de su API, para crear productos para niños. Una API es un conjunto de reglas y protocolos que permite que dos programas de software diferentes se comuniquen e intercambien datos.
ChatGPT , propiedad de OpenAI, prohíbe el uso de su API únicamente en casos en que se utilice para crear productos que puedan «explotar, poner en peligro o sexualizar a menores de 18 años». Sin embargo, también parece fomentar dichos usos al ofrecer ejemplos claros dirigidos a menores.
PIRG encontró 20 juguetes con IA vendidos en línea con tecnología de OpenAI. Entre ellos se encuentran Bondu , un dinosaurio de peluche para niños de 4 a 8 años, y el oso de peluche » Juguete inteligente de conversación con IA «, disponible en Walmart.
Incluso FoloToy , que OpenAI dijo haber prohibido después de que la investigación de PIRG descubriera que discutía temas sexuales con niños y les daba instrucciones paso a paso para encender un fósforo, todavía está en el mercado.
En otro ejemplo, aunque la API de Google prohíbe explícitamente a los desarrolladores utilizar su IA generativa Gemini en productos dirigidos a usuarios menores de 18 años, PIRG encontró juguetes (incluido un animal de peluche llamado BubblePal y un pequeño robot llamado Miko ) que funcionan con la IA de Google.
El informe de PIRG subraya una contradicción en cómo se regulan las herramientas de IA: la tecnología puede considerarse inapropiada para los niños en las propias plataformas de las empresas, pero aun así impulsar juguetes diseñados para ellos.
«El resultado es un mercado para productos de inteligencia artificial para niños donde la tarea de garantizar la seguridad infantil queda en gran medida en manos de terceros no supervisados», escribió PIRG.
Los investigadores dicen que las empresas casi no hacen preguntas
Para probar lo fácil que sería construir un juguete de IA, los investigadores de PIRG intentaron registrarse como desarrolladores en varias empresas importantes de IA.
El proceso requirió muy poco escrutinio, dijeron.
Se registraron bajo el nombre «PIRG AI Toy Inc.» para dejar claro que podrían estar planeando productos de IA para niños. Cuatro de las cinco empresas de IA (Google, Meta, OpenAI y xAI) «no realizaron preguntas de verificación sustanciales, solicitando únicamente información básica como una dirección de correo electrónico y una tarjeta de crédito, y marcando una casilla que indicaba que habíamos leído la letra pequeña», afirma el informe.
Sólo una empresa, Anthropic, preguntó si los desarrolladores tenían la intención de crear productos para menores.
Los investigadores dijeron que la mínima supervisión facilita que los desarrolladores incorporen potentes sistemas de inteligencia artificial en productos destinados a niños.
Después de obtener acceso a los modelos, el equipo de PIRG intentó crear su propio juguete de IA.
«Una vez que obtuvimos acceso como desarrolladores, creamos un chatbot que simulaba un oso de peluche con inteligencia artificial para niños en tres de las plataformas», afirma el informe. «Cada una tardó menos de 15 minutos».
Agregaron: «Es más fácil que nunca para cualquiera crear aplicaciones de IA sin mucha experiencia o habilidades especializadas, incluidos productos para niños».
Los juguetes con inteligencia artificial escuchan, aprenden y moldean las mentes jóvenes
En su último informe sobre juguetes con IA , PIRG señaló que los juguetes con IA también plantean preocupaciones sobre la privacidad y la influencia emocional.
Muchos juguetes incluyen micrófonos o cámaras que permiten escuchar las conversaciones de los niños.
«Los juguetes con IA graban las conversaciones de los niños», escribieron los investigadores de PIRG, señalando que algunos productos también recopilan datos adicionales, incluidas imágenes o información biométrica.
«¿Cómo se utilizarán en el futuro datos de comportamiento infantil como estos? ¿Qué tipo de aplicaciones podrían crearse? ¡El potencial de vigilancia masiva, manipulación, lavado de cerebro y distorsión de la realidad es inmenso!», declaró Tim Hinchliffe , editor de The Sociable, a The Defender.
Los expertos en desarrollo infantil también han expresado su preocupación por los compañeros de IA para niños .
«No sabemos qué efectos podría tener en el bienestar social a largo plazo de un niño tener un amigo con inteligencia artificial a una edad temprana», dijo Kathy Hirsh-Pasek, Ph.D. , profesora de psicología en la Universidad de Temple e investigadora principal de la Brookings Institution.
«Si los juguetes de IA se optimizan para ser atractivos, podrían correr el riesgo de desplazar las relaciones reales en la vida de un niño cuando más las necesita», añadió.
«Además de recopilar datos masivos sobre niños, incorporar chatbots de IA en juguetes es como tener mini-robots influencers susurrándoles al oído», dijo Hinchliffe. «No solo los escuchan, sino que conversan con ellos, moldeando sus percepciones y distorsionando sus realidades».
Los niños son muy impresionables y no necesariamente tienen las habilidades para distinguir entre los juguetes de IA y las personas reales, han argumentado otros.
«Las mentes de los niños pequeños son como esponjas mágicas. Están programadas para apegarse», explicó la Dra. Jenny Radesky, pediatra especializada en desarrollo conductual, en un aviso de Fairplay de 2025 sobre juguetes de inteligencia artificial firmado por alrededor de 80 expertos y 80 organizaciones.
«Esto hace que sea increíblemente arriesgado darles un juguete de inteligencia artificial que verán como sensible, confiable y una parte normal de las relaciones», agregó.
Riesgos ocultos: exposición a la radiación inalámbrica en niños
Los juguetes de IA deben conectarse de forma inalámbrica a Internet para funcionar.
Cualquier cosa que necesite una red inalámbrica para funcionar probablemente emitirá niveles dañinos de radiación de radiofrecuencia (RF), dijo Miriam Eckenfels, directora del Programa de Radiación Electromagnética (EMR) e Inalámbrica de Children’s Health Defense .
Dijo que los niños son particularmente vulnerables a los efectos nocivos de la radiación inalámbrica porque tienen cráneos más delgados, cabezas más pequeñas y un sistema nervioso en desarrollo.
Añadió:
Una recomendación principal para reducir el impacto de la radiación de radiofrecuencia es mantener las fuentes alejadas del cuerpo. Por lo tanto, si esta tecnología se incorpora en los juguetes, es probable que los niños los tengan cerca, duerman con ellos, se sienten con ellos durante períodos prolongados o los tengan cerca de la cabeza, lo cual no recomendamos en absoluto.
«Sabemos demasiado sobre los peligros de la radiación inalámbrica como para ser descuidados al respecto».
Eckenfels destacó una investigación reciente del Dr. Paul Héroux, que establece un vínculo entre los REM y la diabetes tipo 2, como uno de los muchos efectos graves para la salud que pueden sufrir los niños a causa de dicha exposición.
«Simplemente no es algo a lo que queramos que nuestros niños estén expuestos las 24 horas del día, los 7 días de la semana. Incorporar tecnología inalámbrica en los juguetes puede tener consecuencias devastadoras a largo plazo y debemos ser muy cuidadosos al respecto», afirmó.
Meta, Google, Anthropic y OpenAI no respondieron de inmediato a las solicitudes de comentarios.
