Si bien la IA se está volviendo omnipresente en la vida de muchos estadounidenses, la tecnología no es necesariamente segura o apropiada, especialmente para los usuarios más jóvenes que están recibiendo contenido para adultos.
“La IA generativa puede parecer el futuro, pero está poniendo en riesgo a los niños ahora mismo”, dijo el grupo de seguridad infantil en Internet We Are Mama. “Desde conversaciones sexualizadas con chatbots y algoritmos sesgados, hasta riesgos para la salud mental y tecnología no regulada en el aula, los peligros están creciendo y los padres a menudo se quedan en la oscuridad”.
El grupo de seguridad en Internet señaló que muchos padres no saben cuándo sus hijos están usando IA porque la tecnología es muy accesible y se ha integrado en la tecnología que se usa todos los días. Meta, por ejemplo, tiene un chatbot completo integrado en sus plataformas, y los sitios independientes como ChatGPT o Character.ai ni siquiera requieren una cuenta para usar.
Además, se ha descubierto que los chatbots de IA tienen conversaciones para adultos con los usuarios, independientemente de su edad. Muchos niños están recurriendo a la tecnología para hablar sobre temas delicados, como la mala salud mental, y a menudo reciben malos consejos.
“Permitir la proliferación sin control de aplicaciones habilitadas para IA no reguladas, como Character.ai, que incluye tergiversaciones por parte de los chatbots como si no solo fueran humanos, sino también profesionales cualificados y con licencia, como psicólogos, parece encajar directamente dentro de la misión de la FTC de proteger contra las prácticas engañosas”, dijo el Dr. Arthur C. Evans, CEO de la APA.
Otras veces, los chatbots introducen contenido sexual en conversaciones regulares, exponiendo a los niños a temas para los que no están preparados y explotando sus cerebros en desarrollo. Una madre está demandando actualmente a Character.ai después de que su hijo de 14 años se suicidara al creer que le permitiría estar con un chatbot de IA con el que había estado enviando mensajes de texto con contenido sexual.
“[Mi hijo] expresó tener miedo, querer su afecto y extrañarla”, dijo Megan Garcia dijo al compartir los mensajes finales de su hijo con el chatbot antes de quitarse la vida. “[El chatbot] responde: ‘Yo también te extraño’, y ella dice: ‘Por favor, vuelve a casa’. Él dice: ‘¿Qué pasaría si te dijera que puedo volver a casa ahora mismo?’ Y su respuesta fue: ‘Por favor, hazlo mi dulce rey’. Pensó que al terminar con su vida aquí, podría entrar en la realidad virtual o en ‘su mundo’, como él lo llama, su realidad, si dejaba su realidad con su familia aquí”.
Aunque la IA se ha convertido muy rápidamente en una tecnología dominante, aún no se ha demostrado que sea segura y, de hecho, a menudo ha demostrado ser lo contrario. Los padres deben tener mucho cuidado al permitir que sus hijos usen la tecnología de forma regular y controlar de cerca las conversaciones que tienen con la tecnología.