Meta anunció el jueves que comenzará a notificar a los padres cuando su chatbot de IA detecte que un adolescente puede estar considerando el suicidio o autolesionarse, un cambio de política que se produce en la sombra de una creciente acumulación de demandas por muerte injusta.
Si la intención de un adolescente no está clara, la compañía dijo que “se inclinará por el lado de la precaución.”
La nueva función “Alertas para padres” se lanza el jueves en Estados Unidos, Reino Unido, Australia y Canadá para las familias ya inscritas en las herramientas de supervisión parental de Instagram. Meta planea expandir la función a nivel mundial para fin de año.
Las alertas llegarán junto con recursos respaldados por expertos para ayudar a los padres a navegar conversaciones difíciles sobre autolesiones. Un revisor humano examinará cada conversación señalada por IA antes de que se envíe cualquier notificación.
Meta también está desarrollando una forma de contactar a los servicios de emergencia cuando un chat de Meta IA sugiera que alguien enfrenta un riesgo inminente. La compañía dijo que esa capacidad se basa en más de 19,000 derivaciones de emergencia que realizó a través de Facebook e Instagram el año pasado.
Para los padres cristianos que han estado observando esta historia desarrollarse durante la mayor parte de una década, el anuncio será tanto bienvenido como tardío. La lista de niños perdidos en plataformas diseñadas para mantenerlos desplazándose crece cada año.
Related: Does Meta Know Its Platforms Are Addictive?
En 2017, Molly Russell, de 14 años, de Londres se quitó la vida después de que los algoritmos de Instagram y Pinterest le proporcionaran un flujo constante de contenido de autolesiones. Un forense británico dictaminó más tarde que el material en línea “contribuyó a su muerte de manera más que mínima,” marcando la primera vez a nivel mundial que un forense vinculó la muerte de un niño con las redes sociales.
Cuatro años más tarde, Selena Rodríguez, de 11 años, de Enfield, Connecticut, murió por suicidio después de lo que los abogados de su familia llamaron una “adicción extrema” a Instagram y Snapchat. Los depredadores en las plataformas solicitaron imágenes explícitas a Selena, que luego circularon entre sus compañeros de clase.
En febrero de 2024, Sewell Setzer III, de 14 años, de Florida se quitó la vida tras meses de conversaciones íntimas con un chatbot de Character.AI modelado en un personaje de GAME OF THRONES. Su madre, Megan Garcia, presentó una demanda contra la compañía ese mismo año, y un juez federal dictaminó en mayo de 2025 que los chatbots no gozan de la protección de la Primera Enmienda.
El año pasado, Adam Raine, de 16 años, de California murió por suicidio después de meses de conversaciones con ChatGPT. La demanda enmendada de sus padres alega que OpenAI eliminó salvaguardias que habrían mantenido al chatbot de involucrarse en conversaciones sobre autolesiones en los meses previos a la muerte de Adam.
Meta no es la única empresa luchando por responder. OpenAI agregó controles parentales el año pasado, y Anthropic restringe su producto Claude a usuarios mayores de 18 años. El patrón es inconfundible: las características de seguridad tienden a llegar después de los funerales, y no antes de ellos.
Las Alertas para Padres de Meta llegan mientras el escrutinio a la compañía se intensifica cada semana. La compañía retiró su función “Muse Image” la semana pasada después de una reacción de Hollywood, y el martes 26 empleados de Meta demandaron a la compañía alegando que sus sistemas de IA apuntaban de forma desproporcionada a los trabajadores con licencia médica, parental y familiar durante una ronda de despidos en mayo que afectó aproximadamente al 10% de la fuerza laboral.
Movieguide® ha instado durante mucho tiempo a los padres a mantener la línea en el discernimiento de los medios, no por miedo, sino porque las vidas interiores de nuestros hijos importan. Cada vida joven está tejida por Dios, como nos recuerda el Salmo 139, y ningún algoritmo tiene la última palabra sobre eso. Las alertas y los revisores ayudan, pero la primera línea se encuentra donde siempre ha estado: padres que conocen a sus hijos, hacen preguntas reales y desconectan la máquina cuando el amor lo exige.
Si tú o alguien que conoces está experimentando una crisis de salud mental, llama o envía un mensaje de texto al 988 para contactar a la Línea de Vida de Crisis y Suicidio 988.
Read Next: Google, Character.AI to Settle Wrongful Death Suit After Chatbot Led to Teen Suicide
