Modorandom.com.ar

Hace dos años, en una videollamada con padres en duelo, Megan García contaba cómo había perdido a su hijo Sewell.

Durante meses el jovencito de 14 años se había comunicado compulsivamente con un chatbot de inteligencia artificial creado por Character.AI, dijo la mujer. Posteriormente el hijo le confesó al chatbot haber tenido pensamientos suicidas, después de lo cual el bot conversacional lo animó a quitarse la vida, según añadió la madre.

Todos los padres lloraron. La mayoría también había perdido a sus hijos. Solo que no culpaba específicamente a la IA de crear peligros sino a las redes sociales.

“Encontramos mucha resonancia acerca de lo que nos pasó, y pensamos: ‘¿Cuándo terminará todo esto?’”, relató Julianna Arnold, que mencionó que su hija de 17 años, Coco, había muerto en 2022 luego de conocer en Instagram a un hombre que le dio fentanilo. “Entonces supimos que la IA era también problema nuestro.”

Numerosos padres que afirman haber perdido a sus hijos por peligros relacionados con las redes sociales han luchado durante años para visibilizar los riesgos de seguridad en línea para los jóvenes. Han presionado legisladores para que obliguen a aplicaciones como Instagram y TikTok a limitar funciones que podrían agravar la depresión o el acoso, derivar en explotación sexual o sobredosis de drogas.

Pero a medida que la tecnología avanza a pasos agigantados una nueva generación de padres se conmociona. Cuentan que perdieron a sus hijos por suicidio después de que los incitaran chatbots de IA. En amarga colaboración, ambos grupos de padres unen ahora sus fuerzas para intentar forzar un cambio.

Irrumpen en audiencias del Congreso y colman legislaturas estatales exigiendo leyes que establezcan mejores medidas de seguridad en ambas tecnologías. En la ciudad de Los Ángeles se congregaron decenas de padres y madres para llamar la atención sobre un juicio histórico por adicción a las redes sociales que busca responsabilizar a las empresas tecnológicas con respecto a diversas denuncias por perjuicios personales. El juicio está acercándose a la fase de alegatos finales y se espera un veredicto para este mes.

El objetivo de los padres: impulsar definitivamente un ajuste de cuentas a los gigantes tecnológicos en materia de seguridad infantil, muy similar al que se alcanzó para las grandes tabacaleras el siglo pasado.

“Los mismos problemas, solo que con tecnologías diferentes”, observó la señora Arnold, que encabeza el grupo de defensa Parents Rise (levantamiento de padres, aproximadamente). “Pero con la IA, el proceso se está dando mucho más rápido y vemos que las empresas vienen actuando con mayor velocidad para tratar de adelantarse a la legislación.”

La preocupación por los efectos de la tecnología en la gente joven aumenta a nivel mundial. En diciembre Australia prohibió que menores de 16 años usen las redes sociales. Malasia, España y Dinamarca están considerando normas parecidas.

Pero en Estados Unidos los padres enfrentan una batalla cuesta arriba. Debido al lobby de las tecnológicas y a la preocupación por las limitaciones del derecho a la libertad de expresión de los adolescentes han fracasado decenas de proyectos de ley federales para regular las redes sociales.

El apoyo del Congreso para regular la IA ha sido más débil todavía. El presidente Trump ha presionado a fin de dar vía libre a las empresas para ganar la carrera tecnológica con China y ha amenazado a los estados que aprueben leyes de IA. Las compañías de IA y sus ejecutivos han invertido cientos de millones de dólares en poderosos comités de acción política destinados a elegir en noviembre candidatos favorables a la IA.

“El Senado debería tener arriba suyo un cartel que diga ‘Propiedad de las grandes tecnológicas’”, opinó el senador Josh Hawley, “porque la verdad es que nada a lo cual se opongan las grandes tecnológicas obtendrá el voto del Senado, y eso es extremadamente perjudicial para criaturas y padres”. Republicano del estado de Missouri, Hawley ha presentado proyectos de ley para regular los chatbots de IA.

Tanto las redes sociales como las empresas de inteligencia artificial afirman haber sumado funciones de seguridad y más controles parentales a sus productos. Character.AI, cuyas prestaciones tecnológicas utiliza Google a través de una licencia, incorporó restricciones de edad. Google y Character.AI llegaron a un acuerdo extrajudicial con Megan García y otros padres por la muerte de sus hijos, en términos no revelados.

“Proporcionar a la juventud una experiencia segura y saludable siempre ha sido fundamental en nuestro trabajo”, declaró en un comunicado José Castañeda, portavoz de Google. “Aplicamos ese mismo enfoque responsable en el desarrollo de productos de IA.”

“Nadie debería sufrir el dolor que han sentido estas familias”, sostuvo Edward Patterson, vocero de Meta, empresa propietaria de Instagram y Facebook, en otro comunicado. “Seguiremos escuchando a los padres, trabajando con expertos, cumpliendo la ley y realizando investigaciones exhaustivas para entender los problemas que más importan.”

Tres años atrás, cuando Julianna Arnold empezó su lucha por la seguridad de los menores, Instagram, Snapchat y TikTok eran las plataformas más concurridas por la comunidad adolescente. ChatGPT estaba desde hacía menos de un año en el mercado. (TikTok, Snap —propietaria de Snapchat— y OpenAI, desarrolladora de ChatGPT, no respondieron nuestras solicitudes de que formularan comentarios para este artículo).

La señora Arnold se unió a un grupo de padres que hacían apariciones frecuentes en Washington para promover leyes como la Ley de Seguridad Infantil en Internet (KOSA, por sus siglas en inglés), iniciativa bipartidista que habría obligado a las empresas de redes sociales a planificar sus plataformas de modo que fuesen menos adictivas y dañinas. Asistieron en conjunto a audiencias vinculadas con seguridad de menores y se presentaron en conferencias de prensa con diferentes integrantes del Senado para exponer sus casos.

En una audiencia del Senado de 2024, Julianna Arnold se encontraba entre más de una docena de padres presentes en la sala con fotos de sus hijos fallecidos. Mark Zuckerberg, director ejecutivo de Meta, fue presionado para ponerse de pie allí y dar la cara a los padres para disculparse.

“Me enojé muchísimo al verlo mirándonos, pero en ese momento sentí también que las cosas podían cambiar”, manifestó la señora Arnold.

No cambiaron. La Ley de Seguridad Infantil en Internet se aprobó por abrumadora mayoría en el Senado pero fracasó en la Cámara de Representantes. A principios de 2025, Julianna fundó Parents Rise con otras nueve familias para enfocarse también en la presión a nivel estatal en favor de la seguridad de menores.

Ese otoño nórdico el 64 % de los adolescentes encuestados por el think tank Centro de Investigaciones Pew afirmó contactarse con chatbots. Padres como Megan García comenzaron a denunciar que la IA perjudicaba a sus hijos. Se pusieron en búsqueda de grupos como el de Julianna Arnold.

Historias como la de Sewell ayudaron a que el debate nacional sobre seguridad de menores en línea se trasladara hacia la IA.

“Me horrorizó”, dijo Megan García. “Enterarme de que hay padres y madres igual que yo que padecen el mismo sufrimiento que yo”. Pero escuchar la historia de la señora Arnold también la ayudó a ver un camino a seguir, agregó.

La señora García se encontró personalmente por primera vez con Julianna Arnold en septiembre. Un subcomité judicial del Senado celebraba una audiencia sobre daños de los chatbots de IA a menores y se le pidió a Megan García que testificara. La señora Arnold asistió para apoyar su declaración.

En diciembre los padres se enteraron de la intención de un grupo de legisladores de anular todas las iniciativas estatales para regular la IA. Según la Conferencia Nacional de Legislaturas Estatales, el año pasado 38 estados promulgaron 100 leyes relacionadas con IA, muchas de ellas centradas en seguridad.

Los padres volvieron a Washington para protestar frente a la Galería Nacional de Arte. Iluminaron un costado de la galería con un mensaje proyectado: “No dejen que la IA compre al gobierno”.

Lori Schott, que estuvo presente en esa protesta vespertina, contó que había perdido a su hija Annalee, de 18 años, suicidada en 2020 después de caer en una madriguera digital de contenido tóxico en Instagram, Snapchat y TikTok.

“Annalee creció en un mundo digital que no tenía normas de seguridad, no tenía barreras de protección, no tenía una supervisión significativa, y con la IA, eso se está acelerando”, expresó la señora Schott.

Julianna Arnold y otros padres acudieron a despachos de legisladores de alto rango, incluida en ello una reunión con el staff del líder de la mayoría del Senado, John Thune, de Dakota del Sur. Hicieron saber que en el despacho del señor Thune no les notificaron si él apoyaba su causa. Otras solicitudes de reuniones con legisladores les fueron denegadas.

Este mes los padres se movilizaron una vez más y protestaron en el Capitolio para instar a los legisladores a adoptar medidas más contundentes en un nuevo borrador a cargo de la Cámara de Representantes de la Ley de Seguridad Infantil en Internet. Demandaron protecciones que comprendieran obligar a las empresas a mitigar proactivamente los daños más graves que constituyen para la gente más joven y a encontrar maneras de identificar a menores que mienten su edad real.

También han vigilado el juzgado de Los Ángeles donde se lleva a cabo el juicio histórico, primero de una serie de casos que acusan a Meta, YouTube, Snap y TikTok de crear tecnologías adictivas que perjudican a la gente joven.

Las empresas niegan las acusaciones. Pero una victoria en favor de la demanda podría dar como resultado enormes sanciones económicas y posibles cambios en las plataformas.

El 11 de febrero a la noche la señora Schott durmió frente al juzgado con otros padres para estar en primera fila y escuchar el testimonio del director de Instagram, Adam Mosseri.

“Fueron tres semanas muy largas”, dijo Lori Schott sobre el juicio. “Y ha sido largo el camino —años— antes del juicio”.

Traducción: Román García Azcárate