En mayo, escribí aquí que el problema de la seguridad infantil en las plataformas tecnológicas es peor de lo que creíamos.
Un inquietante estudio de la organización sin fines de lucro Thorn descubrió que la mayoría de los niños estadounidenses usaban aplicaciones años antes de lo que se suponía que debían hacerlo, y una cuarta parte de ellos dijo que había tenido interacciones sexualmente explícitas con adultos.
Eso hace que las plataformas tengan la responsabilidad de hacer un mejor trabajo en la identificación de los usuarios menores de sus servicios y protegerlos del abuso que puedan encontrar allí.
Instagram ahora ha hecho algunos movimientos prometedores en esa dirección. Ayer, la empresa dijo que:
- Hará que las cuentas sean privadas de forma predeterminada para niños menores de 16 años
- Ocultará las cuentas de los adolescentes a los adultos que se han involucrado en comportamientos sospechosos, como ser bloqueados repetidamente por otros niños
- Evitará que los anunciantes se orienten a los niños con anuncios basados en intereses. (Hubo evidencia de que se mostraban anuncios de tabaquismo, pérdida de peso y juegos de azar a los adolescentes).
- Desarrollará herramientas de inteligencia artificial para evitar que los usuarios menores de edad se registren, eliminará las cuentas existentes de niños menores de 13 años y creará nuevos métodos de verificación de edad.
La compañía también reiteró su plan de crear una versión de Instagram para niños, que ha provocado condenas de ... mucha gente.
Claramente, algo de esto cae en la pregunta "espera, ¿no lo estaban haciendo ya?". Y podría decirse que la mano de Instagram se ha visto forzada por un creciente escrutinio de cómo los niños son intimidados en la aplicación, particularmente en el Reino Unido. Pero como mostró el informe de Thorn, la mayoría de las plataformas han hecho muy poco para identificar o eliminar a los usuarios menores de edad; es un trabajo técnicamente difícil y existe la sensación de que algunas plataformas sienten que es mejor no saberlo.
Felicitaciones a Instagram por tomarse el desafío en serio y crear sistemas para abordarlo. Aquí está Olivia Solon en NBC News hablando con la jefa de políticas públicas de Instagram, Karina Newton (sin relación), sobre lo que está construyendo la compañía:
"Comprender la edad de las personas en Internet es un desafío complejo", dijo Newton. “Recopilar la identificación de las personas no es la respuesta al problema, ya que no es una solución justa y equitativa. El acceso depende en gran medida del lugar donde viva y de la edad que tenga. Y la gente no necesariamente quiere dar sus identificaciones a los servicios de Internet". Newton dijo que Instagram estaba usando inteligencia artificial para comprender mejor la edad al buscar señales basadas en texto, como comentarios sobre los cumpleaños de los usuarios. La tecnología no intenta determinar la edad analizando los rostros de las personas en las fotos, dijo.
Al mismo tiempo, sigue siendo vergonzosamente fácil para los reporteros identificar problemas de seguridad en la plataforma con un puñado de búsquedas simples. Aquí está Jeff Horwitz hoy en The Wall Street Journal:
Una revisión de fin de semana realizada por The Wall Street Journal sobre los sistemas actuales de aplicación y recomendación basados en inteligencia artificial de Instagram destacó los desafíos a los que se enfrenta su enfoque automatizado. Con el hashtag #preteen, Instagram recomendaba publicaciones etiquetadas como #preteenmodel y #preteenfeet, que presentaban a veces comentarios gráficos de lo que parecían ser usuarios masculinos adultos en imágenes de chicas jóvenes.
Instagram eliminó los dos últimos hashtags de su función de búsqueda después de las consultas del Journal y dijo que los comentarios inapropiados muestran por qué ha comenzado a bloquear las cuentas sospechosas de adultos para que no interactúen con menores. Dejando a un lado los hashtags problemáticos, lo más importante que está haciendo Instagram por la seguridad de los niños es dejar de fingir que los niños no usan su servicio. En demasiados servicios, esa vista sigue siendo la predeterminada, y ha creado puntos ciegos que tanto los niños como los depredadores pueden navegar con demasiada facilidad. Instagram ahora ha identificado algunos de estos y se ha comprometido públicamente a eliminarlos. Me encantaría ver que otras plataformas sigan su ejemplo aquí, y si no lo hacen, deberían estar preparadas para explicar por qué.
Por supuesto, también me gustaría que Instagram hiciera más. Si el primer paso para las plataformas es reconocer que tienen usuarios menores de edad, el segundo paso es crear protecciones adicionales para ellos, que van más allá de su seguridad física y emocional. Los estudios han demostrado, por ejemplo, que los adolescentes son más crédulos y propensos a creer historias falsas que los adultos, y pueden ser más propensos a difundir información errónea. (Esto podría explicar por qué TikTok se ha convertido en un hogar popular para teorías de la conspiración)
Suponiendo que ese sea el caso, una plataforma que fuera verdaderamente segura para los jóvenes también invertiría en la salud de su entorno de información. Como beneficio adicional, un entorno de información más saludable sería mejor para los adultos y también para nuestra democracia. "Cuando construyes para el eslabón más débil, o construyes para los más vulnerables, mejoras lo que estás construyendo para cada persona", me dijo Julie Cordua, directora ejecutiva de Thorn, en mayo. Al reconocer la realidad, y construir para el eslabón más débil, Instagram está dando un buen ejemplo para sus pares. Esperamos que sigan su ejemplo y vayan más allá.
