In mei schreef ik hier dat het kindveiligheidsprobleem op tech-platforms erger is dan we wisten.
Uit een verontrustende studie van de non-profitorganisatie Thorn bleek dat de meerderheid van de Amerikaanse kinderen al jaren apps gebruikt voordat dat de bedoeling is - en volledig een kwart van hen zei dat ze seksueel expliciete interacties met volwassenen hebben gehad.
Platforms moeten dus beter hun best doen om kindergebruikers van hun diensten te identificeren en hen te beschermen tegen misbruik dat ze daar kunnen aantreffen.
Instagram heeft nu een aantal veelbelovende stappen in die richting gezet. Gisteren zei het bedrijf dat het:
- Accounts standaard privé maakt voor kinderen van 16 jaar en jonger
- Accounts van tieners verbergen voor volwassenen die verdacht gedrag hebben vertoond, zoals herhaaldelijk geblokkeerd worden door andere kinderen
- Adverteerders verbieden om kinderen te benaderen met op interesses gebaseerde advertenties. (Er waren aanwijzingen dat advertenties voor roken, afvallen en gokken allemaal aan tieners werden getoond)
- AI-tools te ontwikkelen om te voorkomen dat minderjarigen zich aanmelden, bestaande accounts van kinderen onder de 13 te verwijderen en nieuwe methoden voor leeftijdsverificatie te ontwikkelen
Het bedrijf herhaalde ook zijn plan om een kinderversie van Instagram te maken, wat door ... veel mensen is veroordeeld.
Het is duidelijk dat een deel van dit valt in "wacht, deden ze dat niet al?" territorium. En de hand van Instagram is waarschijnlijk gedwongen door het groeiende onderzoek naar hoe kinderen worden gepest op de app, met name in het Verenigd Koninkrijk. Maar zoals uit het Thorn-rapport bleek, hebben de meeste platforms weinig gedaan om minderjarige gebruikers te identificeren of te verwijderen - het is technisch moeilijk werk, en je krijgt het gevoel dat sommige platforms het beter vinden als ze het niet weten.
Complimenten dus voor Instagram, dat de uitdaging serieus neemt en systemen bouwt om het aan te pakken. Hier is Olivia Solon van NBC News in gesprek met het hoofd openbaar beleid van Instagram, Karina Newton (geen relatie), over wat het bedrijf aan het bouwen is:
"Het begrijpen van de leeftijd van mensen op het internet is een complexe uitdaging," zei Newton. "Het verzamelen van de ID van mensen is niet het antwoord op het probleem, omdat het geen eerlijke, billijke oplossing is. Toegang hangt sterk af van waar je woont en hoe oud je bent. En mensen willen niet per se hun ID afstaan aan internetdiensten." Newton zei dat Instagram kunstmatige intelligentie gebruikt om leeftijd beter te begrijpen door te kijken naar op tekst gebaseerde signalen, zoals opmerkingen over de verjaardagen van gebruikers. De technologie probeert niet de leeftijd te bepalen door de gezichten van mensen op foto's te analyseren, zei ze.
Tegelijkertijd is het voor verslaggevers nog steeds beschamend eenvoudig om veiligheidsproblemen op het platform te identificeren met een handvol eenvoudige zoekopdrachten. Hier is Jeff Horwitz vandaag in The Wall Street Journal:
Een weekendoverzicht door The Wall Street Journal van Instagram's huidige AI-gedreven aanbevelings- en handhavingssystemen belichtte de uitdagingen waarmee de geautomatiseerde aanpak wordt geconfronteerd. Instagram raadde posts aan met de hashtag #preteen, #preteenmodel en #preteenfeet, die beide soms grafisch commentaar bevatten van wat volwassen mannelijke gebruikers leken te zijn op foto's met jonge meisjes.
Instagram verwijderde beide hashtags uit zijn zoekfunctie na vragen van de Journal en zei dat de ongepaste opmerkingen aantonen waarom het is begonnen met het blokkeren van verdachte volwassen accounts voor interactie met minderjarigen. Problematische hashtags daargelaten, het belangrijkste wat Instagram doet voor de veiligheid van kinderen is stoppen met te doen alsof kinderen hun dienst niet gebruiken. Bij te veel diensten is die opvatting nog steeds de standaard - en dat heeft blinde vlekken gecreëerd waar zowel kinderen als kinderlokkers te gemakkelijk doorheen kunnen navigeren. Instagram heeft nu een aantal van deze blinde vlekken geïdentificeerd en zich er publiekelijk toe verbonden ze te elimineren. Ik zou graag zien dat andere platforms dit voorbeeld volgen - en als ze dat niet doen, moeten ze bereid zijn uit te leggen waarom.
Natuurlijk zou ik ook graag zien dat Instagram meer doet. Als de eerste stap voor platforms is om te erkennen dat ze minderjarige gebruikers hebben, dan is de tweede stap om extra bescherming voor hen in te bouwen - bescherming die verder gaat dan hun fysieke en emotionele veiligheid. Uit onderzoek is bijvoorbeeld gebleken dat tieners geloofwaardiger zijn en eerder valse verhalen geloven dan volwassenen, en dat ze wellicht eerder geneigd zijn verkeerde informatie te verspreiden. (Dit zou kunnen verklaren waarom TikTok een populaire plaats is geworden voor samenzweringstheorieën).
Ervan uitgaande dat dit het geval is, zou een platform dat echt veilig is voor jongeren ook investeren in de gezondheid van zijn informatieomgeving. En als bonus zou een gezondere informatieomgeving ook beter zijn voor volwassenen en onze democratie. "Wanneer je bouwt voor de zwakste schakel, of voor de meest kwetsbaren, verbeter je wat je bouwt voor iedereen," vertelde Julie Cordua, CEO van Thorn, mij in mei. Door de realiteit te erkennen - en te bouwen voor de zwakste schakel - geeft Instagram het goede voorbeeld aan zijn collega's. Laten we hopen dat zij dit voorbeeld volgen - en nog verder gaan.
