Jason Citron, CEO van Discord, zei donderdag dat hij berichten over kinderuitbuiting op het populaire chatplatform "afschuwelijk" vond en dat Discord de kwestie "zeer serieus" nam.
Zijn opmerkingen op Bloomberg's Tech Summit in San Francisco kwamen een dag nadat NBC News een onderzoek naar de kwestie had gepubliceerd.
"Als ouder is het verschrikkelijk." zei Citron in antwoord op vragen van Bloomberg-journalist Emily Chang. "We nemen dit heel serieus."
Citron merkte op dat Discord een speciaal kinderveiligheidsteam in dienst heeft dat uitbuiting op het platform probeert te voorkomen "op een manier die de privacy respecteert van alle mensen die deze dingen niet doen."
Uit het onderzoek bleek dat sinds de oprichting van het platform in 2015, ten minste 35 kinderontvoering, kinderlokkerij of uitbuiting vervolgingen communicatie via Discord betroffen, en 165 kindermisbruik materiaal vervolgingen betroffen het platform. Daarnaast identificeerde NBC News honderden actieve Discord-servers die kinderuitbuiting promoten.
"Wat we zien is slechts het topje van de ijsberg," zei Stephen Sauer, de directeur van de tiplijn bij het Canadese Centrum voor Kinderbescherming.
Net als veel andere social media bedrijven scant Discord geüploade afbeeldingen en video's en vergelijkt deze met een bekende database van kinderpornomateriaal, maar het laat de meeste andere moderatie over aan de gemeenschappen zelf. Discord heeft duidelijk aangegeven dat het niet proactief de meeste berichten scant die in zijn gemeenschappen worden geplaatst.
Citron zei dat kunstmatige intelligentie sommige problemen rond kinderuitbuiting zou kunnen oplossen. "Een van de uitdagingen die alle mensen in onze branche denk ik hebben is dat er zoveel dingen op grote schaal gebeuren op het platform en dat het zo moeilijk is om dingen te identificeren," zei hij.
John Redgrave, vicepresident van vertrouwen en veiligheid bij Discord, vertelde NBC News dat het bedrijf samenwerkt met THORN, een bedrijf dat zich toelegt op het bouwen van technologische oplossingen om kinderuitbuiting te detecteren en te voorkomen, aan een model dat groominggedrag kan detecteren.
AI is echter ook bekritiseerd voor het mogelijk verergeren van kinderveiligheidsproblemen.
Deze maand waarschuwde de FBI dat volwassenen AI gebruiken om gemanipuleerde afbeeldingen van kinderen te genereren met als doel sextortion, waarbij minderjarigen met de afbeeldingen worden gechanteerd voor nog meer seksuele inhoud of geld.
