Deskundigen roepen wetgevers op om mazen in de huidige wet op seksueel misbruik van kinderen te verwijderen
Wetgevers, technische experts slaan alarm over de potentiële gevaren van AI
Kara Frederick, technisch directeur bij de Heritage Foundation, bespreekt de noodzaak van regelgeving voor kunstmatige intelligentie terwijl wetgevers en tech-titanen de potentiële risico's bespreken.
Een internetwaakhond slaat alarm over de groeiende trend van zedendelinquenten die online samenwerken om open source kunstmatige intelligentie te gebruiken om materiaal over seksueel misbruik van kinderen te genereren.
"Er is een technische gemeenschap binnen de ruimte voor overtreders, met name op dark web fora, waar ze deze technologie bespreken," vertelde Dan Sexton, hoofd technologie bij de Internet Watch Foundation (IWF), vorige week in een rapport aan The Guardian. "Ze delen beeldmateriaal, ze delen [AI] modellen. Ze delen gidsen en tips."
De organisatie van Sexton heeft ontdekt dat daders zich steeds vaker wenden tot open source AI-modellen om illegaal kinderpornomateriaal (CSAM) te maken en online te verspreiden. In tegenstelling tot gesloten AI-modellen zoals OpenAI's Dall-E of Google's Imagen, kan open source AI-technologie gedownload en aangepast worden door gebruikers, aldus het rapport. Sexton zei dat de mogelijkheid om dergelijke technologie te gebruiken zich heeft verspreid onder daders, die het dark web gebruiken om realistische beelden te maken en te verspreiden.
Een internetwaakhond slaat alarm over de groeiende trend van zedendelinquenten die online samenwerken om open source kunstmatige intelligentie te gebruiken om kinderpornomateriaal te genereren. (Fox News / Bestand)
"De inhoud die we hebben gezien, wordt volgens ons gegenereerd met behulp van open source software, die is gedownload en lokaal op de computers van mensen is uitgevoerd en vervolgens is aangepast. En dat is een veel moeilijker probleem om op te lossen," zei Sexton. "Er wordt geleerd wat materiaal over seksueel misbruik van kinderen is, en er wordt geleerd hoe het gemaakt moet worden."
Sexton zei dat de online discussies die plaatsvinden op het dark web ook afbeeldingen van kinderen van beroemdheden en publiekelijk beschikbare afbeeldingen van kinderen bevatten. In sommige gevallen worden beelden van slachtoffers van kindermisbruik gebruikt om gloednieuwe inhoud te creëren.
"Al deze ideeën zijn zorgwekkend, en we hebben er discussies over gezien," zei Sexton.
Sexton zei dat de online discussies die op het dark web plaatsvinden, gaan over afbeeldingen van kinderen van beroemdheden en publiekelijk beschikbare afbeeldingen van kinderen. In sommige gevallen worden afbeeldingen van slachtoffers van kindermisbruik gebruikt om gloednieuwe inhoud te creëren.
Christopher Alexander, de chief analytics officer van Pioneer Development Group, vertelde Fox News Digital dat een van de nieuwe gevaren van deze technologie is dat het gebruikt zou kunnen worden om meer mensen kennis te laten maken met CSAM. Aan de andere kant zou AI gebruikt kunnen worden om het web af te speuren naar vermiste personen, waarbij zelfs gebruik wordt gemaakt van "leeftijdsverloop en andere factoren die kunnen helpen bij het opsporen van verhandelde kinderen"
"Dus, generatieve AI is een probleem, AI en machinaal leren is een hulpmiddel om het te bestrijden, zelfs door alleen maar detectie te doen," zei Alexander.
"De extreme gevaren die deze technologie met zich meebrengt, zullen enorme gevolgen hebben voor het welzijn van het internet. Waar deze bedrijven falen, moet het Congres agressief optreden om zowel kinderen als het internet als geheel te beschermen."
Jonathan D. Askonas, assistent-professor politiek en fellow bij het Center for the Study of Statesmanship aan de Katholieke Universiteit van Amerika, vertelde aan Fox News Digital dat "wetgevers nu moeten handelen om wetten tegen de productie, distributie en het bezit van op AI gebaseerde CSAM te versterken, en om mazen uit het vorige tijdperk te dichten."
IWF, dat het web doorzoekt op CSAM en helpt bij het coördineren van de verwijdering ervan, zou in het tijdperk van AI overweldigd kunnen worden door tips om dergelijke inhoud van het web te verwijderen, aldus Sexton, die opmerkte dat de verspreiding van dergelijk materiaal al wijdverspreid was op het web.
"Seksueel misbruik van kinderen online is volgens ons al een volksgezondheidsepidemie," zei Sexton volgens The Guardian. "Dus dit gaat het probleem niet beter maken. Het zal het mogelijk alleen maar erger maken."
Ziven Havens, de beleidsdirecteur van het Bull Moose Project, vertelde aan Fox News Digital dat het aan het Congres is om actie te ondernemen om zowel kinderen als het internet te beschermen.
Ziven Havens, de beleidsdirecteur van het Bull Moose Project, vertelde Fox News Digital dat het aan het Congres is om actie te ondernemen om zowel kinderen als het internet te beschermen. (Fox News Foto / Joshua Comins / Bestand)
"Door gebruik te maken van reeds beschikbare beelden van echte misbruikslachtoffers, verschilt AI CSAM maar heel weinig van niet door AI gecreëerde CSAM. Het is even moreel corrupt en walgelijk. De extreme gevaren die deze technologie met zich meebrengt zullen enorme gevolgen hebben voor het welzijn van het internet," aldus Havens. "Waar deze bedrijven falen, moet het Congres agressief optreden om zowel kinderen als het internet als geheel te beschermen."
