Naar verluidt zal Apple nieuwe foto-identificatievoorzieningen aankondigen die gebruik zullen maken van hashing-algoritmen om de inhoud van foto's in de fotobibliotheken van gebruikers te vergelijken met bekend kindermisbruikmateriaal, zoals kinderpornografie.
Het systeem van Apple zal in naam van de privacy op de client - op het toestel van de gebruiker - gebeuren, zodat de iPhone een reeks vingerafdrukken zou downloaden die illegale inhoud vertegenwoordigen en vervolgens elke foto in de camerarol van de gebruiker aan de hand van die lijst zou controleren. Vermoedelijk zou elke overeenkomst vervolgens worden gerapporteerd voor menselijke controle. Apple heeft eerder gezegd dat het hashingtechnieken gebruikt wanneer foto's naar iCloud worden geüpload. Dit nieuwe systeem zou aan de client-zijde, op het toestel van de gebruiker, worden toegepast.
Apple moet dit nieuwe initiatief nog officieel aankondigen, en de details zullen er toe doen.
Op een hoog niveau lijkt zo'n systeem op de machine learning-functies voor object- en scène-identificatie die al aanwezig zijn in Apple Foto's. De analyse gebeurt op het toestel zelf, en gebruikers kunnen profiteren van een betere zoekfunctie. Cryptografie- en beveiligingsexpert Matthew Green merkt echter op dat de implicaties van een dergelijke uitrol gecompliceerd zijn. Hashing-algoritmes zijn niet waterdicht en kunnen vals-positieve resultaten opleveren. Als Apple toestaat dat overheden de database met vingerafdrukken controleren, kunnen ze het systeem misschien gebruiken om foto's van andere zaken dan duidelijk illegale kinderinhoud te detecteren, bijvoorbeeld om politiek activisme de kop in te drukken.
Merk echter op dat alle foto's die naar iCloud Foto's worden geüpload voor back-up en synchronisatie, sowieso niet end-to-encrypted worden opgeslagen. De foto's worden versleuteld opgeslagen op de server farms van Apple, maar de sleutels om ze te ontsleutelen zijn ook eigendom van Apple. Dit betekent dat rechtshandhavingsinstanties Apple kunnen dagvaarden en alle geüploade foto's van een gebruiker kunnen inzien. (Dit is niet ongebruikelijk, alle fotodiensten van derden werken op deze manier).
Het is mogelijk dat Apple in de toekomst soortgelijke systemen uitrolt om aan de client-zijde inhoud te scannen, die later op een server wordt opgeslagen op een end-to-end versleutelde manier. Veel overheden hebben gepleit voor zo'n systeem van E2E private messaging apps als iMessage en WhatsApp, omdat ze vrezen dat de toenemende verschuiving naar versleutelde communicatie het voor de rechtshandhaving moeilijker zal maken om gevallen van kindermisbruik op te sporen en te vervolgen. Green speculeert dat Apple niet in de ontwikkeling van dit systeem zou hebben geïnvesteerd als de toepassing ervan op end-to-end versleutelde inhoud geen langetermijndoelstelling was.
