Redan idag utsätts miljontals barn för sexuella övergrepp när deras bilder manipuleras. Detta menar FN:s barnrättsorgan UNICEF.
Cirka 1,2 miljoner barn i 11 länder uppskattas ha fått sina bilder manipulerade till sexuellt explicita deepfakes under det senaste året. Detta skriver FN:s barnrättsorgan UNICEF i ett uttalande som tillsammans med barnsrättsorganisationen ECPAT samt den internationella polisorganisationen INTERPOL undersöker de hur teknologi används i exploatering av barn.
Så kallade deepfakes, bilder, videor eller ljud som skapats eller förändrats med hjälp av artificiell intelligens för att framstå som verkliga, används i allt större utsträckning i detta syfte. I så kallad ”nudification” används generativa AI-verktyg för att ta bort eller förändra kläderna på en person på bild eller video.
– Deepfake-övergrepp är övergrepp, och det finns inget falskt i den skada de orsakar, skriver UNICEF.
Regelverken hänger inte med i den snabba spridningen av generativ AI, vilket gör att barn riskerar att stå utan tillräckligt skydd, menar organisationen. De efterfrågar bland annat stärkta säkerhetsåtgärder hos teknikföretag och plattformar för skydda barn för AI-övergrepp.
Är det något i texten som inte stämmer? Kontakta oss på opinion@fuf.se
