Oogreflecties onthullen deepfakes: nieuwe studie toont eenvoudige manier om nepvideo's te herkennen
AmsterdamNieuw onderzoek onthult dat het detecteren van deepfakes zo eenvoudig kan zijn als het controleren van de reflecties in iemands ogen. Dit kwam naar voren in een studie gepresenteerd tijdens de Nationale Astronomiebijeenkomst van de Royal Astronomical Society in Hull. Adejumoke Owolabi, een MSc-student aan de Universiteit van Hull, ontdekte dat de reflecties in menselijke ogen kunnen aangeven of een afbeelding echt is of door AI is gecreëerd.
Onderzoekers hebben ontdekt dat bij echte mensen de reflecties in beide ogen hetzelfde zijn, maar in deepfake video's vaak niet overeenkomen.
- Ze onderzochten de lichtweerkaatsingen in de ogen van mensen op zowel echte als AI-gegenereerde beelden.
- Ze gebruikten technieken uit de astronomie, die normaal worden ingezet om sterrenstelsels te bestuderen, om deze reflecties te analyseren.
- Ze kwantificeerden de reflecties en controleerden op consistentie tussen de weerkaatsingen in het linker en rechter oog.
Professor Kevin Pimbblet van de Universiteit van Hull legde uit dat de weerkaatsing van echte mensen consistent is, maar dat nepbeelden onnauwkeurige weerspiegelingen vertonen. Het team gebruikte CAS-analyse (controle van concentratie, asymmetrie en gladheid) en Gini-indices om deze weerspiegelingen te vergelijken.
In de astronomie meet de Gini-coëfficiënt hoe het licht in een afbeelding van een melkwegstelsel is verdeeld. Onderzoekers hebben dit concept gebruikt om reflecties in ogen te bestuderen. Een Gini-waarde van 0 betekent dat het licht gelijkmatig over alle pixels is verdeeld, terwijl een waarde van 1 aangeeft dat het licht op één pixel is geconcentreerd. Met deze methode konden zij echte en nepogen onderscheiden.
Professor Pimbblet merkte op dat de CAS-parameters, ontworpen om de lichtverdeling van sterrenstelsels te meten, niet effectief waren in het detecteren van nepogen.
Deze methode is niet perfect. Het kan fouten maken door iets nep te detecteren dat niet nep is, of door iets dat nep is te missen. Toch is het een nuttig hulpmiddel om deepfakes te identificeren. Uit de studie blijkt dat het een goed beginpunt is voor het ontwikkelen van betere detectiemethoden.
Daarom is het cruciaal om methoden te hebben om door AI gegenereerde nepbeelden te herkennen. Dit onderzoek biedt wetenschappelijke technieken om deze nepbeelden op te sporen, wat helpt om te voorkomen dat kwaadwillenden anderen misleiden met behulp van AI.
Deze nieuwe methode detecteert deepfakes effectief. Dit is een belangrijke vooruitgang, vooral omdat door AI gegenereerde beelden steeds realistischer worden.
Dit onderzoek helpt ons beter te begrijpen hoe we ons kunnen beschermen tegen deepfakes. Naarmate AI-technologie geavanceerder wordt, moeten onze detectiemethoden ook verbeteren. Deze studie is een stap in die richting.
De studie is hier gepubliceerd:
NaNen de officiële citatie - inclusief auteurs en tijdschrift - is
NaNVandaag · 20:14
Planten als biofabrieken voor energierijke supplementen
Vandaag · 16:08
Een nieuwe blik op het brein van fruitvliegen
Deel dit artikel