Immagini di abusi sui minori generate da AI: azione urgente della polizia

RomeLe immagini di abusi sessuali su minori generate dall'IA stanno diventando un problema serio, e le forze dell'ordine devono rapidamente adattarsi per affrontare queste nuove sfide. Il Dipartimento di Giustizia ha intrapreso un'azione avviando il suo primo caso federale incentrato esclusivamente su immagini generate dall'IA. Questo è un passo importante, poiché i bambini mostrati in queste immagini non sono reali ma virtuali. Molti stati stanno anche cercando di approvare leggi per affrontare e prevenire la diffusione di queste immagini create o modificate digitalmente.

Le preoccupazioni principali che alimentano questi sforzi includono:

Difficoltà nel distinguere le vere vittime da quelle virtuali, il che può deviare risorse preziose dalle indagini sui casi reali di abuso sui minori. La possibilità che le immagini generate dall'IA vengano utilizzate per adescare ed abusare dei bambini. L'impatto emotivo e psicologico sui bambini le cui immagini reali vengono alterate per apparire esplicite.

Le forze dell'ordine stanno cercando di tenere il passo con le rapide innovazioni tecnologiche. Affrontano due grandi sfide: fermare la diffusione di contenuti dannosi e aggiornare le loro strategie per superare la tecnologia utilizzata dai criminali. Sono preoccupati perché devono riuscire a catturare e accusare i colpevoli, ma le leggi attuali non sono ancora state adeguate per le nuove tecnologie.

Leggi anche:

Ieri · 15:27

Gli Stati Uniti dominano l'innovazione AI, la Cina insegue nel ranking di Stanford

Modelli di intelligenza artificiale open source, modificabili e utilizzabili da chiunque, aggravano il problema. Questi strumenti gratuiti possono essere impiegati per manipolare immagini di minori, alimentando un mercato illegale di tali contenuti nel dark web. Il pericolo non si limita alle alterazioni digitali; le immagini generate dall'intelligenza artificiale contribuiscono anche a sostenere una cultura negativa in cui l'abuso si verifica e si diffonde, impattando profondamente le vittime.

Aziende tecnologiche come Google, OpenAI e Stability AI stanno collaborando con gruppi come Thorn per fermare le immagini di abusi sessuali su minori. L'obiettivo è rendere più sicuri i futuri strumenti di intelligenza artificiale aggiungendo migliori funzionalità di sicurezza. Tuttavia, alcuni esperti sostengono che queste misure arrivano troppo tardi. In passato, l'obiettivo principale era far funzionare gli strumenti di intelligenza artificiale più velocemente piuttosto che in modo più sicuro, permettendo così agli strumenti più datati di generare immagini dannose senza essere rilevati.

Affrontiamo nuovi problemi che richiedono uno sforzo congiunto tra legislatori, aziende tecnologiche e forze dell'ordine. È essenziale migliorare le leggi e le tecnologie per affrontare queste sfide e proteggere le persone dall'essere ingannate, soprattutto ora che le immagini possono essere falsificate in modo estremamente realistico.