Durante le vacanze del Giorno Nazionale di quest'anno, alcuni utenti di Internet hanno utilizzato la tecnologia dell'IA per clonare la voce di Lei Jun, facendola pronunciare frasi critiche su comportamenti scortesi o esprimendo malcontento nei confronti di altri. Alcuni hanno scherzato dicendo che sono stati "inseguiti dall'IA Lei Jun per tutta la durata delle vacanze". In risposta, Lei Jun ha pubblicato oggi un video in cui dichiara di sentirsi abbastanza turbato e a disagio. Sperava che le persone smettessero di farlo, ritenendo che non sia una cosa buona, pur considerando che la tecnologia IA è davvero impressionante e utile.

（）

Di recente ho partecipato a un test riguardante i video generati dall'IA, e i risultati mi hanno sorpreso. Come creatore di contenuti specializzato nell'IA, ho ottenuto solo 60 punti nel tentativo di discernere l'autenticità di dieci video. È stato molto difficile per me. È interessante notare che i punteggi dei miei amici variavano anch'essi, con il migliore che raggiungeva solo 90 punti. Questa esperienza mi ha fatto rendere conto di quanto sia complessa la tecnologia di produzione video tramite IA, rendendo difficile distinguere tra un video reale e uno fasullo.

I pericoli dei video generati dall'IA

Con la proliferazione della tecnologia dell'IA, stanno aumentando anche le truffe basate su video falsificati. Ad esempio, un uomo pensionato di 82 anni è stato ingannato da una presunta azienda di cambio valuta che utilizzava un "AI Elon Musk", perdendo così 690.000 dollari dei suoi risparmi di una vita.

Questi incidenti non sono rari su Internet. Inoltre, su Bilibili, un creatore ha utilizzato tecnologia di sincronizzazione labiale tramite IA per ingannare sua madre, provocando una perdita di 20.000 yuan.

Inoltre, un video di Biden che ha circolato sulla piattaforma sociale X a luglio è stato rivelato come falso generato dall'IA. Quando è stato svelato, ha suscitato risate e lacrime, ma i rimanenti rischi per la sicurezza sono preoccupanti.

Stato attuale della tecnologia video IA

Oggi, la barriera per creare video tramite IA è praticamente inesistente. L'anno scorso, c'era scetticismo riguardo alla tecnologia di scambio di volti e di sincronizzazione labiale, ma in un anno, questi strumenti sono diventati semplici ed efficaci. Gli utenti comuni possono facilmente generare video realistici caricando un semplice clip su un'app e aggiungendo doppiaggio. Questa tendenza è particolarmente evidente su piattaforme di video brevi come Douyin, dove abbondano contenuti interessanti ma spesso poco affidabili generati dall'IA.

Mentre discutiamo dei video generati dall'IA, è importante menzionare che XXAI sta preparando un aggiornamento epico per la prossima settimana. Questo aggiornamento migliorerà le funzioni esistenti e aggiungerà modelli IA popolari come GPT-o1, perplexity, Grok e Gmini, consentendo agli utenti di scoprire diverse capacità dell'IA per soli 9,9 dollari al mese, rendendo così questa tecnologia avanzata più accessibile a un numero maggiore di persone.

Metodi per identificare i video IA

Mentre i video falsificati si diffondono, imparare a identificarli diventa urgente. Penso che ci siano due metodi semplici e pratici da ricordare:

Osserva le labbra e i denti

Immagina un attore che interpreta una marionetta. Osservando le labbra della marionetta in un video, puoi notare che i contorni attorno alle labbra sono sfocati, sebbene possa anche esserci un tremolio sottile. Con la tecnologia IA attuale, il movimento delle labbra non può spesso essere perfettamente sincronizzato, in particolare nella rappresentazione dei denti, che possono apparire duplicati o innaturali. Prestare attenzione a questi dettagli permette generalmente di migliorare la capacità di discernere l'autenticità.

Osserva la ripetizione dei movimenti

Questo metodo potrebbe non essere molto utile per i creatori di contenuti che aggiornano frequentemente i loro video, ma può essere efficace per molti avatar digitali 2D. Ad esempio, gli avatar IA in interviste tendono spesso a ripetere solo alcuni movimenti fissi, a volte mostrando gesti inappropriati o sguardi deviati. Prestare attenzione a questi segnali sottili potrebbe aiutarci a identificare contenuti generati dall'IA che sembrano artificiali.

Conclusione

Man mano che la tecnologia dei video generati dall'IA matura, i problemi legati ai video falsificati continueranno a crescere sui social media. Le normative attuali non riescono a tenere il passo con l'evoluzione rapida di questa tecnologia, creando un terreno fertile per individui disonesti. Diventa quindi cruciale approfondire la comprensione del pubblico sulla tecnologia dell'IA, poiché ciò è essenziale per combattere la disinformazione. Ognuno di noi ha la responsabilità di migliorare le proprie capacità di identificazione. In quest'era di rapidi cambiamenti, rimaniamo vigili per riconoscere la verità e non accettare semplicemente informazioni superficiali. Proteggere noi stessi e gli altri mentre navigiamo in questa tecnologia costituisce, in definitiva, una vera saggezza.