Durante as férias do Dia Nacional deste ano, alguns usuários da internet usaram a tecnologia de IA para clonar a voz de Lei Jun, utilizando-a para criticar comportamentos incivilizados ou expressar descontentamentos em relação a outras pessoas. Alguns brincaram dizendo que foram “explorados pelo AI Lei Jun durante toda a férias”. Em resposta, Lei Jun publicou hoje um vídeo onde diz que realmente se sentiu bastante incomodado e desconfortável. Ele expressou seu desejo de que as pessoas parem de fazer isso, acreditando que isso não é bom, embora ainda considere que a tecnologia de IA seja realmente incrível e útil.

（）

Recentemente, participei de um teste relacionado a vídeos de IA, e os resultados me surpreenderam. Como criador de conteúdo especializado em IA, obtive apenas 60 pontos ao tentar discernir a autenticidade de dez vídeos. Para mim, foi bastante desafiador. Curiosamente, as pontuações dos meus amigos também variaram, e a mais alta foi de apenas 90 pontos. Essa experiência me fez perceber quão complexa a tecnologia de produção de vídeos por IA se tornou, dificultando a distinção entre um vídeo real e um vídeo falso.

Os perigos dos vídeos gerados por IA

Com a proliferação da tecnologia de IA, fraudes envolvendo vídeos falsificados têm surgido. Por exemplo, um homem aposentado de 82 anos foi enganado por uma empresa de câmbio que supostamente usava um "AI Elon Musk", perdendo 690 mil dólares de suas economias de toda a vida.

Esses incidentes não são raros na internet. No Bilibili, um criador de conteúdo usou tecnologia de sincronia labial de IA para enganar sua mãe, resultando em uma perda de 20 mil yuan.

Além disso, um vídeo de Biden que circulou na plataforma social X em julho também foi desmascarado como um falso gerado por IA. A revelação gerou reações de riso e lágrimas, mas os riscos de segurança subjacentes são significativos.

Estado atual da tecnologia de vídeo de IA

Atualmente, a barreira para criar vídeos de IA é praticamente inexistente. No ano passado, havia um ceticismo em relação à tecnologia de troca de rostos e sincronia labial, mas em apenas um ano, essas ferramentas se tornaram simples e eficazes. Usuários comuns podem facilmente gerar vídeos realistas fazendo o upload de um clipe simples em um aplicativo e adicionando locuções. Essa tendência é especialmente perceptível em plataformas de vídeos curtos como Douyin, onde uma variedade de conteúdos gerados por IA interessantes, mas questionáveis em termos de confiabilidade, está disponível.

Enquanto discutimos sobre vídeos gerados por IA, vale a pena mencionar que o XXAI está se preparando para uma atualização épica na próxima semana. Essa atualização reforçará as funções existentes e adicionará modelos populares de IA, como GPT-o1, perplexity, Grok e Gmini, permitindo que os usuários experimentem diversas capacidades de IA por apenas 9,9 dólares por mês, tornando a tecnologia avançada mais acessível a um maior número de pessoas.

Métodos para identificar vídeos de IA

Com a proliferação de vídeos falsificados, aprender a identificá-los tornou-se crucial. Acredito que existem dois métodos simples e práticos a serem lembrados:

Observe os lábios e os dentes

Imagine um ator fazendo uma apresentação de fantoches. Ao observar os lábios do boneco em um vídeo, pode-se notar que as bordas ao redor dos lábios podem estar borradas, às vezes acompanhadas por pequenas tremulações. Com a tecnologia de IA atual, o movimento dos lábios muitas vezes não pode ser perfeitamente sincronizado, especialmente na apresentação dos dentes, que frequentemente podem aparecer duplicados ou pouco naturais. Prestar atenção a esses detalhes geralmente pode ajudar a discernir melhor a autenticidade.

Observe a repetição de movimentos

Este método pode não ser muito útil para criadores de conteúdo que frequentemente atualizam seus vídeos, mas é eficaz para muitos avatares digitais 2D. Por exemplo, avatares de IA em entrevistas tendem a repetir apenas alguns movimentos fixos, muitas vezes exibindo gestos inadequados ou desvio de olhar. Ficar atento a esses sinais sutis pode nos ajudar a identificar conteúdos gerados por IA que não parecem naturais.

Conclusão

À medida que a tecnologia de vídeos gerados por IA amadurece, os problemas relacionados a vídeos falsificados continuarão a crescer nas redes sociais. As regulamentações atuais não estão acompanhando o desenvolvimento dessa tecnologia, criando um terreno fértil para indivíduos desonestos. Portanto, é crucial aumentar a compreensão do público sobre a tecnologia de IA, pois isso é fundamental para combater a desinformação. Cada um de nós tem a responsabilidade de aprimorar suas habilidades de identificação. Nesta era de mudanças rápidas, devemos permanecer atentos para reconhecer a verdade e não simplesmente aceitar informações superficiais. Proteger a nós mesmos e aos outros enquanto navegamos nessa tecnologia é, em última análise, uma verdadeira sabedoria.