Durante las vacaciones del Día Nacional de este año, algunos usuarios de Internet utilizaron la tecnología de IA para clonar la voz de Lei Jun, empleándola para criticar comportamientos incivilizados o expresar descontento hacia otros. Algunos bromearon diciendo que fueron "maldecidos por el AI Lei Jun durante toda la vacaciones". En respuesta, Lei Jun publicó hoy un video en el que dice que realmente le ha causado molestias y desagrado. Expresó su esperanza de que las personas dejen de hacer esto, ya que considera que este asunto no es bueno, aunque aún cree que la IA es una tecnología excelente y muy útil.

（）

Recientemente, participé en una prueba relacionada con videos de IA, y los resultados me sorprendieron. Como creador de contenido especializado en IA, solo obtuve 60 puntos al intentar discernir la autenticidad de diez videos. Para mí, fue bastante desafiante. Curiosamente, los puntajes de mis amigos también variaron, y el más alto fue de solo 90 puntos. Esta experiencia me hizo darme cuenta de cuán compleja se ha vuelto la tecnología de producción de videos de IA, lo que dificulta distinguir entre un video real y uno falso.

Los peligros de los videos de IA

Con la proliferación de la tecnología de IA, los fraudes con videos falsificados han salido a la luz. Por ejemplo, se informó que un anciano retirado de 82 años fue engañado por una compañía de divisas supuestamente respaldada por un "IA Elon Musk", perdiendo 690,000 dólares de sus ahorros de toda la vida. Estos incidentes son bastante comunes en línea.

Incluso, en Bilibili, un creador de contenido utilizó tecnología de sincronización labial de IA y logró engañar a su madre, causando una pérdida de 20,000 yuanes.

Además, un video de Biden que apareció en la plataforma social X en julio también fue desenmascarado como un AI falso. Aunque la revelación provocó reacciones de risa y llanto, los riesgos de seguridad subyacentes son significativos.

Estado actual de la tecnología de video de IA

Hoy en día, la barrera para crear videos de IA es prácticamente inexistente. El año pasado, había escepticismo respecto a la tecnología de intercambio de rostros y sincronización labial de IA, pero en solo un año, estas herramientas se han vuelto simples y eficaces. Los usuarios comunes pueden generar fácilmente videos de IA realistas subiendo un clip sencillo a una aplicación y añadiendo locuciones. Esta tendencia es especialmente evidente en plataformas de videos cortos como Douyin, donde abunda contenido AI interesante pero no necesariamente confiable.

Mientras discutimos los videos de IA, vale la pena mencionar que XXAI se prepara para una actualización épica la próxima semana. Esta actualización mejorará las funciones existentes y añadirá modelos de IA populares como GPT-o1, perplexity, Grok y Gmini, permitiendo a los usuarios experimentar diversas capacidades de IA por solo 9.9 dólares al mes, lo que hará que la tecnología avanzada sea más accesible para más personas.

Métodos para identificar videos de IA

Ante la proliferación de videos falsificados, aprender a identificarlos se ha vuelto crucial. Creo que hay dos métodos simples y prácticos que vale la pena compartir:

Observa los labios y los dientes

Imagina a un actor realizando un espectáculo de marionetas. Al observar los labios de la marioneta en una grabación, puedes notar que alrededor de los labios puede haber borrosidad, a veces acompañada de sutiles temblores. Con la tecnología de IA actual, los movimientos de la boca a menudo no pueden sincronizarse perfectamente, especialmente en la presentación de los dientes, que a menudo pueden aparecer duplicados o poco naturales. Prestar atención a estos detalles generalmente puede ayudarte a discernir mejor la autenticidad.

Observa si los movimientos se repiten

Este método puede no ser muy útil para los creadores de contenido que actualizan sus videos con frecuencia, pero para muchos avatares digitales en 2D, sí ofrece una vía efectiva de identificación. Por ejemplo, los avatares de IA en entrevistas a menudo solo pueden repetir un par de movimientos fijos, a veces mostrando gestos inapropiados o desviaciones en la mirada. Prestar atención a estos sutiles detalles puede ayudarnos a identificar contenido generado por IA que no sea natural.

Conclusión

A medida que la tecnología de video de IA madura, los problemas de videos falsificados seguirán aumentando en las redes sociales. El sistema legal actual no ha seguido el ritmo del desarrollo tecnológico, lo que permite a ciertos individuos actuar con impunidad. Por lo tanto, es crucial aumentar la comprensión y el conocimiento del público sobre la tecnología de IA, ya que es la clave para combatir la información engañosa. Cada uno de nosotros tiene la responsabilidad de mejorar nuestras habilidades de identificación. En esta era de rápidos cambios, mantengámonos alerta para reconocer la verdad y no simplemente aceptar información superficial. Protegernos a nosotros mismos y a los demás mientras bailamos con la tecnología es, en última instancia, la verdadera sabiduría.