Marcelo Moglione
En diciembre de 2017 un usuario llamado “DeepFakes” publicó videos pornográficos de celebridades famosas de Hollywood en el sitio web Reddit. Los videos eran falsos pero no podia distinguirse edición o manipulación alguna. “DeepFakes” generó esos videos utilizando un sistema de “aprendizaje profundo” (deep learning), lo último en Inteligencia Artificial, para insertar las caras de las celebridades que él eligió en películas para adultos.
Los videos que realizo “DeepFakes” eran tan realistas que en las semanas siguientes a la publicación, Internet explotó con artículos sobre los peligros de la tecnología de intercambio de caras. Según las notas que poblaron la web se podía acosar a inocentes, propagar noticias falsas y dañar la credibilidad de las pruebas de video para siempre.
¿Qué es DeepFakes y por qué es importante?
La tecnología que ahora se bautizó DeepFakes ofrece la capacidad de intercambiar una cara por otra en una imagen o un video. El intercambio de rostros se ha realizado en películas durante años, pero exigía que editores de video y expertos en gráficos por computadora dedicaran miles de horas para lograr resultados decentes.
El nuevo avance es que, utilizando técnicas de “aprendizaje profundo”, una rama de la IA (inteligencia Artificial) cualquiera con una poderosa computadoras y varios videos donde este la cara de quien quiere suplantar puede crear un clip falso que parece real.
Esto es tan notable que lo voy a repetir: cualquiera con cientos de imágenes de muestra, de la persona A y la persona B puede alimentarlas en un algoritmo y producir intercambios de caras de alta calidad; no se necesitan habilidades de edición de video.
Inteligencia Artificial en todos lados
La IA se convirtió en una palabra de moda en los últimos tiempos. Después de un largo período de decepciones, la IA está regresando gracias a avances recientes como el Deep Learning. Ahora, en lugar de tener que codificar la solución a un problema, es posible enseñarle a la computadora a resolver el problema por sí misma. Este enfoque de cambio de juego permite productos increíbles que hace unos años se hubieran considerado imposibles, como los asistentes controlados por voz como Amazon Echo y los autos sin conductor.
Si bien esto es parece genial, la IA también está poniendo sobre la mesa algunas herramientas impresionantes pero francamente aterradoras para manipular los medios. Estas herramientas tienen el poder de cambiar para siempre la forma en que percibimos y consumimos la información.
Por ejemplo, el año pasado, Adobe anunció VoCo, algo asi como un Photoshop para la voz. En pocas palabras, VoCo es una herramienta que utiliza inteligencia artificial para replicar voces humanas. Todo lo que necesita es alimentar el software con una grabación de audio de 20 minutos de duración de alguien hablando. La IA lo analizará y aprenderá cómo habla esa persona. Luego, simplemente escriba cualquier cosa, y la computadora leerá sus palabras en la voz de esa persona. Fundamentalmente, Adobe creó VoCo para ayudar a los editores de sonido a corregir fácilmente los errores de audio en películas. Sin embargo, como puede adivinar, el anuncio generó grandes preocupaciones sobre las posibles implicaciones de la tecnología, desde reducir la confianza en el periodismo hasta causar importantes amenazas a la seguridad.
Este no es el final. Como ya lo leyó antes, también podemos hacer con el video lo que hacemos con el audio.
Face2Face es otro programa que utiliza inteligencia artificial que puede realizar recreaciones de video en tiempo real. El proceso es más o menos el mismo que el de VoCo: alimentar el software con una grabación de video de alguien hablando, y aprenderá las formas sutiles en que la cara de la persona se mueve y opera. Luego, utilizando la tecnología de seguimiento de rostros, puede mapear su cara a la de esa persona, esencialmente obligándolos a hacer lo que quieras con un nivel de realismo extraordinario.
Combine VoCo y Face2Face, y obtiene algo muy poderoso: la capacidad de manipular un video para hacer que alguien diga exactamente lo que usted quiera de una manera casi indistinguible de la realidad.
En el video de abajo se puede ver y escuchar como Obama dice que Trump “es un perfecto idiota” (““President Trump is total and complete dipshit”). El video fue manipulado pero no puede distinguirse esa manipulación.
Un Photoshop para todo
Existieron días donde la gente solía decir que una foto no podia mentir. Gracias a la invención de la cámara fotográfica, fue posible, por primera vez, capturar la realidad tal como era. En consecuencia, no pasó mucho tiempo antes de que las fotos se convirtieran en las pruebas más confiables que se podían tener. Frases como “memoria fotográfica” son un testimonio de eso. De acuerdo, la gente ha estado históricamente manipulando fotos, pero esas ediciones fueron raras y requirieron el tedioso trabajo de expertos. Este ya no es el caso.
La generación actual sabe muy bien que la cámara miente todo el tiempo. Con la adopción generalizada de herramientas de edición de fotos como Photoshop, manipular y compartir fotos se ha convertido en uno de los hobbies favoritos de Internet. Al hacer tan fácil manipular fotos, estas herramientas también dificultan mucho más la tarea de diferenciar las fotos falsas de las reales. Hoy, cuando vemos una imagen que parece muy improbable, asumimos naturalmente que está retocada, aunque parece muy real.
Con la IA, nos dirigimos a un mundo donde este será el caso con cualquier otra forma de medios: texto, voz, video, etc. Para ser justos, las herramientas como VoCo y Face2Face no son del todo revolucionarias. Hollywood ha estado haciendo reemplazo de voz y cara por muchos años. Sin embargo, lo nuevo es que ya no necesita profesionales ni computadoras poderosas para hacerlo. Con estas nuevas herramientas, cualquiera podrá lograr los mismos resultados sin esfuerzo utilizando una computadora común.
Por ejemplo en el video que sigue se puede ver un intercambio de caras (FaceSwap) usando el mismo sistema que uso “DeepFakes” para poner las cara de famosos de Hollywood en películas porno. En este caso el Faceswap es solo una prueba de concepto entre la cara del presidente Macri en un discurso y el ex ministro de Economía Domingo Cavallo:
https://www.youtube.com/watch?v=cJMIcf42WiY
Es posible que VoCo y Face2Face no den los resultados más convincentes en este momento, pero la tecnología mejorará inevitablemente y, en algún momento, se comercializará. Esto podría tomar un año, o tal vez 10 años, pero es solo cuestión de tiempo antes de que cualquier adolescente enojado tenga en sus manos el software de inteligencia artificial que pueda manipular cualquier medio de manera que no se distinga del original.
Comentarios