Explicado: ¿Qué son los deepfakes?

¿Qué son los deepfakes?

Los deepfakes sonfalsovídeos creados utilizando software digital, aprendizaje automático e intercambio de caras. Los deepfakes sonVídeos artificiales creados por computadora en los que se combinan imágenes para crear nuevas imágenes que representan eventos, declaraciones o acciones que en realidad nunca sucedieron.Los resultados pueden ser bastante convincentes. Los deepfakes se diferencian de otras formas de información falsa en que son muy difíciles de identificar como falsos.

algoritmo de cabina

¿Cómo funciona?

El concepto básico detrás de la tecnología es el reconocimiento facial, Los usuarios de Snapchat estarán familiarizados con las funciones de cambio de cara o filtros que aplican transformaciones o aumentan sus rasgos faciales. Los Deep Fakes son similares pero mucho más realistas. Se pueden crear videos falsos utilizando una técnica de aprendizaje automático llamada red generativa adversarial o GAN. Por ejemplo, una GAN puede mirar miles de fotos de Beyoncé y producir una nueva imagen que se aproxime a esas fotos sin ser una copia exacta de ninguna de ellas. GAN se puede utilizar para generar audio nuevo a partir de audio existente o texto nuevo a partir de texto existente; es una tecnología de usos múltiples. La tecnología utilizada para crear Deep Fakes está programada para mapear caras según puntos emblemáticos. Estas son características como las comisuras de los ojos y la boca, las fosas nasales y el contorno de la mandíbula.

Cuando ver ya no es creer

Si bien la tecnología utilizada para crear deepfakes es relativamente nueva, avanza rápidamente y cada vez es más difícil comprobar si un vídeo es real o no. Los avances en este tipo de tecnologías tienen implicaciones sociales, morales y políticas obvias. Ya existen problemas en torno a las fuentes de noticias y la credibilidad de las historias en línea; los deep fakes tienen el potencial de exacerbar el problema de la información falsa en línea o perturbar y socavar la credibilidad y la confianza en las noticias y la información en general.

El peligro potencial real de la información falsa y la tecnología deepfake es generar desconfianza o apatía en las personas sobre lo que vemos o escuchamos en línea. Si todo puede ser falso ¿significa eso que ya nada es real? Desde que tenemos fotografías y secuencias de vídeo y audio, nos han ayudado a aprender sobre nuestro pasado y han dado forma a nuestra forma de ver y conocer las cosas. Algunas personas ya cuestionan los hechos sobre eventos que sin duda sucedieron, como el Holocausto, el alunizaje y el 11 de septiembre, a pesar de las pruebas en video. Si los deepfakes hacen que la gente crea que no pueden confiar en los vídeos, los problemas de información falsa y teorías de conspiración podrían empeorar.

El analista de redes sociales Carl Miller y Nina Schick analizan el auge de los Deepfakes y lo que ella cree que es un inminente 'infocalipsis'.

Los videos falsos de Ted Talk de personas reales y cómo detectarlos también son una buena descripción general de la tecnología deepfake.

Las noticias falsas pueden generar recuerdos falsos

Una de las preocupaciones más comunes y los peligros potenciales de los deepfakes y la información falsa en general es el impacto que puede tener en los procesos democráticos y las elecciones.

Una encuesta reciente de la UCC confirmó que la gente recuerda más las noticias falsas que las reales. Los resultados de la encuesta indicaron que los votantes pueden formar recuerdos falsos después de ver noticias inventadas, especialmente si esas historias se alinean con sus creencias políticas, según un nuevo estudio. Los investigadores sugieren que los hallazgos indican cómo los votantes pueden verse influenciados en las próximas contiendas políticas, como la carrera presidencial estadounidense de 2020.

La autora del informe, la Dra. Gillian Murphy, añadió; Esto demuestra la facilidad con la que podemos plantar estos recuerdos totalmente inventados, a pesar de las sospechas de los votantes e incluso de una advertencia explícita de que pueden haberles mostrado noticias falsas.

Leer más sobre esto aquí .

Cómo detectar deepfakes

Como todo tipo de información que encontramos en línea, lo más importante que podemos hacer al decidir si los videos o imágenes en línea son auténticos y reales es utilizar el pensamiento crítico.

Necesitamos utilizar el pensamiento crítico y plantearnos preguntas clave como:

• ¿Quién y por qué alguien comparte este vídeo?
• ¿Quién o cuál es la fuente original?
• ¿Cuándo y dónde se tomó el video?
• ¿La persona en el video está diciendo algo que nunca esperarías que dijera?
• ¿El video promueve la agenda de otra persona? ¿Quién se beneficia de este vídeo?

Verificar información en línea

Con tanto acceso a la información, avances en la tecnología y la velocidad a la que las noticias y la información se difunden en línea, es cada vez más difícil verificar la información en línea. Las habilidades de pensamiento crítico son necesarias cuando se trata de verificar contenido en línea.

Ya sea que estés viendo un video, un meme fotográfico o un artículo, aquí tienes algunas consideraciones útiles de Primer borrador para verificar información en línea:

Procedencia: ¿Estás mirando la cuenta, el artículo o el contenido original?

Fuente: ¿Quién creó la cuenta o el artículo, o capturó el contenido original?

¿Qué es un sistema de archivos Linux?

Fecha: ¿Cuándo fue creado?

Ubicación: ¿Dónde se creó la cuenta, se creó el sitio web o se capturó el contenido?

Motivación: ¿Por qué se creó la cuenta, se creó el sitio web o se capturó el contenido?

Enlaces útiles:

Guía esencial del primer borrador para verificar información en línea