Por Lic. Natalia Tomelín

Los deepfakes son videos, audios o imágenes creados mediante inteligencia artificial que manipulan contenido real para alterar su apariencia, voz o movimiento, logrando resultados extremadamente realistas. Estos videos son alterados mediante programas  para hacer que una persona diga algo que en realidad nunca dijo. 

Estas herramientas permiten, por ejemplo, poner palabras en la boca de una persona o cambiar completamente su rostro y cuerpo en un video, lo que las convierte en un arma poderosa para difundir información falsa, realizar fraudes o cometer actos de acoso y abuso, como el caso de imágenes íntimas creadas sin consentimiento.

Aunque los Deepfakes existen desde finales de 1990, recién en el 2017 cobraron interés, cuando un usuario de Reddit publicó material pornográfico falso con los rostros de varias actrices famosas y desató la polémica.

Algunas plataformas son tan simples de usar que lo único que requieren es la carga de un video y el ingreso del texto que se busca hacer que diga el protagonista de la "deepfake". 

La inteligencia artificial ha dado rienda suelta a la creación de contenidos de todo tipo, provocando que al ser ésta herramienta manipulada por manos equivocadas, pueda causar daños irreparables, especialmente en las escuelas, por lo que los expertos afirman que el acompañamiento de la familia y docentes para conscientizar será clave para hacer frente a esta modalidad. 

Los deepfakes de carácter sexual, por ejemplo, no solo agravan el acoso digital, sino que también generan un clima de inseguridad y vulnerabilidad, especialmente entre los adolescentes. 

Pero no sólo en el caso de los niños y/o adolescentes genera preocupación, sino también en el mundo de la política, sobretodo para difamar, desacreditar o perjudicar la imagen de algún funcionario. Haciendo un poco de historia,  un video de Patricia Bullrich fue manipulado para que parezca "borracha". Según la ministra, se trató del "primer #FakeNews de la Campaña 2019". 

Existen distintos tipos de deepfakes, pero dos se ha popularizado:

- Deepfaces:

Los Deepfaces son Deepfakes que consisten en crear imágenes convincentes, aunque completamente falsas, desde cero. Por medio del aprendizaje automático de la inteligencia artificial, se manipulan y generan nuevas imágenes o vídeos a partir de otros y se reemplaza a la persona que aparece en ellos.
El objetivo es generar diferentes imágenes estáticas para crear una secuencia de vídeo, de modo que, como objetivo final, se obtenga un vídeo falso que parezca 100% real.

- Deepvoices:
Este tipo de Deepfakes suplantan la voz de una persona en un audio, haciendo que parezca que la persona realmente algo que no dijo, ya que falsifican su voz real.

Riesgos de los deepfakes para los niños y adolescentes:

Su mal uso puede tener un gran impacto debido a su realismo. Entre los principales riesgos se encuentran:
    •  Ciberacoso: Se pueden crear contenidos hirientes y ofensivos para humillar o dañar la imagen de otra persona. La dificultad para distinguirlos de otros contenidos reales hace que pueda ser angustioso para la víctima, incluso generando sensación de vulnerabilidad.
      
    •  Desinformación y manipulación: Contribuyen a un engaño más creíble, reforzando y ampliando el impacto de las fake news. Los y las menores pueden ser especialmente vulnerables a la hora de identificarlas, pudiendo asumir falsas ideas o afirmaciones como verídicas. Del mismo modo, pueden llegar a contenidos inapropiados e incluso adentrarse en comunidades peligrosas.
      
    •  Creación de contenido sexual falso: También es habitual el uso de las imágenes de otras personas, no solo famosas, para la creación de vídeos sexuales con fines comerciales, como arma de chantaje y extorsión, o bien para dañar y atentar contra su honor.
      
    •  Abuso sexual de niños: Mediante la recolección de imágenes cotidianas de menores se pueden llegar a desnudar a las víctimas de forma digital e incluso crear deepfakes sexualmente explícitos, generando un tipo de material de abuso y explotación sexual contra niños, niñas y adolescentes creado por ordenador. Estas descripciones realistas de un menor participando en un acto sexual pueden dañar su bienestar y salud mental, perjudicar su imagen y reforzar la problemática del abuso y explotación sexual contra menores.
      
    •  Otros riesgos: Los deepfakes también pueden ser utilizados para realizar suplantaciones de identidad a la hora de llevar a cabo fraudes y estafas en la Red.

Otro impacto negativo, que advierten los especialistas en nuevas teologías, es que los Deepfakes pueden generar en la sociedad una ausencia absoluta de confianza, lo que termine ocasionando un gran desinterés a la hora de diferenciar entre los archivos verdaderos y los Deepfakes. 

La combinación de educación digital que puedan realizar los adultos responsables sumado al trabajo de docentes, políticas públicas eficaces, legislación, justicia y el compromiso de las plataformas digitales será esencial para detener esta práctica y proteger la salud mental sobretodo en niños y adolescentes.

Con datos de: LISA Institute | Madrid (España) / INCIBE instituto nacional de cerseguridad " Alfabetización mediatica" y medios periodísticos.