Breve introducción y definición de la tecnología deepfake
La capacidad de creación tecnológica es uno de los factores más importantes que ostenta el ser humano, la experiencia nos permitió conocer diversos casos vinculados a la falsificación de imágenes mediante la utilización de programas de edición con propósitos vinculados al entretenimiento y cine. Sin embargo, nunca se tuvo en mente que trascendería al campo de los vídeos debido a la complejidad que generaba sincronizar los movimientos con los fotogramas almacenados previamente. No obstante, en Star Wars y Han Solo se evidenció que Leia Organa, Obi-Wan y Harrison Ford lucían más jóvenes pese al pasar de los años, también se advirtieron situaciones en las que se reemplazó al personaje principal manteniendo el mismo rostro al que estaba acostumbrada la audiencia (SUPERFICCIÓN 2020).
Habiendo realizado un preámbulo sesudo, corresponde brindar una aproximación sobre el tema que nos convoca, la mejor forma de comprenderlo es extrayendo lo explicado por la (EUROPOL 2022) quien refirió que esta clase de tecnología posibilita la creación de contenido fílmico que expone de forma creíble a personajes de diferentes espacios coyunturales realizando actividades irreales. En contraste con lo anterior, (CERDÁN y PADILLA 2019) sostuvieron que se trata de un vídeo que intercala el rostro de un sujeto en el cuerpo de otro, esta tecnología suministra imágenes a los algoritmos para producir movimientos simétricos que inducen a error al espectador, tal y como se aprecia en el siguiente retrato.
Figura 1
Herramienta deepfake para la conversión de vídeos falsos en reales
Al haber revisado la imagen anterior, es importante precisar que la calidad y sofisticación consagrada en el vídeo proviene del Deep Learning, entendido como el aprendizaje automatizado que emplea a la inteligencia artificial para que los ordenadores mejoren instantáneamente una producción fílmica mediante el abastecimiento de datos que se obtienen mediante la aplicación de redes neuronales, esto último emula el funcionamiento de los cerebros humanos para aprender de forma efectiva (EUROPOL 2022).
Reflexión sobre el uso de esta tecnología para cometer delitos como el fraude del CEO o pornografía no consentida
El uso la tecnología analizada viabiliza la comisión de delitos desde diferentes perspectivas, en esta ocasión conviene centrarnos en el fraude del CEO y la pornografía. De un lado, sobre el primer fenómeno la EUROPOL (2018, p. 1) mencionó que «tiene como objetivo engañar a empleados que tienen acceso a los recursos económicos para que paguen una factura falsa o haga una transferencia desde la cuenta de la compañía».
Tabla 1
Modus operandi del fraude del CEO
| Etapas del ciberdelito de fraude a colaboradores |
| – El estafador realiza llamadas o envía correos electrónicos usurpando un cargo alto de la misma compañía a la que pertenece el empleado. |
| – Cuenta con conocimiento sobre el funcionamiento de la organización para dotar el fraude de mayor realismo. |
| – Ingenia un escenario que posibilita la emisión de una orden para la realización de un pago urgente. |
| – Exterioriza expresiones para generar la confianza de sus víctimas, entre las más resaltantes se ubica “la confidencialidad” y “la compañía confía en ti”. |
| – En el escenario creado por el ciberdelincuente hace referencia a una situación importante para la empresa como es el caso de la inspección fiscal. |
| – Intenta que se omita el conducto regular y los procedimientos preestablecidos por la organización. |
| – El empleado por cumplir aparentemente con los objetivos de la empresa procede a transferir fondos a la cuenta controlada por el estafador que se encuentra en el extranjero. |
Nota. Adecuado de «Fraude del CEO», EUROPOL, 2018, p. 1.
De otro lado, el segundo fenómeno relacionado al deepfake no consensuado según (AJDER, PATRINI, CAVALLI y CULLEN 2019) representó un 96 % del total de vídeos en línea durante el año 2019, también se reveló que fueron 4 las principales páginas web dedicadas a la pornografía, las cuales recibieron más de 134 millones de visitas en vídeos direccionados a una extensa lista de celebridades femeninas en todo en el mundo.
Figura 2
Nacionalidad y profesión de las 10 actrices atacadas por el deepfake
¿Cómo prevenir este tipo de delitos cometidos con tecnología deepfake?
Los delitos cometidos mediante la tecnología deepfake se encuentra en proceso de evolución, lo cual permite entender que ciertos aspectos pueden contribuir para detectar que estamos frente a un vídeo falso, entre ellos se encuentran los movimientos bruscos, los cambios de iluminación de un fotograma y en el tono de piel, la ausencia de parpadeo y la falta de sincronización de los labios al hablar (KASPERSKY 2022).
Teniendo claro lo anterior, corresponde situarnos desde un perfil preventivo para evitar convertirnos en víctimas, las empresas tecnológicas monumentales como Meta, Tik Tok, Reddit y YouTube empezaron a implementar políticas internas que prohibían las falsificaciones en sus plataformas. En esa línea, se dejó expresamente establecido que no se aplicarían para las sátiras y las parodias que usan dicha tecnología. Ahora bien, se tiene que operativizar medidas complementarias por parte de los usuarios para concientizar y evitar que en sus redes sociales se suministren imágenes en modo público.
Consejos para las víctimas y conclusiones
Es oportuno reseñar algunas exhortaciones que deben considerarse tanto para las víctimas de fraude del CEO, así como para la pornografía. En el primero supuesto, se tiene que identificar las señales que propicia el ciberdelincuente, entre las más resaltantes están las llamadas telefónicas o mensajes de correos electrónicos no solicitados, igualmente si se presenta la comunicación directa con un alto cargo con el que normalmente no estás en contacto, la presión y el carácter de urgencia, las amenazas y comentarios aduladores o promesas de recompensa. Observemos el siguiente organizador de información para obtener mayores alcances.
Tabla 2
Formas de accionar frente al fraude del CEO
| Empresa | Empleado |
| – Sé consciente de los riesgos y asegúrate de que los empleados estén también concienciados. |
– Respeta estrictamente el procedimiento de seguridad vigente para los pagos y las compras. No te saltes ningún paso y no cedas a la presión. |
| – Anima a tus equipos a ser precavidos cuando les soliciten un pago. | – Revisa siempre con cuidado las direcciones de correo cuando manejes información delicada o hagas transferencias. |
| – Implanta protocolos internos para los pagos. | – En caso de duda sobre una orden de transferencia, consulta a un compañero experto. |
| – Implanta un procedimiento para verificar la legitimidad de las solicitudes de pago recibidas por correo. Mejora y actualiza la seguridad de tus sistemas. | – No abras nunca enlaces o adjuntos sospechosos recibidos por correo. Ten especial cuidado al consultar tu correo personal en los ordenadores de la empresa. |
| – Establece procedimientos para gestionar el fraude. | – Limita la información y sé cauto en las redes sociales. |
| – Revisa el contenido del portal web de tu empresa, limita la información y sé cauteloso en las redes sociales. | – No compartas información sobre el organigrama, la seguridad y los procedimientos de tu compañía. |
Nota. Adecuado de «Fraude del CEO», EUROPOL, 2018, p. 1.
En el segundo supuesto, debemos precisar que el programa para descubrir presuntos casos de pornografía asociados al deepfake aún no existe, empero tenemos factores comunes que permiten distinguirlos, es así que ingresamos al campo de la resolución y calidad de los vídeos, los cuales muestran disociaciones gestuales entre lo que se dice y lo que hace, revisa detenidamente la imagen, afina el oído, contrasta que tenga coherencia y presta atención a la duración del vídeo.
Frente a este flagelo (DW ESPAÑOL 2020) aconseja que se tiene que tomar cartas sobre el asunto, aprovechando la experiencia de los casos reportados por las víctimas Emma Watson y Scarlett Johansson, en donde se editaron sus rostros para elaborar material de adultos. Asimismo, los riesgos no solo recaen en los adultos, sino que los menores también están expuestos al ciberacoso, la creación de contenido sexual falso y el abuso sexual de menores (INCIBE 2021).
Para (INCIBE 2021) la clave para disminuir la tasa de incurrencia está orientada a inculcar en los menores el pensamiento crítico que les permita discernir entre lo falso y lo real, apartándolos de grupos peligrosos que expanden contenido inapropiado. Sin duda, resulta adecuado poner en práctica las competencias digitales en alfabetización mediática que brinda herramientas para reconocer fake news, saber elegir en internet, conocer verdaderamente a los contactos en redes sociales y ampliar las perspectivas online.
Primera:
Los hallazgos demuestran en su conjunto que la tecnología deepfake afecta sectores de la sociedad que merecen especial protección como es el caso de los menores por su exposición a la explotación de la imagen en entornos de abuso sexual infantil y los colaboradores de grandes organizaciones por su implicancia con los fraudes del CEO.
Segunda:
Se puede concluir que, el deepfake se encuentra en proceso de sofisticación y con el avance de la tecnología coadyuvado por la inteligencia artificial llegará a un estadío incontrolable por las autoridades en donde no se reconocerá la falsedad o veracidad de un vídeo, lo cual repercutirá gravemente en los intereses penalmente protegidos de la sociedad.
Autor: Arturo Menacho Ortega
Abogado por la Universidad Privada del Norte, maestrando en Derecho con mención en Ciencias Penales por la Universidad Nacional Mayor de San Marcos, maestrando en Ciberdelincuencia por la Universidad Internacional de La Rioja – España.
Referencias
¿Qué son los deepfakes? Los trucos para detectar las falsificaciones de videos. DW ESPAÑOL, 9 de marzo de 2020. https://www.youtube.com/watch?v=ACVglWBYhQA
«Alfabetización mediática para proteger a los y las menores frente a los deepfakes». INCIBE. 22 de noviembre de 2021. Disponible en: https://www.is4k.es/blog/alfabetizacion-mediatica-para-proteger-los-y-las-menores-frente-los-deepfakes
AJDER, H., PATRINI, G., CAVALLI, F., y CULLEN, L. El estado de los deepfakes: panorama, amenazas e impacto. Deeptrace, 2019. https://sensity.ai/reports/
CERDÁN MARTÍNEZ, V., y PADILLA CASTILLO, G. «Historia del fake audiovisual: deepfake y la mujer en un imaginario falsificado y perverso». Ediciones Complutense. 2019, vol. 24, núm. 2, 505-520. https://doi.org/10.5209/hics.66293
DE JONG, B. (agosto de 2021). La imitación de voz de Freeman es hecha por el increíblemente talentoso Boet Schouwink [Imagen adjunta] [Publicar]. LinkedIn https://www.linkedin.com/feed/update/urn:li:activity:6823879575249010689/
EUROPOL. ¿Enfrentar la realidad? Aplicación de la ley y el desafío de las falsificaciones profundas. European Union Agency for Law Enforcement Cooperation, 2022. https://www.europol.europa.eu/publications-events/publications/facing-reality-law-enforcement-and-challenge-of-deepfakes
EUROPOL. Fraude del CEO. European Cybercrime Centre, 2018. https://www.europol.europa.eu/sites/default/files/documents/es_1.pdf
SUPERFICCIÓN. «Los Deepfake más fascinantes de Star Wars». SuperFiccion. 2 se setiembre de 2020. Disponible en: https://super-ficcion.com/2020/09/los-deepfake-mas-fascinantes-de-star-wars/#El_Deepfake
