Los deepfakes son contenidos generados con inteligencia artificial para crear secuencias falsas pero realistas. A nivel mundial existen miles de casos registrados y durante el último tiempo, en la Argentina, se denunciaron múltiples incidentes vinculados a videos con contenido pornográfico en escuelas de Córdoba, Chaco, Río Negro y la Provincia de Buenos Aires. Este delito viola los derechos de niños, niñas y adolescentes.

A pesar de que la IA puede ser utilizada como una gran herramienta en el ámbito educativo, el uso de esta tecnología para cometer ciberdelitos fue en aumento en los últimos años y mostró el vacío legal que hay en torno a este tema en Argentina, a pesar de que existen diversos proyectos legislativos en curso para penalizar estas conductas.

En una entrevista la abogada Florencia Zerda, especialista en género y cibercrimen y fundadora de Genti (organización que promueve el activismo contra la ciberviolencia de género) explicó que en el país no hay una figura del Código Penal que castigue este tipo de contenido y que por el momento, una de las vías legales ya existentes para estos casos es la Ley Olimpia, una normativa que incorpora el concepto de “violencia contra mujeres en entornos digitales” a la Ley 26.485, pero solo aplica a víctimas que son mujeres. En el caso de varones, “la víctima podría interponer una medida cautelar preventiva del derecho civil común para peticionar que se retire este contenido", indicó la especialista.

Actualmente, existen diversos proyectos de Ley presentados en el Congreso para penalizar estas conductas: la  “Ley Belén” que prevé penalizar específicamente la figura de los montajes con inteligencia artificial, dos proyectos que proponen incorporar al Código Penal penas de prisión de hasta 6 años y multas para quienes utilicen estas tecnologías; y una última presentada el 2 de diciembre, que busca incorporar 2 artículos al Código Penal para proteger a niños, niñas y adolescentes de la violencia digital. 

¿Cómo reconocer una deepfake?

El laboratorio dentro de la Escuela de Arquitectura y Planificación en el Instituto de Tecnología de Massachusetts, aconseja prestar atención a la cara, principalmente los ojos, las cejas, los anteojos y la iluminación, además de si la persona parpadea demasiado o muy poco, y observar la sincronización de la voz.

¿Cómo actuar en caso de difusión de imágenes íntimas, sean o no deepfakes?

- Resguardar la evidencia digital.

- Consultar con un perito informático o un escribano para que se constaten los mensajes o las publicaciones que se hayan hecho antes de instar una acción judicial.

- Denunciar, si quiere la víctima.

Para más asesoramiento, se puede acudir a la Línea 144 que brinda asistencia y orientación a las víctimas de violencia de género.

La Educación Sexual Integral (ESI) ayuda a prever y concientizar a niños, niñas y adolescentes sobre esta herramienta que genera consecuencias sociales y en la salud mental, tanto en las víctimas como en los agresores.