En Córdoba, Argentina, un joven de 19 años utilizó inteligencia artificial para crear imágenes pornográficas falsas de 16 compañeras de escuela y difundirlas en sitios para adultos junto con sus nombres reales y enlaces a sus perfiles de Instagram. Ante la ausencia de una figura penal específica, las autoridades tuvieron que encuadrar el caso como lesiones graves agravadas por violencia de género; publica MILENIO.
Ese mismo año, en San Jerónimo Sud, una localidad de apenas tres mil habitantes en la provincia argentina de Santa Fe, un hombre fue acusado de generar y difundir imágenes sexuales falsas de alrededor de 80 mujeres de la comunidad. Las fotografías circularon en un grupo de Telegram.
Nuevamente, la justicia enfrentó dificultades para sancionar la conducta y tuvo que recurrir a figuras jurídicas distintas, como el delito de injurias.
Ambos casos exhibieron una realidad que avanza más rápido que las leyes: la capacidad de la inteligencia artificial para fabricar contenido sexual falso con apariencia realista y el vacío jurídico que existe en muchos lugares para proteger a las víctimas.
Una nueva forma de violencia digital contra la dignidad humana
Para Lucía Almaraz Cázares, coordinadora de la Red de Mujeres Académicas de Jalisco, la expansión de herramientas capaces de generar imágenes, audios y videos hiperrealistas ha dado origen a nuevas formas de violencia digital que trascienden el ámbito tecnológico y afectan directamente derechos fundamentales.
“Ya no estamos hablando únicamente de una manipulación tecnológica. Estamos frente a una afectación directa a derechos fundamentales como la dignidad humana, la intimidad, la identidad personal, el derecho a la propia imagen y la libertad sexual”, explicó.
La especialista señaló que los llamados deepfakes consisten en imágenes, audios o videos alterados o generados mediante inteligencia artificial para aparentar ser auténticos.
En muchos casos, estas herramientas son utilizadas para colocar el rostro o la voz de una persona en escenas de contenido sexual sin que exista consentimiento alguno.
Aunque las imágenes nunca hayan ocurrido en la realidad, el daño para quienes aparecen en ellas suele ser profundo.
“La intención es reconocer que el daño provocado por estos materiales puede ser tan grave como el ocasionado por la difusión de imágenes reales”, dijo.
Almaraz Cázares señaló que diversos estudios internacionales han documentado consecuencias como ansiedad, depresión, afectaciones psicológicas severas, pérdida de oportunidades laborales, estigmatización social y riesgos para la seguridad de las víctimas.
“Quienes son víctimas de este tipo de contenidos experimentan una invasión profunda a su identidad y a su autonomía corporal. Aunque las imágenes hayan sido creadas por algoritmos, existe una transgresión real a la dignidad humana”.
Cambio legislativo en Jalisco: la Ley Olimpia se actualiza
Frente a ese contexto, el Congreso de Jalisco aprobó una reforma al artículo 176-Bis.3 del Código Penal estatal, que ya entró en vigor tras su publicación en el Periódico Oficial del Estado de Jalisco.
La modificación, impulsada por el diputado de Hagamos, Itzcóatl Tonatiuh Bravo Padilla, incorpora expresamente el contenido sexual generado mediante inteligencia artificial dentro del delito de violación a la intimidad sexual y establece penas que van de uno a ocho años de prisión, además de multas superiores a los 234 mil pesos.
El delito será perseguido por demanda, por lo que será necesario que la víctima presente una denuncia para que las autoridades inicien una investigación.
La reforma es considerada una extensión de la llamada Ley Olimpia, conjunto de reformas impulsadas a nivel nacional para sancionar la difusión no consentida de contenido íntimo.
En Jalisco, esa protección ya se encontraba contemplada en el Código Penal, que castiga la difusión de imágenes, audios o videos sexuales reales, así como materiales manipulados o alterados; sin embargo, el avance tecnológico dejó al descubierto una laguna jurídica.
Los conceptos “manipulados” y “alterados” implican la existencia de un material previo que es modificado.
Un deepfake generado completamente desde cero mediante inteligencia artificial no altera un contenido original: lo sintetiza. Esa diferencia técnica abría la posibilidad de que quienes produjeran contenido sexual falso argumentaran que su conducta no encuadraba plenamente en el tipo penal vigente.
La reforma cierra esa brecha sin crear un delito nuevo, sino ampliando el alcance del ya existente para incorporar expresamente los materiales creados mediante inteligencia artificial.
Para Almaraz Cázares, la modificación representa una respuesta necesaria a una realidad tecnológica que no existía cuando se construyeron los primeros marcos normativos contra la violencia digital.
“Lo que ya está regulado es la difusión de contenido real. Lo que hace esta iniciativa es ampliar el panorama para incorporar una realidad tecnológica que hace algunos años simplemente no existía”.
El reto institucional: capacidades limitadas ante la IA
Aunque celebró la aprobación de la reforma, la también especialista en derechos humanos, Lucía Almaraz Cázares, advirtió que la legislación por sí sola no resolverá el problema. Uno de los principales desafíos será demostrar técnicamente que una imagen, audio o video fue generado mediante inteligencia artificial.
“La tecnología evoluciona mucho más rápido que las normas jurídicas y eso implica que ministerios públicos, peritos y operadores del sistema de justicia tendrán que actualizarse constantemente”, dijo.
Almaraz Cázares explicó que los casos relacionados con deepfakes requerirán análisis forenses digitales especializados para acreditar la manipulación tecnológica, lo que obligará a las instituciones encargadas de procurar justicia a desarrollar capacidades técnicas que actualmente son limitadas.
Agregó que la legislación debe enfocarse en conductas que produzcan daños concretos relacionados con la explotación sexual, la afectación a la intimidad o el uso no autorizado de la imagen de una persona.
“La regulación de estos contenidos es un primer paso para adecuar el derecho a un entorno profundamente tecnológico. El desafío será encontrar un equilibrio entre la innovación y la protección efectiva de los derechos fundamentales”, dijo.
No obstante, insistió en que la sanción penal debe entenderse únicamente como una parte de la solución:
“Las políticas públicas deben combinar la sanción con acciones de prevención, alfabetización digital, detección temprana de estos materiales y mecanismos ágiles para su eliminación”.
Obstáculos para las víctimas en el acceso a la justicia
Almaraz Cázares recordó además que muchas víctimas continúan enfrentando obstáculos para acceder a la justicia, incluso en delitos ya reconocidos por la legislación. Como ejemplo, mencionó que durante años algunas mujeres podían tardar entre ocho y 12 horas en presentar una denuncia en el Centro de Justicia para las Mujeres de Guadalajara.
Bajo ese contexto, advirtió que los casos relacionados con inteligencia artificial podrían enfrentar barreras adicionales debido a su complejidad técnica.
“Será necesario capacitar, sensibilizar y concientizar al personal de las fiscalías para que puedan recibir estas denuncias y darles seguimiento adecuado”.
Para la académica, el éxito de la reforma dependerá en buena medida de la capacidad institucional para implementarla.
“Es un avance importante, pero estamos ante un proceso de largo aliento. La legislación es necesaria, pero tendrá que acompañarse de políticas públicas integrales, educación digital y fortalecimiento institucional para que realmente pueda proteger a las víctimas”, señaló.
Avance tecnológico: los deepfakes ya son accesibles
Mientras el Congreso cerraba el vacío legal, la tecnología que hace posible los deepfakes continúa perfeccionándose. José Ángel Domínguez Ramírez, coordinador de la Licenciatura en Inteligencia Artificial y Ciencia de los Datos, de la Universidad de Guadalajara, advirtió que crear este tipo de contenidos ya no requiere conocimientos avanzados ni equipos especializados.
“Es muy fácil. De hecho, cualquier persona con un smartphone prácticamente puede realizarlas”.
El académico explicó que el término deepfake surge de la combinación de las palabras deep learning y fake: “Podemos decir que son datos generados a través de redes neuronales profundas falsos. En este caso, más que nada, son videos, imágenes y audio”.
Para producirlos, las plataformas de inteligencia artificial analizan fotografías, grabaciones de voz y videos de una persona con el objetivo de aprender sus características físicas, expresiones faciales, movimientos, tono de voz y formas de hablar.
Posteriormente, utilizan sistemas conocidos como Redes Generativas Antagónicas (GAN), donde una inteligencia artificial genera el contenido y otra lo evalúa constantemente para corregir errores y hacerlo cada vez más convincente.
“El mismo tipo de inteligencia artificial se va autorregulando y mejorando a sí misma. Entonces los resultados pueden ser muy realistas”.
Uno de los aspectos que más preocupa a los especialistas es que la tecnología ha reducido drásticamente la cantidad de información necesaria para producir una falsificación creíble: “Con una sola fotografía se pueden generar este tipo de videos”.
En el caso de los audios, la inteligencia artificial puede aprender tonos de voz, acentos, modismos y patrones de lenguaje para reproducirlos con gran precisión. Incluso, actualmente existen herramientas capaces de modificar rostros y voces en tiempo real durante una videollamada.
“Ya se pueden realizar en tiempo real. La persona puede estar haciendo una videollamada y las herramientas de inteligencia artificial modifican la cara y modifican la voz para que la persona que está recibiendo la videollamada vea otro rostro y otra voz”.
Gran parte de ese procesamiento se realiza mediante servicios de cómputo en la nube, por lo que ya no es necesario contar con equipos especializados.
A medida que los sistemas generativos mejoran, distinguir un contenido auténtico de uno fabricado se vuelve cada vez más complicado.
“Es muy difícil detectarlos. Sí hay tecnologías que logran hacerlo, pero no nos arrojan una certeza del 100 por ciento”.
Los algoritmos de detección funcionan mediante probabilidades y análisis técnicos, pero ninguno ofrece certeza absoluta.
Para la población, explicó el especialista, el sentido crítico continúa siendo una de las mejores herramientas de protección.
“Si nosotros vemos un video y notamos algo extraño, el parpadeo de los ojos, quizás cómo se mueve, pues eso nos puede dar certeza de que no se trata de un video real”, dijo el académico, quien también recomendó prestar atención a los audios sospechosos.
Más allá de los contenidos sexuales falsos, Domínguez Ramírez advirtió que los deepfakes también representan un riesgo creciente para la desinformación, el fraude y la suplantación de identidad.
Con la entrada en vigor de la reforma, Jalisco busca adelantarse a una amenaza tecnológica que crece con rapidez.
Sin embargo, especialistas coinciden en que el verdadero desafío apenas comienza: lograr que las instituciones tengan las herramientas necesarias para identificar estos delitos, investigar los casos y garantizar protección efectiva a las víctimas en una era donde lo falso puede parecer cada vez más real.
Foto portada: Especial
