La problemática de los deepfakes y su regulación

PrintMailRate-it

​​​​​Publicado el 23.5.2024

​​​​​

Los deepfakes representan un desafío significativo en la era digital, especialmente en lo que respecta a la desinformación y la manipulación de la opinión pública. Podrían considerarse en sí mismos como el quinto poder, puesto que la capacidad de manipulación, en conjunto con los sistemas de su diseminación -tales como las redes sociales- pueden contribuir eficazmente a la distribución de desinformación. Desde el punto de vista de la regulación, abordar los problemas de los deepfakes implica una combinación de legislación, colaboración internacional, educación y tecnología.



​El Reglamento de Servicios Digitales dedica un apartado que invita a los prestadores de plataformas online y a los motores de búsquedas a aplicar medidas de reducción de riesgos razonables, proporcionadas y efectivas. En este sentido, el Reglamento de Servicios Digitales insiste en establecer una marca que claramente distinga contenido simulado creado por medios informáticos.

Por otro lado, el libro blanco de la Unión Europea sobre inteligencia artificial anima a crear un ecosistema de confianza respecto a las nuevas tecnologías. Así pues, en abril de 2021 la Comisión Europea presentó la primera propuesta de Reglamento sobre inteligencia artificial, que quedó aprobado finalmente hace pocos días, el martes 21 de mayo. Este Reglamento de IA obliga a determinados requisitos de transparencia aquellos sistemas que puedan generar contenido de riesgo de suplantación o falsificación de identidad.

En este sentido, el informe del Servicio de Estudios del Parlamento Europeo de 2021 propuso una serie de medidas para afrontar este tipo de engaños, entre las que se encuentra aprobar por parte de los Estados miembros la modificación de los códigos penales para cortar los efectos dañinos de estas tecnologías, crear etiquetado específico o prohibir la publicidad política empleando estas técnicas.

El debate es decidir si es crucial que existan leyes que prohíban la creación y distribución de deepfakes malintencionados o con la legislación actual es suficiente. La Federal Trade Commission está impulsando una normativa que regule y ponga coto a estos deepfakes, después de que un audio simulado de Joe Biden generase desconcierto en febrero de este año y parece acertado dedicar en exclusiva contornos legales claros para poder acabar con estas prácticas.

En el caso de China, incluso hubo un deepfake sobre la propia regulación de deepfakes. En este sentido, dada la naturaleza global de internet y las plataformas de redes sociales, es esencial una cooperación internacional para combatir los deepfakes. Esto podría incluir compartir mejores prácticas, tecnologías de detección y estrategias de respuesta ante incidentes de desinformación, pero las dificultades y entorno de tensión y beligerancia mundial actual podrían poner en jaque cualquier coordinación global o regional. 

El desarrollo y la implementación de tecnologías capaces de detectar deepfakes son fundamentales. Esto incluye el uso de tecnología para analizar videos y audios en busca de signos de manipulación. La colaboración entre gobiernos, la industria tecnológica y la academia pueden acelerar el desarrollo de estas tecnologías.

Una medida interesante puede ser también informar al público sobre la existencia y los riesgos de los deepfakes. Las campañas de educación pueden ayudar a identificar contenido falso y a verificar la información antes de compartirla. En este sentido, las buenas costumbres son más importantes que la Ley.

Las empresas y grandes corporaciones tecnológicas pueden minimizar los canales de comunicación susceptibles a ataques de deepfake y desarrollar planes de respuesta ante la desinformación, tratándola como brechas de seguridad. No olvidemos la estafa de 24 millones de euros que se llevó a cabo con esta tecnología a una empresa hongkonesa.  

En resumen, la regulación de los deepfakes requiere un enfoque multifacético que combine leyes claras, cooperación internacional, tecnología avanzada, educación pública y estrategias corporativas proactivas. Juntos, estos elementos pueden ayudar a mitigar los riesgos asociados con los deepfakes y proteger la integridad de la información o, al menos, tratar de hacerlo en un momento donde esta tecnología se encuentra en plena expansión.

Contacto

Contact Person Picture

Jorge Cabet

Abogado

Senior Associate

+34 915 359 977

Contactar

Deutschland Weltweit Search Menu