Ahora es delito generar y difundir contenido engañoso con IA en New Jersey

El gobernador demócrata Phil Murphy firmó el pasado miércoles una legislación que convierte la creación y difusión de los llamados medios engañosos deepfake en un delito sancionable con hasta cinco años de prisión, y establece una base para demandas contra los perpetradores.

Los deepfakes son videos, fotos o audios manipulados con inteligencia artificial, pueden reemplazar rostros, manipular expresiones faciales, el habla, hasta crear personas y eventos que no existen o que no sucedieron realmente. 

Se utilizan para engañar al público al difundir información falsa o propaganda. Por ejemplo, se pueden utilizar para hacer que un líder mundial o una celebridad diga algo que no han dicho. 

Esta actividad ahora es un delito en New Jersey y está sujeto a demandas bajo una nueva ley estatal. Al menos 20 estados han aprobado legislación similar que se dirige a dichos medios en relación con las elecciones.

La ley de New Jersey surge en parte de la historia de Francesca Mani, estudiante de Westfield High School, quien estuvo junto al gobernador mientras firmaba el proyecto de ley esta semana.

Mani dijo que se convirtió en víctima de un video deepfake hace dos años y le dijeron que el único castigo para la persona que lo creó fue una breve suspensión porque no había leyes contra tales medios.

“Ya no es una opción no hacer nada”, afirmó Mani, quien impulsó la legislación y fue reconocida por Time el año pasado como una activista contra los deepfakes.

Según una revisión del Centro Nacional para Niños Desaparecidos y Explotados, desde el año pasado, los gobernadores de más de una docena de estados han firmado leyes que reprimen las imágenes de abuso sexual infantil creadas o alteradas digitalmente.

La medida define un deepfake como cualquier video, grabación de audio o imagen que parezca a una persona razonable representar de manera realista a alguien haciendo algo que en realidad no hizo.

Además del tiempo en prisión tras la condena, la ley establece sanciones civiles que permitirían a las víctimas emprender demandas.