El acoso deepfake llega a las escuelas de Nueva Zelanda

Es una nueva y aterradora forma de acoso en línea: falsificaciones pornográficas de estudiantes por parte de estudiantes, utilizando inteligencia artificial.

«Sí, soy consciente de que algunos de mis colegas han tenido que lidiar con este tipo de problemas recientemente, en los últimos quince días», dijo el presidente de la Asociación de Directores Secundarios, Vaughan Couillault.

Los deepfakes crean una imagen sexual de una persona haciendo o diciendo cosas que en realidad no dijo ni hizo.

La Asociación de Directores de Secundaria dijo que esto está sucediendo en Nueva Zelanda.

«Ha habido casos en ambos lados de Tasmania que afectaron a entre 50 y 60 niñas de escuelas secundarias o incluso a parte del personal, por lo que ciertamente está aumentando en cantidad», dijo Couillault.

El ministro de Justicia, Paul Goldsmith, dijo a Newshub que, en la mayoría de las circunstancias, los deepfakes pornográficos no consensuados son un delito según la Ley de Comunicaciones Digitales Dañinas. Sin embargo, los críticos dicen que la ley sólo cubre casos en los que la policía puede demostrar la intención de los delincuentes de causar un alto nivel de daño.

Makes Sense, una organización que aboga por un espacio digital más seguro para los niños, cree que la regulación de Nueva Zelanda sobre el contenido sexual dañino en línea es inadecuada.

«Estamos muy por detrás de otros países y en un problema grave como la explotación infantil… Es inaceptable», dijo Jo Robertson, cofundadora y terapeuta sexual de Makes Sense.

Pero el gobierno reveló una mejora significativa el martes.

«Me complace mucho anunciar que hemos llegado a un nuevo acuerdo con un proveedor del Reino Unido para aumentar la cantidad de material eliminado de Internet que sea material de abuso o explotación infantil», dijo la ministra del Interior, Brooke van Velden.

El nuevo acuerdo del gobierno hará que el número de URL bloqueadas aumente de alrededor de 700 a 30.000 por día. Está adoptando la Internet Watch Foundation, algo por lo que Makes Sense ha abogado durante mucho tiempo.

Sin embargo, esto no impedirá la creación de materiales como los deepfakes.

«La tecnología avanza extremadamente rápido. Espero centrar mis esfuerzos en esta actividad criminal, en lo peor de lo peor. Habrá más información con la que estoy seguro nuestro gobierno necesitará lidiar a medida que la tecnología avance rápidamente», dijo. Estoy abierto a tener esas conversaciones «, dijo van Velden.

La Asociación de Directores de Secundaria dijo que debemos enseñar a los estudiantes sobre los daños de los deepfakes no consensuados.

«La educación es siempre clave para que los estudiantes, aquellas personas que están haciendo cosas malas, comprendan el impacto que esto está teniendo en las víctimas», dijo Couillault.

Porque no se puede excluir el impacto.