cultura de noticias ¡Twitch finalmente está tomando medidas contra el uso de pornografía falsa!
Después del incidente que sacudió la web a fines de enero, la plataforma de transmisión en vivo Twitch decidió tomar un interés más serio en el problema de los deepfakes.
Reglas más estrictas para deepfakes en Twitch
En una publicación publicada ayer en su blog oficial, la plataforma de transmisión en vivo Twitch actualizó su política con respecto a falsificaciones profundas : montajes de audio y vídeo realizados de forma muy realista que suponen un gran reto en términos de desinformación pero también de explotación de la imagen. Twitch se refiere a él como imágenes sintéticas de explotación no consentida (NCEI). Si bien allí ya están prohibidos, la plataforma de Amazon indica que quiere «fortalecer su políticaa través de la modificación de dos de estas reglas durante el próximo mes:
- Estamos actualizando nuestra Política de abuso y explotación sexual de adultos para aclarar que promover, crear o compartir intencionalmente NCEI sintéticos puede resultar en una suspensión indefinida en la primera ofensa.
- Estamos actualizando nuestra política de desnudez de adultos para incluir NCEI sintéticos. Incluso si esta NCEI solo se muestra brevemente o, por ejemplo, para expresar su indignación o desaprobación del contenido, será eliminada y sujeta a una sanción.
Un «terrible problema al que se enfrentan los streamers»
Un endurecimiento de las reglas que viene después de un caso alrededor deepfakes sexualmente explícitos de serpentinas conocido como Pokimane o QTCinderlla. Durante un directo en el canal personal de Brandon Ewing (también conocido como atrioc), sus espectadores vieron una pestaña en su navegador de Internet que supuestamente conducía a un sitio conocido por vender imágenes falsas de serpentinas desnudas. Es en referencia a este caso que Twitch inicia su publicación en el blog y considera necesario reforzar su seguridad en este tema.
En enero, se transmitió en vivo en Twitch un breve incidente de «pornografía falsa». Este momento ha causado una inmensa angustia a las personas cuyas imágenes han sido utilizadas sin su consentimiento (…) La existencia de este contenido, y su presencia y difusión en varios sitios, constituye una violación personal y es más que preocupante. La pornografía deepfake no es un problema en Twitch, pero es un problema terrible que algunos streamers (casi exclusivamente mujeres) pueden enfrentar en Internet en general. Aunque tenemos el mayor control sobre lo que sucede en nuestro propio servicio, queremos ayudar a los streamers a protegerse o responder rápidamente a tales situaciones donde sea que ocurran.
Hay que reconocer que la inteligencia artificial ahora está en todas partes. Incluso su uso es en ocasiones aclamado por los profesionales, ya sea como una herramienta simple para los artistas pero también detrás de creación completa de una caricatura. Lo cierto es que las IA están lejos de haber terminado de hablar de ellas.
