Twitter, Reddit y Pornhub han prohibido el “porno” creado con inteligencia artificial, pero el problema probablemente se trasladará ahora a otro rincón mucho más oscuro de Internet.

El intercambio de videos pornográficos de famosos intercambiados en Reddit ha sido prohibido dos meses después de que la gente empezara a crearlos. La medida de Reddit de prohibir el “porno involuntario” sigue los movimientos de otros sitios y servicios para prohibir el uso compartido y el alojamiento de dicho material.

En enero, el usuario de Reddit DeepFakesApp creó una aplicación, llamada FacesApp, que permitía a cualquier persona con conocimientos técnicos suficientes para reemplazar las caras de los actores en pornografía consensual con las de otras personas. Usando una máquina de aprendizaje bastante rudimentaria, la aplicación creó videos pornográficos falsos manipulando imágenes y videos de la cara de una persona y haciéndolos encajar en el material original.

Los vídeos creados con la aplicación se publicaron en el subreddit r/deepfakes. La mayoría de los videos colocaron a celebridades en videos pornográficos, pero algunas personas preguntaron si era posible colocar a un compañero o aplastar en los videos. La ley que rodea la creación de tales videos no está clara.

El grupo r/deepfakes comenzó en diciembre por un usuario de Reddit del mismo nombre. Antes de que Reddit eliminara la comunidad, más de 90.000 personas se habían suscrito a ella.

En una actualización a sus políticas de usuario, Reddit dijo que no permite “representaciones sexuales que han sido falsificadas” o “contenidos explícitos falsos o que solicitan pornografía” parecida “donde no se ha dado el consentimiento de los involucrados.

A pesar de albergar Deepfakes, Reddit no ha sido el primero en prohibirlos. Esta semana Twitter se movilizó para prohibir a un usuario llamado @mydeepfakes después de que los periodistas informaron al sitio web de su existencia. La plataforma, como otras, tiene políticas que prohíben compartir imágenes sexuales no consentidas.

Pornhub, el sitio web de pornografía más grande del mundo, prohibió los videos porque quedaron fuera de sus estándares aceptables. Ya había eliminado los vídeos que habían sido marcados por los usuarios. El primer sitio web que prohibió las creaciones de deepfakes fue Gfycat, una plataforma para compartir y alojar GIFs. Decía que los videos eran “objetables”.

Pero Reddit no se ha movido para prohibir la tecnología detrás de los videos sexuales falsos. Además de ser utilizados con fines explícitos, los usuarios también han estado creando videos falsos de Nicolas Cage y otras celebridades. Sólo tiene 5.000 miembros en el momento de escribir este artículo y en la parte superior de la página, debajo del enlace a la última descarga, hay un mensaje que dice:”/r/FakeApp tiene 0 tolerancia a la pornografía no consentida”.

“FakeApp fue creado para dar a la gente común y corriente acceso a la tecnología de intercambio de caras realistas para un uso creativo y exploratorio”, dice el post en deepfakeapp. Casi todos los artículos recientes en el subreddit están discutiendo los videos no consentidos que están siendo borrados.

Es probable que ahora Reddit haya eliminado los videos pornográficos y los haya trasladado a otra esquina más oscura de Internet. Ya hay por lo menos un sitio web que ha sido creado como un foro para discutir la tecnología y publicar videos de celebridades. Como escribió un usuario de Reddit:”Para contenido cuestionable, NECESITAS ir con proveedores de confianza. Voat, 4chan, 8ch, y lugares similares.”

Contenido extraído de: http://www.wired.co.uk/article/google-pixel-2-camera-visual-core.