decrypt.co
Midjourney, la empresa que está detrás del popular generador de texto a imagen con inteligencia artificial, ha cerrado el acceso a la versión de prueba gratuita de su IA tras el aumento de falsificaciones virales generadas por su tecnología.
"Debido a una combinación de demanda extraordinaria y abuso de la versión de prueba, estamos desactivando temporalmente las pruebas gratuitas hasta que implementemos las próximas mejoras del sistema", escribió el fundador de Midjourney, David Holz, en el servidor Discord de la empresa a principios de esta semana.
Un "deep fake" es un producto audiovisual de apariencia realista creado por inteligencia artificial mediante la alteración de imágenes, vídeos o audio para mostrar a personas reales haciendo o diciendo cosas que nunca hicieron. Aunque los "deep fakes" pueden utilizarse como diversión y entretenimiento, la tecnología también puede difundir información falsa, influir en opiniones o dañar reputaciones.
Something wild is happening on the Midjourney subreddit.
People are telling stories and sharing photos of historic events - like the “Great Cascadia” earthquake that devastated Oregon in 2001.
The kicker? It never happened. The images are AI-generated. pic.twitter.com/2ziHJYsTDK
— Justine Moore (@venturetwins) March 26, 2023
A principios de esta semana, unas fotos del Papa Francisco con una elegante chaqueta blanca y un collar con diamantes incrustados recorrieron la red. La semana pasada, cuando los principales sitios de noticias informaban de que el expresidente de Estados Unidos Donald Trump estaba a punto de ser detenido en Nueva York, se hizo viral una serie de fotos que parecían mostrar al expresidente perseguido por la policía. En ambos casos, las imágenes parecían incluso más creíbles que falsificaciones similares creadas por expertos con Photoshop.
Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ
— Eliot Higgins (@EliotHiggins) March 20, 2023
Muchos sitios de IA generativa, como Midjourney y Playground AI, ya han establecido restricciones a las indicaciones que incluyan contenido sexual. Sin embargo, la cuestión de qué es un uso aceptable en lo que respecta a las falsificaciones profundas sigue siendo objeto de debate, ya que todos estos sitios fabrican fotografías que no son reales.
Los planes de suscripción de Midjourney oscilan entre los 10 y los 60 dólares mensuales, en función de la potencia de procesamiento y las prestaciones que requiera el usuario, incluida la posibilidad de ejecutar trabajos simultáneos. La plataforma también ofrece planes de suscripción anual.
No está claro cómo resolverá el problema el cierre de su nivel gratuito. Las condiciones de servicio de Midjourney ya prohíben las imágenes ofensivas de famosos o personajes públicos.
The topic of the modern Pope generated by AI (#midjourney) is getting out of hand for us 😂
💬 Prompts in ALT pic.twitter.com/9hJyQP369E
— Javi Lopez ⛩️ (@javilopen) March 28, 2023
Decrypt se ha puesto en contacto con Midjourney y Stability AI, los creadores de Stable Diffusion, para hacer comentarios, pero aún no ha recibido respuesta.