O Midjournei, que é um dos mais famosos geradores de imagens por inteligência artificial, interrompeu os testes gratuitos por conta do abuso de usuários. O CEO e fundador do serviço, David Holz, anunciou a mudança essa semana.
Segundo ele, essa decisão se deu por conta de “demanda extraordinária e abuso de julgamento”, via mensagem no Discord. Ele também respondeu o portal The Verge e detalhou a pausa nos testes do Midjourney, dizendo que foi “por causa de uma grande quantidade de pessoas fazendo contas descartáveis para obter imagens gratuitas” , “Achamos que o culpado provavelmente foi um vídeo de instruções viral na China” , “Isso aconteceu ao mesmo tempo que uma escassez temporária de GPU. As duas coisas se juntaram e estavam derrubando o serviço para usuários pagos.”.
Recentemente as imagens criadas com inteligência artificial no Midjourney ganharam muita repercussão por conter pessoas conhecidas, como Donald Trump e o Papa Francisco. No caso do ex-presidente dos Estados Unidos, as imagens davam a entender que ele estava sendo preso pela polícia. Já no caso do Papa Francisco, as imagens do pontífice o mostravam com trajes descolados e muito diferentes do usual.
Uma das imagens falsas geradas pelo Midjourney com Donald Trump, ex-presidente dos Estados Unidos que viralizaram semana passada. As deeps fakes, como são conhecidas imagens falsas que usam pessoas reais, causam preocupação. Dependendo do contexto, elas podem confundir muito a população em assuntos importantes. Imagem: Perfil no Twitter do repórter Eliot Higgins
Uma das imagens falsas criadas com Midjourney onde o Papa Francisco aparece com casaco. Imagem: Pablo Xavier
Essas imagens falsas contendo Donald Trump e o Papa Francisco, também conhecidas como deep fakes, viralizaram porque muitas pessoas acreditaram se tratar de imagens originais, sem manipulação. Por conta disso, inicialmente foi entendido que o abuso citado por Holz seria relacionado a isso.
Logo o CEO do Midjourney se retratou sobre o primeiro comunicado e disse que houve um mal entendido. Ele ainda informou que as imagens feitas com uso de IA que viralizaram certamente foram criadas por usuários pagantes, pois os testes grátis não dão acesso a versão 5 da plataforma, que é capaz de criar imagens tão realistas.
Sobre a criação de deep fakes, que é pauta em muitas discussões de como as imagens falsas realistas podem influenciar muitas pessoas negativamente, principalmente no âmbito político, Holz disse que “A moderação é difícil e em breve enviaremos sistemas aprimorados. Estamos recebendo muitos comentários e ideias de especialistas e da comunidade e estamos tentando ser realmente atenciosos”.
O Midjourney tem um sistema de moderação da criação de imagens com pessoas conhecidas brando, porém Holz afirma que a plataforma mantém uma lista com expressões proibidas para alguns países, que é feita conforme a reclamação de usuários locais. Segundo ele, a maioria dos usuários não é afetado por essas listas, que é percebida quando alguém tenta “criar drama”.
De toda forma, pelo menos as imagens de Donald Trump parecem ter influenciado na lista de banimentos de expressões. Pouco tempo após o ocorrido, o termo “preso” foi banido em algumas localidades, com suas traduções locais. Além disso, o jornalista Eliot Higgins, que iniciou a divulgação das imagens falsas de Donald Trump sendo preso, foi banido do Midjourney.
Sobre a volta dos testes gratuitos no serviço, Holz disse que “Ainda estamos tentando descobrir como trazer de volta as avaliações gratuitas, tentamos exigir um e-mail ativo, mas isso não foi suficiente, então estamos de volta à prancheta”.
Sou apaixonado pela tecnologia e acompanho de perto as grandes transformações dos computadores, smartphones e demais aparelhos inteligentes. Por isso, estou sempre atrás das novidades na área, especialmente sobre produtos. Aqui no TeorTech, uni essa paixão com meu gosto por escrever, também alimentado pelos quase 15 anos de experiência em criação de sites, para ajudar os visitantes na descoberta tecnológica.
