Anteriormente, esse recurso não estava disponível para os usuários devido ao perigo de uso indevido da tecnologia, mas após aprimorar o trabalho de filtros para remoção de imagens com conteúdo de natureza sexual ou política, além de cenas de violência, a OpenAI decidiu fazer isso ferramenta disponível publicamente - pelo menos para aqueles que entraram no círculo da elite, admitiram trabalhar com a rede neural DALL-E.
O novo recurso permite que os usuários editem imagens de várias maneiras. Por exemplo, você pode fazer upload de uma foto de qualquer pessoa e alterar as características faciais, roupas ou penteado. Sem dúvida, a ferramenta se tornará popular entre artistas, fotógrafos e outros representantes de profissões criativas.
“Graças às melhorias de segurança, o DALL-E agora está pronto para oferecer suporte a esses recursos fascinantes e importantes – enquanto minimiza o risco potencial de deepfakes”, diz uma carta enviada pela gerência da OpenAI aos clientes.
A decisão foi parte de uma discussão em andamento entre criadores de IA e usuários sobre o potencial uso indevido da tecnologia. Lembre-se de que o DALL-E é um produto da organização sem fins lucrativos OpenAI, uma poderosa rede neural que gera imagens mediante solicitação verbal. Está em modo de teste beta.
Até agora, a empresa adotou uma abordagem bastante cautelosa, mas recentemente concorrentes, não tão escrupulosos nesses assuntos, começaram a ignorar o OpenAI e roubar usuários. Assim, o Stable Diffusion já permite criar imagens falsas realistas de celebridades, escreve Verge.
Agora OpenAI implementou filtros no DALL-E que permitem usar a funcionalidade de edição de rosto em fotos e vídeos sem violar as leis e regras de decência. Os termos de uso do programa proíbem o upload de imagens de pessoas sem o seu consentimento, embora seja quase impossível fazer valer esta cláusula do contrato sob o modelo de acesso atual na prática. No entanto, nenhum filtro é perfeito e existem muitas formas de abuso mais sutis do que a pornografia direta sem o consentimento da pessoa retratada.
A inteligência artificial DALLE-2 cria imagens realistas a partir de uma descrição de texto, mas como exatamente ela e redes neurais semelhantes alcançam o resultado é, na maioria das vezes, desconhecida. No início do verão, os desenvolvedores do OpenAI fizeram uma afirmação intrigante - que seu modelo havia inventado sua própria linguagem secreta para falar sobre os objetos retratados.
2022-09-22 16:45:40
Autor: Vitalii Babkin