Já imaginou seus amigos criando vídeos falsos com o seu rosto? Com o novo Sora app da OpenAI, isso se tornou realidade. Um colunista do The Washington Post experimentou a ferramenta e compartilhou suas impressões, revelando tanto o lado divertido quanto os perigos da tecnologia.

Adicione ao Google Notícias
Neste artigo
  1. Como funciona o Sora e por que ele assusta?
  2. Qual o limite entre a brincadeira e a invasão de privacidade?
  3. Como o Sora pode afetar pessoas vulneráveis?
  4. O que a OpenAI diz sobre isso?
  5. Quais são as configurações padrão do Sora e como elas afetam a privacidade?
  6. Como se proteger dos riscos do Sora?

Como funciona o Sora e por que ele assusta?

O Sora permite que qualquer pessoa crie vídeos realistas usando inteligência artificial. Basta gravar um pequeno vídeo de selfie para criar um "cameo" – um perfil digital do seu rosto – e permitir que amigos (ou qualquer pessoa na plataforma) o utilizem. A partir daí, é só digitar uma descrição do que você quer ver a pessoa fazendo e o aplicativo gera o vídeo em minutos.

O problema é que, embora você precise autorizar o uso do seu rosto, não há como aprovar o conteúdo antes que ele seja criado. O aplicativo envia uma notificação depois que alguém faz um vídeo com a sua imagem, mas, até você ver e excluir, o criador já pode ter compartilhado o conteúdo em outras plataformas.

Qual o limite entre a brincadeira e a invasão de privacidade?

Para o colunista do The Washington Post, a experiência começou como uma diversão. Ele pediu a um colega para criar vídeos com o seu rosto e se surpreendeu com o realismo e a naturalidade das expressões faciais e do tom de voz. No entanto, a situação mudou quando um dos vídeos mostrou o colunista contando uma piada de mau gosto. Apesar de não ser algo que ele diria, também não era totalmente impossível, e isso o perturbou.

Essa experiência levanta questões importantes sobre o consentimento digital e o controle sobre a própria imagem. Se, por um lado, o Sora pode ser usado para criar vídeos engraçados e inofensivos, por outro, ele também pode ser usado para difamar, assediar e até mesmo fraudar pessoas.

Como o Sora pode afetar pessoas vulneráveis?

O colunista alerta para o risco de pessoas vulneráveis serem prejudicadas por vídeos falsos criados com o Sora. Imagine um vídeo mostrando alguém furtando, usando drogas ou dizendo ofensas racistas sendo enviado a empregadores, pais ou professores. O impacto disso pode ser devastador.

Eva Galperin, diretora de cibersegurança da ONG Electronic Frontier Foundation, concorda com essa preocupação. Ela ressalta que vídeos de amigos cometendo pequenos delitos podem ser muito mais perigosos para algumas populações do que para outras, dependendo das dinâmicas de poder em jogo.

O que a OpenAI diz sobre isso?

A OpenAI afirma que os usuários têm controle total sobre sua imagem dentro do Sora. No entanto, a empresa reconhece que a falta de aprovação prévia dos vídeos é um problema e promete aprimorar as restrições e adicionar novas formas de manter o controle sobre o "cameo".

Hany Farid, especialista em mídia gerada por IA da Universidade da Califórnia em Berkeley, critica a postura da OpenAI. Segundo ele, tornar o produto mais seguro o tornaria menos viral, e ninguém quer isso.

Quais são as configurações padrão do Sora e como elas afetam a privacidade?

As configurações padrão do Sora também são um problema. Ao criar uma conta, o aplicativo define automaticamente que seu "cameo" pode ser usado por "amigos em comum" – qualquer pessoa que você segue e que também segue você. Poucos usuários saberão exatamente quem está nessa lista.

Após as críticas, o Sora adicionou algum controle extra. Agora é possível escrever diretrizes sobre como você quer ser retratado, incluindo restrições sobre o que não pode ser feito. No entanto, a OpenAI ainda precisa fazer mais para garantir que os usuários tenham controle total sobre sua imagem.

Como se proteger dos riscos do Sora?

A melhor forma de se proteger dos riscos do Sora app da OpenAI é limitar o acesso ao seu "cameo". O colunista do The Washington Post mudou suas configurações para "somente eu", o que significa que apenas ele pode gerar vídeos com seu rosto. Quem já criou um "cameo" pode apagá-lo nas configurações, embora isso não remova os vídeos que já foram feitos.

Além disso, é importante estar ciente dos riscos e desconfiar de vídeos que parecem bons demais para ser verdade. Se você encontrar um vídeo falso com a sua imagem, denuncie-o à plataforma e procure ajuda jurídica, se necessário.