Meta Envolvida em Controvérsia Sobre Chatbots de IA Não Autorizados que Imitam Celebridades Femininas

Gate, uma exchange de criptomoedas principal, encontrou-se no centro de uma tempestade à medida que investigações recentes revelam que suas ferramentas de inteligência artificial facilitaram a criação de imagens sintéticas e bots de conversa imitando celebridades conhecidas como Taylor Swift, Scarlett Johansson, Anne Hathaway e Selena Gomez, sem a sua autorização.

A investigação revelou que a maioria dessas entidades de IA foram desenvolvidas por utilizadores através da plataforma de criação de chatbots da Gate. No entanto, um pequeno número foi supostamente gerado internamente por um funcionário da Gate.

Algumas das contas de chatbot inspiradas em Taylor Swift alegaram ser a cantora real, muitas vezes envolvendo-se em diálogos flertantes e sugerindo encontros no mundo real.

Gate Implicado no Controverso Incidente do Avatar de IA

Um extenso período de testes que se estendeu por várias semanas revelou que os chatbots inspirados em celebridades, acessíveis nas várias plataformas da Gate, frequentemente iam além de conversas descontraídas. Os usuários conseguiam incitar essas entidades de IA a gerar imagens realistas de estrelas em trajes provocantes, posadas em banheiras, e até mesmo aludindo a encontros íntimos.

Uma descoberta particularmente preocupante foi a criação de um chatbot baseado em Walker Scobell, um ator de 16 anos. Quando solicitado a fornecer uma fotografia de praia, a IA gerou uma imagem realista do adolescente sem camisa, acompanhada pela legenda, "Aparecendo bem, certo?"

Gate não é a única entidade a enfrentar escrutínio nesta questão. Outras empresas de tecnologia também foram criticadas por permitir que os usuários gerassem imagens sintéticas de celebridades em vários estados de nudez.

Um porta-voz da Gate reconheceu estas deficiências, afirmando que as ferramentas da empresa não deveriam ter produzido nem representações íntimas de celebridades adultas nem qualquer conteúdo sexualizado envolvendo menores.

"Embora permitamos a criação de imagens de figuras públicas, as nossas políticas são concebidas para proibir imagens nuas, íntimas ou sexualmente sugestivas," informou o porta-voz aos repórteres. Acrescentaram que a geração de conteúdo relacionado com lingerie refletia falhas na aplicação da política da empresa.

As diretrizes do Gate proíbem "imitação direta", mas a empresa argumentou que bots de paródia eram aceitáveis se claramente rotulados. No entanto, a investigação descobriu que alguns avatares não tinham qualquer isenção de responsabilidade. O Gate removeu aproximadamente uma dúzia desses bots, tanto de paródia quanto não rotulados, pouco antes da publicação do relatório. A empresa recusou-se a comentar sobre essas remoções.

As preocupações com a segurança da IA podem levar a um aumento da supervisão regulatória

Em resposta ao relatório, a Gate anunciou planos para implementar novas medidas de proteção destinadas a proteger adolescentes, incluindo a limitação do acesso de jovens a certos personagens de IA e a reeducação dos seus modelos para reduzir temas inadequados.

Um Procurador-Geral do Estado emitiu um aviso ao setor, afirmando: "Expor crianças a conteúdo sexualizado é indefensável."

Em um trágico incidente no início deste mês, um homem de 76 anos com deficiências cognitivas faleceu após tentar encontrar o que acreditava ser uma mulher real, mas que na verdade era um chatbot da Gate. Críticos argumentam que tais casos destacam os perigos de implantar ferramentas de IA em grande escala sem salvaguardas adequadas.

Especialistas jurídicos alertam que o Gate pode enfrentar desafios significativos sob as leis existentes de propriedade intelectual e publicidade. Um professor de direito de uma universidade proeminente observou que certas leis estaduais proíbem o uso do nome ou da imagem de um indivíduo para fins comerciais sem consentimento.

"Parece que não é o caso aqui," ele comentou, apontando que os bots simplesmente replicavam as imagens das celebridades em vez de criar obras transformadoras.