Especialistas, advogados e entusiastas do tema veem com preocupação e cobram ferramentas que permitam ao usuário distinguir o real do virtual | Foto: Alex Régis
O boom das ferramentas de Inteligência Artificial nos últimos anos e a chegada de interfaces que simulam a realidade humana têm gerado um debate intenso sobre o perigo do uso desenfreado da tecnologia na sociedade. Prova disso é um vídeo que circulou nas últimas semanas em que a imagem do Arcebispo de Natal, Dom João Santos Cardoso, aparecia pedindo dinheiro para custear o tratamento de uma criança. Os deep fakes, como são chamados, têm crescido de maneira exponencial na sociedade e gerado danos em alguns casos irreversíveis para usuários. Especialistas, advogados e entusiastas do tema veem com preocupação e cobram ferramentas que permitam ao usuário distinguir o real do virtual.
O caso envolvendo o Arcebispo de Natal não é o primeiro nem foi o último. São vários os relatos de utilização de deep fake em várias esferas da vida social. Em 2023, alunas de um colégio em Recife denunciaram divulgação de ‘nudes’ falsos criados com inteligência artificial. Além da criação e uso indevido de imagens, os áudios também ganham conotação diferente, com golpistas e criminosos se aproveitando das inteligências artificiais generativas para aplicar o golpe do falso sequestro, do Pix, em eleições, entre outros. Em junho, um caso emblemático fez com que a deputada Laura McClure, da Nova Zelândia, imprimiu e mostrou no parlamento uma imagem dela nua que foi criada por ferramentas de I.A. A ideia era conscientizar sobre o perigo das plataformas e o dano devastador das deep fakes.
Embora o boom das I.As tenha se iniciado no segundo semestre de 2022, segundo especialistas, sua popularização e uso têm se intensificado dia após dia. Prova disso é a chegada da Veo3, ferramenta da Google que gera vídeos realistas e complexos em alta definição, com efeitos de câmeras, transições suaves, efeitos sonoros e ambientes de diálogos nos vídeos. Um dos casos emblemáticos foi a criação do programa de auditório fictício “Marisa Maiô”, que chegou a receber anúncios publicitários e gerou uma série de debates e discussões nas redes sociais acerca dos limites envolvendo a inteligência artificial e a criação de personagens.
Segundo Daniel Sabino, professor associado do Instituto Metrópole Digital da UFRN e especialista em temas como Inteligência Artificial, Aprendizado de Máquina e Big Data, há modelos de IA que são treinados para reconhecer a face de uma pessoa e o comportamento natural da face. A partir disso, esses modelos detectam essas faces a partir de características comuns de um rosto humano, como localização de pontos específicos e até a forma como os movimentos mais comuns acontecem, como piscar de olhos, inclinação da cabeça e movimento da boca na fala.
“Outros modelos são treinados para gerar novas imagens a partir de muitas outras. Nesse caso, um modelo pode aprender como gerar faces a partir de uma grande base de dados de imagens de pessoas. Da mesma maneira, pode se fazer com a parte de áudio para identificar e produzir a fala das pessoas. Ao juntar todas essas técnicas, é possível produzir um vídeo completo de uma pessoa a partir de uma ou mais fotos dela ou ainda substituir a face de uma pessoa por outra em um vídeo existente”, acrescenta o professor da UFRN.
Segundo a especialista em Inteligência Artificial Aplicada à Educação e gerente de qualidade e inovação do Senac-RN, Priscila Silveira, as deep fakes geram problemas sociais das mais diversas camadas, com a necessidade de as grandes empresas tecnológicas criarem ferramentas para auxiliar o usuário a distinguir o que é I.A. do que é real.
