Um novo recurso experimental chamou a atenção na última conferência anual da Amazon, a MARS. Em vídeo exibido durante o evento, um menino pede para a Alexa, a assistente virtual da Amazon, ler uma história, porém usando a voz de sua falecida avó.
No vídeo, Rohit Prasad, cientista chefe da Amazon para a Alexa IA, diz: “Como você viu nesta experiência, em vez da voz de Alexa lendo o livro, é a voz da avó da criança”.
Ainda, de acordo com Prasad, é muito importante acrescentar “atributos humanos” aos sistemas de IA “em tempos de pandemia, quando muitos de nós perdemos alguém que amamos. A IA não pode eliminar a dor da perda, mas pode fazer suas memórias durarem mais”, completa Prasad.
Segundo a Amazon, o sistema de IA consegue imitar o padrão de voz de qualquer pessoa ouvindo um único áudio com um minuto de duração. Dessa forma, é viável pensar nessa ferramenta para outros fins como, por exemplo, personalização ou clonagem de vozes de qualquer ser humano.
Ainda não há uma data oficial para o lançamento dessa tecnologia. Isso porque, os detalhes do novo recurso ainda são muito limitados. A Amazon também não disse se vai lançar esse sistema para o público.
Especialistas alertam sobre os riscos
Por outro lado, especialistas advertem sobre os riscos de segurança relativos ao uso da IA para replicar vozes de verdade. Isso porque, trata-se de um recurso que facilitaria muito o desenvolvimento de esquemas fraudulentos. A habilidade de imitar vozes humanas facilita o trabalho dos mal intencionados. Que pretendem assumir a identidade de terceiros usando-a para desenvolver maneiras de enganar os desavisados.
No entanto, o fato é que a imitação de voz com IA já existe. O sistema se chama “deepfake de áudio”, muito usado em podcasts, videogames e cinema.
E você o quê acha? Iria gostar?
