Fornecedor de segurança alerta para riscos do uso de voz por deepfake
22 de maio de 2023Um novo relatório de pesquisa do fornecedor de analistas de segurança Recorded Future diz que a clonagem de voz é capaz de derrotar a autenticação multifatorial de voz na natureza.
Os autores do relatório dizem que é necessária uma abordagem entre setores para manter a voz deepfake sob controle.
O relatório, “I Have No Mouth, and I Must Do Crime,” é um aceno para as visões sombrias do autor de ficção científica Harlan Ellison , mas as descobertas que ele contém garantem um floreio poético.
“Atualmente, a tecnologia de clonagem de voz está sendo abusada por agentes de ameaças em estado selvagem”, afirma o relatório. Está “permitindo a disseminação de desinformação e desinformação e aumentando a eficácia da engenharia social”. A barreira de entrada continua diminuindo, com plataformas como a popular Prime Voice AI da ElevenLabs oferecendo opções baseadas em navegador de baixo custo para conversão de texto em fala (TTS).
“Amostras de clonagem de voz – como as de celebridades, políticos e personalidades da Internet (‘influenciadores’) – e destinam-se a criar conteúdo cômico ou malicioso, que geralmente é de natureza racista, discriminatória ou violenta”, diz o relatório. Os agentes de ameaças estão demonstrando ataques eficazes de fraude baseados em voz , incluindo phishing por voz ou vishing.
Para plataformas como o modelo TTS AI da Microsoft, VALL-E, são necessários apenas três segundos de áudio para gerar a voz clonada de, por exemplo, um ente querido pedindo dinheiro para fiança.
Por enquanto, as limitações técnicas significam que a clonagem de voz é usada principalmente para fraudes de pequena escala, aproveitando amostras únicas para extorsão ou desinformação. Ainda assim, os resultados podem ser desastrosos para os indivíduos. Este mês, a emissora canadense CBC informou sobre a clonagem de voz usada para fraudar oito idosos em Newfoundland em CAD$ 200.000 (US$ 148.000). As vítimas recebiam ligações durante as quais as vozes clonadas de seus netos pediam dinheiro para cobrir despesas de emergência.
Em outros casos, vozes clonadas foram usadas em esquemas de sequestro e reféns.
O relatório pesquisou conversas na dark web e descobriu que alguns agentes de ameaças não estão convencidos de que a tecnologia atual de clonagem de voz esteja equipada para lidar com certos obstáculos de segurança, principalmente quando se trata de clonar vozes que não falam inglês. Mas eles já estão encontrando maneiras de modificá-lo. Uma dessas soluções alternativas é a clonagem de voz como serviço, ou VCaaS. Esta é “uma nova forma de crime cibernético mercantilizado no qual ‘especialistas’ em clonagem de voz fornecem amostras personalizadas de clonagem de voz, muitas vezes anunciando seus serviços via Telegram”, de acordo com o relatório.
Além disso, o aumento geral da conscientização pública sobre a IA levou a um aumento no número de serviços gratuitos e anônimos de clonagem de voz de terceiros.
O software de clonagem de voz de código aberto está aparecendo nas mídias sociais e em repositórios de código.
E os cibercriminosos estão tentando encontrar maneiras de contornar as restrições de conteúdo impostas por plataformas como a ElevenLabs, que atraiu a ira dos usuários no Reddit quando atualizou seus padrões da comunidade para impedir a clonagem de voz para fins nefastos.
O relatório aconselha as organizações a agir com antecedência para lidar com os riscos associados à clonagem de voz, que estão crescendo. “Uma abordagem em toda a indústria é necessária imediatamente para prevenir novas ameaças de futuros avanços na tecnologia de clonagem de voz.”
Fonte: Biometrics Update
Minds Digital cresce 52% e aposta em liveness detection como aliada do sistema contra fraudes
Acompanhe como o reconhecimento facial e impressões digitais, de íris e voz estão sendo utilizados para garantir a identificação digital precisa para mitigar fraudes e proporcionar aos usuários conforto, mobilidade e confiança. Crypto ID, o maior canal brasileiro sobre identificação digital. Leia outros artigos aqui!
Learn how facial recognition and iris, voice and fingerprints are being used to ensure accurate digital identification to mitigate fraud and provide users with comfort, mobility and trust. Read other articles here! Crypto ID, the largest Brazilian channel on digital identification. Read other articles here!
Descubra cómo se utilizan el reconocimiento facial y el iris y las huellas dactilares del voz para garantizar una identificación digital precisa para mitigar el fraude y brindar a los usuarios comodidad, movilidad y confianza. Crypto ID, el mayor canal brasileño de identificación digital. ¡Lea otros artículos aquí!
