Inteligência maléfica? Entenda os riscos provocados pela IA generativa à segurança das empresas

Especialista da BugHunt dá dicas de como o ambiente corporativo pode se prevenir diante das ameaças criadas a partir da tecnologia

A expansão sobre o uso da Inteligência Artificial nas soluções tecnológicas é um movimento inevitável em praticamente todos os mercados.

Para se ter uma ideia, um levantamento publicado pela IBM revela que ao menos 41% das empresas brasileiras já utilizam a ferramenta de alguma forma em sua rotina.

No entanto, da mesma forma que a aplicação representa melhorias e novas possibilidades operacionais, a tecnologia traz consigo uma série de riscos significativos para a segurança corporativa.

De acordo com Caio Telles, CEO da BugHunt, primeira plataforma brasileira de Bug Bounty, programa de recompensa por identificação de falhas, os principais perigos estão atrelados ao intenso desenvolvimento da chamada IA generativa, braço da tecnologia responsável pela geração de textos, áudios, imagens e vídeos em resposta a solicitações em linguagem comum.

Segundo o especialista, a ferramenta tem sido constantemente utilizada para a criação de conteúdos falsos, porém extremamente convincentes, a ponto de representar sérios riscos para as instituições.

“Isso inclui desde falsificações menores, como e-mails ou mensagens de texto, até produções mais elaboradas, e, obviamente, ainda mais perigosas, como chamadas de voz falsificadas ou o deepfake, proporcionando artimanhas muito mais elaboradas para os ataques de phishing ou engenharia social”, explica.

Além disso, a IA generativa, hoje em dia, já vem sendo utilizada para a criação de sites adulterados de empresas ou produtos.

A capacidade da tecnologia é tamanha que os cibercriminosos também estão se apropriando de seu potencial para automatizar e escalar os ataques cibernéticos por meio de malwares altamente sofisticados, capazes de se adaptar e contornar as defesas das empresas.

Até por conta disso, Telles destaca que a capacidade da IA generativa para criar conteúdos falsificados pode representar um impacto significativo na integridade das informações e na confiança dos clientes em relação às empresas.

“Se os clientes não podem confiar na autenticidade das comunicações que recebem, a reputação da empresa e a confiança do cliente acabam sendo impactadas. Por exemplo, se um cliente recebe um e-mail falso que parece vir de uma marca, ele pode ser levado a acreditar que a empresa não é segura ou confiável, deixando de consumi-la”, aponta.

Como se proteger?

É pensando justamente em evitar todas essas complicações que as empresas estão cada vez mais dispostas a investir em mecanismos e soluções protetivas.

Segundo um estudo publicado pela consultora global Gartner, o gasto mundial em segurança cibernética deve totalizar US$ 215 bilhões em 2024, o que representa um aumento de 14,3% em relação aos US$ 188,1 bilhões que estão sendo gastos este ano. 

Apesar do montante expressivo, o CEO da BugHunt explica que os investimentos precisam contar com um direcionamento assertivo e estratégico para que resultem numa verdadeira melhoria para o setor.

“Hoje, o grande desafio é a velocidade com que a IA está evoluindo. Com isso, fica cada vez mais complicado detectar quando estamos lidando com algo verdadeiro ou uma criação feita pela máquina”, avalia. 

Diante desse cenário, o especialista reforça que as organizações devem adotar uma abordagem proativa e abrangente para lidar com os riscos associados à IA generativa.

Isso inclui a implementação de sistemas robustos de detecção e resposta a incidentes para identificar rapidamente possíveis ameaças e mitigá-las efetivamente.

E, para o executivo, mais do que isso, as companhias podem buscar soluções externas a fim de proteger a si mesmas e seus consumidores contra ataques criminosos. 

“Atualmente, uma das opções mais eficazes e consolidadas do mercado, por exemplo, passa pelos programas de bug bounty, em que os chamados “hackers do bem” são recompensados por identificar e apontar vulnerabilidades de segurança, ajudando a empresa a se manter um passo à frente dos cibercriminosos”, completa. 

Sobre a BugHunt

A BugHunt é a primeira plataforma brasileira de Bug Bounty, programa de recompensa por identificação de falhas, que une empresas comprometidas com a segurança da informação e privacidade de seus usuários e/ou clientes a pesquisadores do setor. Com foco em inovação para reconhecimento e resolução de bugs e vulnerabilidades, a startup tem como objetivo democratizar o acesso à segurança de dados. Por meio de programas públicos e privados, a BugHunt gerencia a definição de escopo e recompensa, a escolha de especialistas, a avaliação e triagem de relatórios.

Qual é a diferença entre IA e IA Generativa?

IA generativa contribui com a segurança cibernética no setor financeiro

Análise comparativa de segurança entre plataformas de IA generativa põe em xeque o Bard do Google

Somos o maior portal brasileiro sobre Criptografia e Identificação Digital

O CRYPTO ID TRILHOU UM CAMINHO INCRÍVEL NESSES 10 ANOS!!

Em novembro desse ano completaremos uma década dessa jornada. Levamos à cerca de dois milhões de leitores ano as melhores e mais atualizadas informações do mercado brasileiro e internacional sobre segurança digital e tecnologias que viabilizam a identificação de pessoas, empresas, aplicações e equipamentos em meio digital, recursos de assinatura eletrônica e controle de acesso para garantir transações seguras e confiáveis.