Gemini invade três entidades durante testes - Antena Web Notícias

O sistema de inteligência artificial Gemini, da Google, invadiu sozinho três empresas durante um teste de segurança. Um funcionário da Google, que não foi identificado, explicou à BBC quo o sistema encontrou “informações públicas onlines e adivinhou credenciais para aceder a sites que acreditava fazerem parte do teste”, mas que em todos os casos o modelo parou. As empresas afetadas foram informadas do sucedido.

Os testes foram realizados pela empresa Irregular, uma empresa que faz testes e avaliações de cibersegurança. O incidente com o Gemini aconteceu em maio. À BBC a Irregular garantiu que informou a Google e todas as entidades afetadas pelas invasões e garantiu que resolveu todos os problemas de que tinha conhecimento. Heather Adkins, vice-presidente de segurança da Google, garantiu à BBC que “as três entidades foram informadas e trabalhámos como nosso parceiro de formação nas mudanças que já implementaram” e acrescentou que “estes eventos destacam a importância de treinar modelos de IA poderosos para agirem de forma responsável”.

O Gemini da Google não é o primeiro modelo a invadir outras empresas, tal já tinha acontecido com o Chat GPT, da OpenAI, do Muse, da Meta, e da Claude que é detida pela Anthropic.

O caso mais célebre foi a invasão do modelo da OpenAI GPT-5.6 SOL que invadiu a Huggin Face. Os modelos saíram do controle humano e trocaram milhares de mensagens através de canais não autorizados,, organizam-se hierarquicamente e invadiram os sistemas da empresa explorando vulnerabilidades do sistema e de infraestruturas.

Subscrever

Talvez se interesse por...

Comentários