Há um novo tipo de ameaça capaz de atacar o ChatGPT para contornar medidas de segurança e rouba

A crescente adoção de soluções de IA generativa deu origem a ecossistemas baseados nesta tecnologia. Embora tragam novas possibilidades, há também novos riscos, como aponta um novo estudo realizado por investigadores norte-americanos e israelitas. Desde a “explosão” em popularidade do ChatGPT da OpenAI, no final do ano passado, que a inteligência artificial passou a assumir um papel de maior relevo, passando a marcar o passo da evolução no mundo da tecnologia. Apesar de todo o seu potencial, a IA também tem um lado negro e, nas mãos dos cibercriminosos, pode abrir a porta a novas ameaças. Tek

Para demonstrarem os riscos destes ecossistemas, 💥️os investigadores criaram um worm, chamado Morris II, que é capaz, por exemplo, de💥️ atacar assistentes de email com IA generativa para roubar informação e enviar mensagens de spam, assim como 💥️contornar as medidas de segurança de chatbots como o ChatGPT da OpenAI ou o Gemini da Google para realizar ações maliciosas.

De acordo com a investigação, um dos elementos centrais desta nova ameaça são prompts adversariais capazes de se replicarem por si próprios. Ao contrário de um comando normal, que faz com que o sistema responda com um output de dados, este tipo de prompt gera como resposta outros comandos.

Além disso, este tipo de comandos faz com que o sistema seja capaz de realizar atividades maliciosas, 💥️criando outputs que exploram a interconectividade do ecossistema de IA generativa para infectar outros sistemas.

No estudo a equipa realça que 💥️o propósito do seu trabalho não é argumentar contra o desenvolvimento, implementação ou integração de capacidades de IA generativa, nem gerar pânico em relação a uma ameaça que pode levantar mais dúvidas no que toca à adoção desta tecnologia.

“O objetivo do estudo 💥️é apresentar uma ameaça que deve ser levada em conta durante o desenvolvimento de ecossistemas de IA generativa e cujo risco deve ser avaliado durante a implementação de ecossistemas de IA generativa”, explicam os investigadores.

O estudo alerta também para a implementação de arquiteturas em ecossistemas de IA que podem abrir a porta a novas ameaças, motivo pelo qual 💥️os investigadores notificaram a OpenAI e a Google, apresentando as suas conclusões.

O que você está lendo é [Há um novo tipo de ameaça capaz de atacar o ChatGPT para contornar medidas de segurança e rouba].Se você quiser saber mais detalhes, leia outros artigos deste site.