O ChatGPT está se transformando em uma ferramenta na mão do cibercrime
O gerente e especialista de Segurança da Informação da Trend Micro Brasil, Flávio Silva, explicou como o ChatGPT pode ser usado como uma ferramenta para cibercriminosos. Sua explicação veio depois que a equipe vencedora de uma maratona tecnológica em Miami admitiu ter utilizado o ChatGPT para criar um ataque de execução remota de código.
Leia mais:
4 mistérios ainda não solucionados sobre o Massacre de Columbine
10 medidas que poderiam ser implementadas para evitar um massacre nas escolas
Desde então, profissionais da área de segurança cibernética têm sido questionados sobre os possíveis riscos do uso dessa inteligência artificial desenvolvida pela OpenAI.
Na competição de três dias chamada Pwn2Own, os participantes tiveram como desafio encontrar vulnerabilidades em sistemas industriais e de Internet das Coisas para invadi-los. Uma equipe de pesquisadores não ganhou a competição sozinha nem encontrou uma vulnerabilidade por conta própria.
Ao invés disso, eles usaram um bot de Inteligência Artificial chamado ChatGPT como assistente para acelerar o processo de codificação. A abordagem da equipe mostrou que a IA pode ser uma ferramenta complementar útil para hackers quando eles se deparam com um código desconhecido ou uma defesa inesperada.
A equipe encontrou um bug em um aplicativo de código aberto usado para comunicação máquina a máquina antes de recorrer ao ChatGPT para ajudá-los na codificação.
A equipe responsável pelo desenvolvimento do ChatGPT admitiu que precisou fornecer informações à inteligência artificial e realizar algumas correções e alterações menores para criar um módulo de servidor de back-end viável.
Diferente de um mecanismo de busca comum, o ChatGPT é capaz de criar e resolver problemas
Diferente de um mecanismo de busca comum, o ChatGPT não apenas fornece respostas a perguntas, mas também é capaz de criar e resolver problemas. Quando uma pessoa não está familiarizada com uma determinada tarefa, a ferramenta pode preencher as lacunas de conhecimento, automatizando e agilizando processos.
É importante mencionar que o usuário deve guiar o bot, pois a ferramenta possui filtros que impedem a criação de coisas potencialmente maliciosas.
Embora não seja uma ameaça em si, se bem orientada, a ferramenta pode ajudar a criar um script específico que seria utilizado em um ataque no qual o criminoso não tem domínio pleno da linguagem de programação. O Especialista acredita que o ChatGPT é uma forma de democratizar o acesso ao Machine Learning e à Inteligência Artificial para a população em geral.
Antes, essas tecnologias eram reservadas a poucos, com objetivos específicos. Agora, elas estão presentes em nossas vidas diárias através de smartphones, assistentes de voz, smart TVs, carros, e outros objetos.
Embora o ChatGPT tenha uma grande capacidade de aprendizado e treinamento, Flávio Silva ressalta que precisamos ficar atentos às suas aplicações e usos.
Atualmente, a ferramenta de IA ainda é imprevisível e suscetível a erros, o que a torna inapropriada para ser utilizada como arma confiável para o cibercrime. No entanto, é provável que ela seja adicionada ao arsenal de ameaças de segurança.
A colaboração entre seres humanos e inteligência artificial está se tornando cada vez mais comum, e os líderes devem estar atentos ao desenvolvimento dessas tecnologias.
É importante entender a importância de ter uma visão clara da superfície de ataque de suas empresas e adotar um plano estratégico para lidar com as ameaças antigas e novas. Flávio Silva destaca a necessidade de estar sempre atualizado e preparado para lidar com as mudanças tecnológicas.
Fonte: Terra
