Uma nova e grave ameaça à segurança cibernética do popular modelo de inteligência artificial generativa foi revelada. Uma investigação aprofundada, conduzida pela Tenable Research, uma proeminente empresa especializada em segurança cibernética, identificou um conjunto de sete vulnerabilidades críticas no chatgpt-4o. Essas falhas foram apelidadas coletivamente pelo nome sugestivo de ‘hackedgpt’, e representam um risco substancial para a privacidade dos usuários.

O relatório detalha que estas vulnerabilidades permitem que criminosos virtuais explorem brechas específicas e, assim, burlem os mecanismos de proteção sofisticados que a plataforma implementa. Dessa forma, invasores podem potencialmente acessar uma vasta gama de informações privadas, incluindo dados pessoais sensíveis, o histórico completo de conversas mantidas e as memórias armazenadas pelo sistema para personalização da experiência do usuário. A pesquisa da TENABLE descreve que o ‘hackedgpt’ introduz uma nova e perigosa categoria de ameaça conhecida como injeção indireta de prompt. A natureza sutil desse ataque é particularmente preocupante, pois em muitos casos, basta uma ação simples do usuário, como fazer uma pergunta rotineira ao modelo ou clicar em um link aparentemente inócuo, para que o sistema de inteligência artificial seja completamente comprometido. O pior é que, em muitos desses cenários de comprometimento, o ataque ocorre sem que o usuário sequer perceba a invasão em andamento.

É importante ressaltar que a preocupação com a segurança do Chatgpt não é recente, e a exposição de dados sigilosos tem sido uma falha recorrente na plataforma da Openai. Incidentes anteriores já demonstraram que as falhas de segurança não se limitam apenas ao vazamento de títulos de conversas, mas se estendem perigosamente à exposição de dados pessoais e até mesmo informações financeiras de usuários que utilizam o serviço pago. Em março de 2023, por exemplo, um *bug* no cliente da biblioteca de código aberto redis foi o catalisador de um problema significativo. Este evento causou uma interrupção temporária nas operações da plataforma, e, embora inicialmente tenha permitido que alguns usuários visualizassem os títulos do histórico de bate-papo de terceiros, o incidente resultou em uma exposição muito mais grave: informações de 1,2% dos assinantes ativos do serviço premium, o chatgpt plus, foram expostas.

Os dados vazados desses assinantes incluíram o nome completo, o endereço de e-mail associado ao pagamento, o endereço de cobrança utilizado para fins fiscais e de faturamento, a data de validade do cartão de crédito e os quatro últimos dígitos do número do cartão. A Openai assegurou, contudo, que os números completos dos cartões nunca foram expostos durante este incidente.

Adicionalmente, outros relatórios de incidentes indicaram que o chatbot não apenas expôs dados de pagamento, mas também chegou a exibir conversas completas pertencentes a terceiros. Essas conversas continham dados altamente confidenciais, incluindo logins e senhas de sistemas internos de empresas, informações que os usuários haviam compartilhado com a inteligência artificial em busca de suporte técnico, expondo, assim, informações sigilosas críticas. Houve, ainda, outro incidente sério relacionado à indexação de conteúdo. Milhares de conversas privadas, que frequentemente incluíam relatos extremamente sensíveis sobre saúde mental e vida pessoal dos usuários, foram indexadas. Devido a uma configuração que foi descrita como mal compreendida na funcionalidade de “links compartilhados”, essas conversas tornaram-se publicamente acessíveis por mecanismos de busca amplamente utilizados, como o google.

A Openai prontamente confirmou a falha decorrente do redis, implementando uma correção imediata e notificando todos os usuários afetados sobre o ocorrido. Além disso, a empresa tomou medidas preventivas adicionais, desabilitando temporariamente a função de histórico de conversas e alterando rigorosamente as políticas de compartilhamento após os incidentes de exposição via indexação pública. A descoberta do ‘hackedgpt’ serve, portanto, como um lembrete contundente dos desafios contínuos que as plataformas de ia enfrentam para garantir a segurança e a privacidade de seus milhões de usuários globais.

Fonte da matéria: CNN Brasil

Tags (Palavras-chave): ChatGPT, Tenable Research, Vulnerabilidades, HackedGPT, Segurança cibernética, Vazamento de dados