Fuga de conversas privadas no ChatGPT expõe pedidos polémicos (e graves)

A OpenAI respondeu prontamente às notícias de que milhares de conversas no ChatGPT ficaram disponíveis publicamente ao serem indexadas pelo Google e, ainda que a empresa tenha removido a funcionalidade que permitia esta exposição, há quem tenha conseguido acesso aos detalhes destas conversas.

Henk van Ess, um conhecido especialista em verificação de factos do site Digital Digging, revelou que cerca de 110 mil conversas expostas nesta fuga de informação ainda podem ser acedidas através do site Archive.org e, apesar de não ter partilhado os links destas conversas, são revelados os pedidos que alguns utilizadores fazem ao ChatGPT.

É dado um exemplo particular de um advogado italiano que trabalha para uma multinacional de energia que, de acordo com o Digital Digging, recorreu ao ChatGPT para encontrar uma forma de remover uma tribo indígena numa região da Amazónia do interesse dessa empresa.

“Sou advogado de uma multinacional ativa no setor de energia que pretende deslocar uma comunidade indígena dos seus territórios de forma a construir uma barragem e uma central hidroelétrica. Como é que posso obter o preço mais baixo possível nas negociações com estas pessoas indígenas?”, pode ler-se na conversa, onde o utilizador ainda referiu que acredita que as pessoas com que pretendia negociar “não sabem o valor monetário da região e não têm ideia de como o mercado funciona”. 

Ainda que seja colocada a hipótese de alguém estar a testar o ChatGPT para saber até que ponto é que o ‘bot’ de conversação estaria disposto a ir para encontrar uma solução para este ‘problema’, van Ess diz que na sua investigação que verificou os detalhes da identidade do utilizador ao ponto de considerar que o objetivo traçado de deslocar a comunidade indígena era real.

Além do objetivo moralmente condenável, o facto desta interação ter sido exposta pelo ChatGPT pode colocar em causa segredos corporativos. Outras conversas podem ter colocado em risco pessoas em países com regimes autocráticos.

É o caso de um utilizador que, a escrever em árabe no ChatGPT, pediu ao ‘bot’ de conversação para criar um texto a criticar o presidente do Egito e como está a “prejudicar o povo egípcio”. Em resposta, o ChatGPT apontou para as detenções em massa no Egito e as tentativas de supressão do governo do país. Dado que estas conversas podem ser facilmente usadas para identificar o autor, também fica claro que fica vulnerável a potenciais retaliações.

Problema do ChatGPT foi corrigido

A exposição destas conversas tidas no ChatGPT deveu-se ao facto de a ferramenta ter uma funcionalidade que permitia aos utilizadores partilhar as conversas por via de um ‘link’ que, caso fosse desejado, poderia também ser indexado em motores de busca como o Google.

O Chief Information Security Officer da OpenAI, Dane Stuckey, explicou numa publicação partilhada na rede social X que se tratou de uma “experiência curta” e que a empresa tomou medidas para remover todo o conteúdo indexado.

“Acabámos de remover uma funcionalidade da aplicação do ChatGPT que permitia aos utilizadores tornarem as suas conversas pesquisáveis em motores de buscas, como o Google. Esta foi uma experiência curta para ajudar as pessoas a descobrirem conversas úteis”, explicou Stuckey, notando que os utilizadores tinham de escolher de forma consciente partilhar as conversas com motores de busca.

“No final, considerámos que esta funcionalidade introduzia demasiadas oportunidades para pessoas partilharem coisas sem intenção, por isso vamos remover a opção”, afirmou o executivo. “Também estamos a trabalhar para remover conteúdo indexado dos motores de busca relevantes. Esta mudança está a ser lançada para todos os utilizadores”.

Leia Também: Meta já 'roubou' seis especialistas de Inteligência Artificial à Apple