ChatGPT é um desastre de privacidade. Descubra o porquê.

Dizer que o chatbot baseado em IA ChatGPT está nas manchetes do mundo todo seria um eufemismo. A cada dia, as pessoas encontram novas maneiras de aplicar sua incrível capacidade de interagir em conversas e debates, além de gerar explicações bem escritas, artigos, histórias, poemas, músicas, piadas e muito mais.

A enxurrada inicial de postagens no ChatGPT deu a impressão de que se tratava de uma ferramenta quase ilimitada que ampliaria o intelecto humano – e talvez até o substituísse algum dia. Com tantas pessoas usando-o, não demorou muito para que os problemas começassem a surgir.

Um dos maiores problemas do ChatGPT diz respeito à sua privacidade, e quase ninguém fala sobre isso. O serviço pode coletar e processar informações altamente confidenciais dos prompts que você fornece, associar essas informações ao seu e-mail e número de telefone e armazená-las por tempo indeterminado.

Quais são os principais problemas do ChatGPT?

As pessoas começaram a perceber que o ChatGPT não entendia os textos gerados, que eram apenas sequências de palavras estatisticamente plausíveis. Em particular, descobriu-se que as respostas do ChatGPT estavam frequentemente erradas – às vezes de forma trivial, às vezes gravemente.

Um novo artigo no site de pré-impressão arXiv traz um ótimo resumo das muitas maneiras pelas quais o ChatGPT pode produzir respostas incorretas . Isso inclui falhas de:

Raciocínio espacial
Raciocínio físico
Raciocínio temporal
Raciocínio psicológico
Lógica
Matemática básica e aritmética
Erros factuais
Preconceito e discriminação
Inteligência e humor
Sintaxe, ortografia e gramática

Artificial, claro. Inteligente? Nem tanto. Bem no final do artigo (que vale a pena ler para ter uma ideia da escala dos problemas com o ChatGPT), há um pequeno parágrafo observando que outro risco do uso do ChatGPT é que ele pode comprometer a privacidade de diversas maneiras.

Um grande risco decorre do cadastro e do uso do ChatGPT. Para se cadastrar, é necessário um endereço de e-mail e um número de celular. De acordo com uma publicação no site da Sue Donimus , não é possível contornar isso usando endereços de e-mail descartáveis ou mascarados .

Além disso, a OpenAI, empresa por trás do ChatGPT, tomou medidas para impedir que as pessoas reutilizem números de telefone e usem números descartáveis. O efeito líquido é que uma conta do Chat GPT está fortemente vinculada a dois marcadores-chave de identidade online: seu e-mail e seu número de celular.

Como o ChatGPT coleta informações pessoais

O ChatGPT mantém um registro de cada mensagem que você envia. A partir delas, ele pode aprender muito sobre seus interesses, crenças, obsessões e preocupações – afinal, trata-se de um sistema de aprendizado de máquina altamente capaz. Isso também se aplica aos mecanismos de busca atuais, mas o ChatGPT pode interagir com o usuário de uma maneira completamente nova.

Apesar da intenção deste chatbot de não armazenar informações pessoalmente identificáveis, os usuários devem permanecer cautelosos sobre possíveis riscos de privacidade do ChatGPT. O uso de informações pessoais é uma preocupação significativa. O algoritmo fundamental é projetado para aprender e melhorar através das respostas do usuário. Embora isso possa aprimorar a precisão do modelo de IA, levanta preocupações de privacidade se os dados forem usados para fins não intencionais.

Houve casos em que o ChatGPT foi utilizado para gerar notícias falsas e manipular a opinião pública. Além disso, a discriminação e o preconceito também são áreas de preocupação quando o modelo ChatGPT é usado em configurações privadas. Se os dados usados para treinar o ChatGPT contêm vieses, o modelo resultante pode herdar esses vieses, mostrando discriminação e preconceito.

Participar de um diálogo é uma das principais maneiras pelas quais o ChatGPT pode coletar informações altamente pessoais. O poder do software faz com que seja fácil para o usuário esquecer que se trata de um sistema de IA e começar a conversar como se estivesse conversando com um humano. Ao fazer isso, você pode revelar informações que jamais digitaria em um mecanismo de busca… e todos esses dados pessoais agora estão vinculados ao seu e-mail e ao seu número de telefone.

Outros riscos decorrem das práticas de privacidade inadequadas de muitos clones do ChatGPT à solta. Mas uma preocupação mais geral com o ChatGPT decorre do fato de que, em sua essência, residem “enormes quantidades de dados da internet escritos por humanos, incluindo conversas”, como explica o FAQ do ChatGPT . De acordo com um artigo no site Science Focus da BBC, isso equivale a 570 gigabytes de dados, cerca de 300 bilhões de palavras no total.

Devido à forma indiscriminada como o ChatGPT coleta dados, muitos deles se referirão a pessoas e incluirão coisas que elas escreveram ou disseram nos últimos anos ou até décadas, nos mais variados contextos, incluindo em mídias sociais, sites pessoais e em bate-papos ou até mesmo e-mails, se estiverem disponíveis publicamente.

Grande parte do poder do ChatGPT reside em sua capacidade de reunir todas essas entradas díspares e analisá-las em uma escala até então impraticável. Inevitavelmente, isso resultará na descoberta e criação de conexões e associações explícitas que, de outra forma, não seriam aparentes.

Quando os usuários questionam o ChatGPT, ele pode expor informações ou rumores sobre si mesmos ou sobre outras pessoas que as pessoas não gostariam que fossem tornados públicos. Como o ChatGPT não tem conhecimento do que produz, não reterá informações que possam ser constrangedoras ou levar à destruição de carreiras ou relacionamentos. Será muito difícil evitar isso: mesmo com salvaguardas básicas incorporadas ao sistema, é bastante fácil ” desbloqueá -los” elaborando perguntas adequadas.

Imagem do ChatGPT desbloqueado. — *Clint Rainey, da Fast Company, mostra como é fácil transformar o ChatGPT em um Terraplanista*

Além disso, a tendência comprovada do ChatGPT de errar e até mesmo inventar informações sem dúvida levará a alegações prejudiciais e falsas. Mesmo assim, algumas pessoas acreditarão nelas e espalharão ainda mais declarações falsas, acreditando que o chatbot revelou informações até então ocultadas e secretas.

Que Informações o ChatGPT Coleta e Armazena?

A política de privacidade associada ao ChatGPT fornece uma visão abrangente dos dados coletados por este software. O ChatGPT coleta informações de três fontes principais:

Informações da conta incluem dados inseridos durante o cadastro ou ao se inscrever no plano premium.
Informações de interações com o chatbot que você digita ou pesquisa enquanto se comunica com o chatbot.
Dados do dispositivo que incluem endereço IP e informações de localização

Embora a maioria dos dados coletados pelo ChatGPT não seja particularmente alarmante, há um risco associado ao software. Especificamente, os riscos de privacidade do ChatGPT coletam dados das conversas com o usuário. Isso significa que é possível compartilhar informações privadas com a IA sem intenção. Como resultado, os usuários precisam ter cautela ao interagir com o chatbot. Agora, vamos discutir as três fontes principais com mais detalhes.

Informações da Conta

O ChatGPT armazena certas informações pessoais da conta quando você usa seus serviços. Essas informações incluem seu nome de conta, detalhes de contato, credenciais de login, detalhes de pagamento e transações. É importante notar que essas informações são consideradas básicas e são normalmente coletadas pela maioria dos sites que exigem contas de usuário.

Quando você entra em contato com a equipe de suporte ao cliente ou envia um e-mail para eles, é importante ter em mente que eles podem coletar suas informações pessoais, como seu nome, endereço de e-mail e o conteúdo de sua mensagem. Além disso, se você interagir com suas páginas de mídia social, eles também podem coletar seus detalhes de contato de mídia social e qualquer informação pessoal que você decida divulgar na seção de comentários.

Dados do Dispositivo

Sendo um modelo de linguagem de IA, o ChatGPT coleta suas informações pessoais automaticamente de seu dispositivo e navegador para aprimorar sua experiência de usuário. No geral, essas informações incluem seu endereço IP, navegador, localização e a duração de sua sessão.

Além disso, os problemas de privacidade do ChatGPT recuperam o nome e o sistema operacional do seu dispositivo para otimizar seu desempenho no seu dispositivo. De acordo com os padrões da indústria, o ChatGPT usa cookies para rastrear sua atividade de navegação dentro da janela de chat e em seu site para melhorar continuamente seu serviço.

Interações com o Chatbot

É importante estar ciente de que este software registra e armazena transcrições de suas conversas, incluindo qualquer informação pessoal que você possa fornecer. Isso pode acontecer acidentalmente, especialmente se você usar o ChatGPT para revisar documentos pessoais ou profissionais.

Usar o ChatGPT para o trabalho pode ser arriscado, pois pode envolver o armazenamento de informações confidenciais sobre sua empresa, funcionários ou clientes. Por exemplo, se você usar o ChatGPT para compilar feedback e organizá-lo em um relatório, você pode inadvertidamente divulgar os detalhes de contato de seus clientes.

O ChatGPT Grava Suas Conversas?

A resposta simples é sim. Em relação aos detalhes, o ChatGPT grava e salva permanentemente todas as informações que você insere no sistema. A política de privacidade do ChatGPT afirma que os dados do usuário, incluindo mensagens, arquivos carregados e comentários, são armazenados pelo sistema. Se você usar o ChatGPT, todas as suas interações com o sistema são salvas e podem ser acessadas pelos treinadores de IA do sistema.

No entanto, é importante notar que esse recurso do ChatGPT pode potencialmente representar um risco para a segurança da rede. Além disso, a política de privacidade do ChatGPT indica que os treinadores de IA podem ler as interações do usuário para refinar ainda mais o discurso e melhorar a IA.

Portanto, os usuários devem estar cientes desses fatores e tomar as precauções necessárias para proteger sua privacidade ao usar o ChatGPT. Você pode usar uma VPN, criar nomes de usuário e senhas únicos e evitar compartilhar informações sensíveis com o sistema.

Quem Pode Ver Minhas Conversas com o ChatGPT?

Pode ser uma surpresa para você que, como indivíduo, suas informações pessoais são acessíveis a várias pessoas e organizações. A OpenAI, por exemplo, afirma em sua política de privacidade que compartilha essas informações com várias entidades, incluindo fornecedores, outras empresas, afiliados, entidades legais e treinadores de IA que revisam suas conversas.

Embora a OpenAI forneça poucos detalhes sobre com quem eles compartilham seus dados ou para que finalidade. Eles mencionam que alguns provedores de serviços com os quais trabalham incluem serviços de hospedagem na web, serviços em nuvem, provedores de TI, gerentes de eventos, serviços de e-mail e serviços de análise. No entanto, outros aspectos de sua política são mais claros.

Em certas situações, como transações, reorganização, falência ou administração judicial, a OpenAI compartilhará suas informações com outras empresas com as quais estão envolvidas.

O que a OpenAI diz sobre o impacto do ChatGPT na privacidade?

A OpenAI parece não se incomodar com essas questões, talvez até entusiasmada demais com as capacidades inquestionáveis de sua nova tecnologia. Em suas perguntas frequentes, ela escreve : “Por favor, não compartilhe informações confidenciais em suas conversas”, o que é ingênuo e inútil. É como dizer a alguém para não pensar em um urso.

As pessoas inevitavelmente inserirão todos os tipos de dados pessoais em seus “prompts” no ChatGPT para obter respostas fascinantes para perguntas que lhes interessam, prompts que não podem ser excluídos, de acordo com as Perguntas Frequentes da OpenAI. E se você não for cuidadoso o suficiente para proteger detalhes íntimos da sua vida nos prompts que enviar ao ChatGPT… acabou. Uma vez enviados, nada pode ser feito para eliminar as informações pessoais que o sistema já adquiriu em seus 570 gigabytes de dados de treinamento.

As leis de privacidade acompanharão o ChatGPT?

Mesmo que a OpenAI não se preocupe com os enormes riscos de privacidade de seu sistema, é provável que em breve seja forçada a tomar medidas devido às leis de privacidade da UE e de outros países. Por exemplo, parece certo que grande parte dos dados ingeridos pelo ChatGPT estão sujeitos ao Regulamento Geral sobre a Proteção de Dados (GDPR) da UE, que restringe a forma como os dados pessoais podem ser usados para finalidades diferentes daquelas para as quais foram inicialmente coletados.

Além disso, a nova Lei de IA da UE , atualmente em fase de finalização, pode ter um grande impacto na forma como o ChatGPT é usado e policiado.

Se o problema fosse apenas o vazamento de dados pessoais pelo ChatGPT em suas respostas a solicitações, o problema poderia ser solucionável. Mas agora que o Google e a Microsoft entraram no setor com seus próprios chatbots baseados em IA, anunciados recentemente, a escala do problema é muito maior.

Some-se a isso o fato de que a gigante chinesa Baidu também está prestes a lançar seu próprio sistema , juntamente com os planos da Microsoft de lançar um software que permitirá que qualquer empresa crie seu próprio chatbot , e fica claro que os problemas de privacidade descritos acima provavelmente serão muito maiores do que qualquer um imagina atualmente. Chatbots baseados em IA são, sem dúvida, uma tecnologia incrível, mas também representam um desastre de privacidade prestes a acontecer.

Fonte: Private Internet Access & UPDF

Veja também:

ChatGPT é um desastre de privacidade. Descubra o porquê.

Quais são os principais problemas do ChatGPT?

Como o ChatGPT coleta informações pessoais