ChatGPT e a proteção de dados: Como a lei atua nessas situações?

Em fevereiro de 2023, o portal JOTA compartilhou a seguinte notícia:

“O Tribunal de Justiça do Estado de Minas Gerais (TJMG) apresentou uma ferramenta de inteligência artificial (IA) para auxiliar magistrados, servidores e colaboradores da área administrativa na redação de textos e documentos. 

A plataforma, apelidada de Sistema Assistente Virtual de Inteligência Artificial (SAVIA), é baseada no Chat GPT – uma tecnologia projetada para ser capaz de gerar textos de forma autônoma similar a um escrito por um ser humano.”

A novidade, que pretende poupar tempo, parece ser muito segura no primeiro momento. Entretanto, encontramos alguns perigos no que diz respeito ao uso de dados pessoais, em violação direta à Lei Geral de Proteção de Dados (LGPD). 

Dessa forma, para esclarecer quaisquer dúvidas sobre a relação entre o ChatGPT – e outras inteligências artificiais – e as determinações legais de proteção de dados, o CEDIN produziu este artigo. 

Boa leitura! 

O que é o ChatGPT? 

O Generative Pre-Training Transformer (GPT), também conhecido como ChatGPT, é uma ferramenta online de inteligência artificial (IA) criada pela empresa norte-americana OpenAI em 2019.

Durante o desenvolvimento da tecnologia, os engenheiros adotaram a técnica de processamento de linguagem natural (PLN) como forma de tornar a experiência mais humanizada. E o que isso significa? A ferramenta foi criada para funcionar como um chat, uma conversa entre duas pessoas. Desta maneira, é mais simples criar um comando – o que chamamos de prompt – para a ferramenta executar.

Quando você escrever perguntas, ou comandos, o ChatGPT vai responder como se vocês estivessem em uma janela de mensagens. 

O que é a LGPD?

Aprovada em agosto de 2018 pelo então Presidente da República, Michel Temer, a Lei Geral de Proteção de Dados Pessoais (LGPD) é a legislação brasileira que aborda o tratamento de dados pessoais, incluindo coleta, tratamento, armazenamento e compartilhamento.  

O propósito principal é proteger os direitos fundamentais de liberdade e privacidade de cada indivíduo na internet. Portanto, a LGDP determina, com detalhes, como as instituições devem proceder com os dados dos indivíduos e quais são suas obrigações. 

Proteção de dados 

Mas qual é a relação entre o ChatGPT e a LGPD? Antes de responder essa pergunta, precisamos compreender como a ferramenta foi desenvolvida.

Treinar o ChatGPT

Tudo começa com um vasto banco de textos disponíveis na internet. Nele, encontramos de tudo: Publicações jornalísticas, artigos e até mesmo mensagens publicadas em redes sociais, como o Twitter. 

O ChatGPT acessa esse conteúdo e armazena as informações para fazer consultas quando recebe um prompt. Em outras palavras, ele cria uma enorme biblioteca, onde guarda tudo que pode ser útil na hora de produzir uma resposta ou executar uma ordem. 

Aplicar a LGPD no ChatGPT

Como visto anteriormente, o ChatGPT é alimentado com dados, portanto colaboradores de empresas devem estar atentos ao uso da ferramenta em suas tarefas diárias. Assim, duas situações são especialmente preocupantes. 

Compartilhar dados pessoais

Um colaborador do RH pode adicionar dados pessoais de candidatos a uma vaga de emprego e criar o seguinte prompt no ChatGPT: Escreva um e-mail de recusa para cada candidato listado. 

Assim, ao alimentar a ferramenta com esses dados, a empresa está compartilhando dados pessoais com a OpenAI. Nesta situação, se o titular não concedeu sua permissão para o tratamento desses dados e seu consequente compartilhamento, a empresa está violando a LGPD. 

Usar dados pessoais em tomadas de decisão

Em outro exemplo, um hospital insere um prompt com os dados médicos dos pacientes e demanda uma lista com a ordem de quem será operado primeiro. 

Novamente, os dados compartilhados com a OpenAI são sensíveis e demandam um tratamento cuidadoso de acordo com a LGPD. Entretanto, os critérios usados pelo ChatGPT podem ser incertos, ou baseados em um viés discriminatório ou histórico. Sendo assim, é preocupante delegar a uma inteligência artificial decisões de alta complexidade. 

Vazamentos de dados no ChatGPT

Até mesmo a inteligência artificial é suscetível aos vazamentos de dados. Em março de 2023, os usuários do ChatGPT foram surpreendidos com a notícia de um problema na ferramenta. A InfoMoney noticiou:

“Mas, na semana passada, o ChatGPT ficou offline por uma outra razão: um bug em uma biblioteca de código aberto que permitia que alguns usuários vissem títulos do histórico de bate-papo de outro usuário ativo. A informação foi dada pela própria OpenAI que, após uma semana de investigação, confirmou o vazamento de dados sensíveis de usuários, incluindo o histórico de conversas.”

Em suma, podemos observar um efeito dominó. Ao inserir dados pessoais dos seus clientes no ChatGPT e ter seu histórico de prompts e respostas vazado, os dados destes terceiros também podem ser vazados ao mesmo tempo. 

Sendo assim, é necessário criar processos internos em uma empresa para assegurar o cumprimento integral da LGPD quando aplicada à inteligência artificial. 

Conformidade com a LGPD

Para assegurar que o tratamento de dados, incluindo através da inteligência artificial, seja feito adequadamente, existem três ações imediatas. 

Coletar o consentimento

O primeiro passo é fazer a coleta do consentimento dos titulares dos dados. Essa coleta deve ser feita a partir de uma ação, como clicar em um “eu aceito” ou marcar um formulário com “eu autorizo”. Assim, o usuário deve saber que está autorizando a coleta e tratamento dos seus dados. 

Ser transparente com suas ações 

Textos prolixos e que tornam a compreensão de leigos em uma tarefa desafiadora devem ser reescritos. O usuário deve ser capaz de ler e entender os termos da coleta e tratamento de dados propostos. Apenas com a transparência é possível tomar decisões educadas, portanto torne esse processo mais simples. 

Monitorar e auditar a inteligência artificial 

A responsabilidade das instituições é assegurar que os dados inseridos nas inteligências artificiais – como o ChatGPT – estão em conformidade com a LGPD. Ou seja, eles foram coletados da maneira apropriada e os titulares deram o consentimento para o tratamento de dados nessas plataformas. 

Conclusão

Todos os cuidados dispensados à proteção de dados também se aplicam à inteligência artificial e ao ChatGPT. Como um advogado que utiliza estas tecnologias diariamente, você precisa estar atento à lei. 

Por fim, para te auxiliar nesse assunto, o CEDIN oferece o curso de pós-graduação em Privacidade e Proteção de Dados. Aqui, você aprenderá, na teoria e na prática, sobre a aplicação da privacidade e proteção de dados nas áreas do direito, segurança da informação e os seus desdobramentos.

Converse com um dos consultores do CEDIN e aprenda como proteger dados com eficácia!