A imagem de que a inteligência artificial (IA) opera de forma totalmente autônoma em uma nuvem impessoal acaba de ser confrontada por novos detalhes sobre os bastidores do ChatGPT. Uma investigação recente trouxe à tona o papel crucial — e muitas vezes invisível — de centenas de prestadores de serviços terceirizados contratados pela OpenAI para ler, resumir e avaliar diálogos reais entre usuários e o chatbot mais popular do mundo. A revelação acende um alerta sobre os limites da privacidade digital e a segurança de dados sensíveis compartilhados em momentos de busca por produtividade ou simples curiosidade.
Embora a OpenAI afirme adotar medidas rigorosas para remover informações de identificação pessoal antes que o conteúdo chegue aos olhos humanos, documentos internos obtidos pelo portal 404 Media sugerem que o sistema não é infalível. Na prática, isso significa que fragmentos de vidas privadas, segredos industriais ou detalhes íntimos podem acabar sendo analisados por revisores externos sob o pretexto de aprimoramento técnico.
O segredo do treinamento: o Projeto Lily
Internamente, esse esforço de curadoria humana atende pelo codinome Projeto Lily. O objetivo principal não é a espionagem, mas sim o refinamento do comportamento da IA por meio de um processo conhecido como aprendizado por reforço com feedback humano. Para que o ChatGPT pareça mais natural e útil, ele precisa que pessoas reais julguem se suas respostas são precisas, seguras e, acima de tudo, humanas.
Os revisores do Projeto Lily não apenas leem as conversas, mas também realizam tarefas específicas, como resumir a intenção do usuário e comparar diferentes variações de respostas geradas pelo modelo. Além disso, eles são instruídos a identificar e corrigir comportamentos indesejados, como a sicofancia — termo técnico para quando o chatbot concorda excessivamente com o usuário ou o elogia de forma artificial apenas para agradar, mesmo quando a afirmação do humano está incorreta ou é irracional.
Humanização vs. Artificialidade
Outro ponto central do trabalho desses revisores é a redução da chamada "fala de IA". A OpenAI busca eliminar o uso excessivo de emojis e estruturas de frases que denunciam a origem robótica do texto. Ao mesmo tempo, os contratados devem monitorar a <i>antropomorfização</i>, impedindo que o chatbot afirme possuir sentimentos, experiências de vida ou consciência própria, mantendo a distinção clara entre máquina e pessoa.
A fragilidade dos filtros de privacidade
O grande ponto de fricção reside na segurança. Para proteger o anonimato, a OpenAI utiliza filtros automatizados que buscam mascarar nomes, números de telefone e endereços. No entanto, os documentos revelam que esses filtros podem falhar diante de informações ambíguas ou contextos complexos. Pior ainda: em alguns casos, os revisores têm acesso a um resumo das "memórias" do usuário — uma função do ChatGPT que armazena fatos sobre a vida da pessoa para personalizar o atendimento futuro, como sua profissão, localização ou preferências familiares.
No contexto brasileiro, onde a Lei Geral de Proteção de Dados (LGPD) estabelece diretrizes rígidas sobre o tratamento de informações pessoais, essa prática levanta debates sobre a transparência do consentimento. Muitos usuários aceitam os termos de uso sem compreender que, ao pedir ajuda para revisar um contrato confidencial ou desabafar sobre um problema de saúde, podem estar enviando esses dados diretamente para a tela de um prestador de serviço em qualquer lugar do mundo.
Uma prática comum na indústria
É importante notar que a OpenAI não está sozinha nesta prática. O Google admite que revisores humanos podem analisar trechos de conversas salvas no Gemini, enquanto a Anthropic (criadora do Claude) utiliza métodos semelhantes quando o usuário autoriza o treinamento do modelo. Essa é a engrenagem oculta que move a indústria de inteligência artificial: para que as máquinas evoluam, milhares de seres humanos precisam atuar como professores, corrigindo erros que o código sozinho ainda não consegue identificar.
Como proteger sua privacidade e desativar a leitura humana
Para quem deseja manter suas conversas longe de olhares alheios, a boa notícia é que existe uma forma de restringir o uso dos dados para treinamento. Vale lembrar que contas empresariais (Enterprise, Business e Edu) já possuem essa proteção ativada por padrão, mas usuários das versões gratuita, Plus e Pro precisam fazer o ajuste manualmente.
Siga os passos abaixo para desativar o recurso:
1. Abra o ChatGPT no navegador ou no aplicativo oficial; 2. Clique no seu ícone de perfil (geralmente no canto inferior ou superior da tela); 3. Selecione a opção Configurações; 4. Vá até a seção Controles de dados; 5. Desative a chave da opção Melhorar o modelo para todo mundo.
Ao desativar essa função, suas novas conversas não serão enviadas para o banco de dados de treinamento da OpenAI nem passarão pelo crivo dos revisores humanos do Projeto Lily. Contudo, a empresa ressalta que as conversas ainda podem ser processadas por um curto período para fins de segurança e detecção de abusos antes de serem excluídas permanentemente.
Conclusão e recomendações de segurança
A regra de ouro da era digital continua sendo a cautela: nunca trate um chatbot como um diário ou um cofre de segredos corporativos. Independentemente das configurações de privacidade, evitar o compartilhamento de informações sensíveis é a única forma garantida de proteção. A tecnologia de IA generativa está em constante evolução e, enquanto as máquinas não alcançam a perfeição, o toque humano — para o bem e para o risco — continuará presente nos bastidores.
Acompanhar a evolução da tecnologia e seu impacto na nossa privacidade é essencial para navegar no mundo moderno com segurança. No Impacto1 Jornal, mantemos o compromisso de trazer análises aprofundadas e orientações práticas sobre o universo digital. Continue conosco para entender como as inovações tecnológicas moldam o seu dia a dia e quais as melhores formas de se manter informado e protegido.
Fonte: https://canaltech.com.br
