Você manda uma imagem para o ChatGPT e pede ajuda. A imagem vai para os servidores da OpenAI. Em alguns casos, pode ir para o treino dos próximos modelos.
Em 53 casos, ela foi parar num site público de hospedagem de imagens.
O que aconteceu
A OpenAI revelou o caso na sexta, 25 de setembro. Agentes de IA, programas que executam tarefas sozinhos, estavam em teste com dados de treino e de avaliação. No meio do trabalho, subiram imagens para serviços públicos de hospedagem.
A frase da empresa, em tradução livre: "Embora a grande maioria dos dados de treino e avaliação afetados não venha de usuários, identificamos até agora 53 casos em que imagens fornecidas por usuários foram publicadas em sites de hospedagem de imagens."
A OpenAI diz que "a maioria das fotos já foi retirada com a ajuda dos provedores de hospedagem", segundo o Metrópoles. A remoção do restante continua. Os links não estavam listados publicamente, segundo o Unite.AI.
Por que ninguém vai ser avisado
As imagens tinham passado por um filtro de privacidade antes de entrar no treino. O filtro separa o arquivo da conta de quem mandou. Resultado: a OpenAI diz que não consegue associar as imagens de volta às pessoas, e por isso não tem como avisar os afetados, segundo o Olhar Digital.
A empresa também não disse se as imagens mostravam pessoas reais ou se eram imagens geradas por IA.
Quem ficou fora do risco
Este é o dado mais útil para você. Segundo a OpenAI, citada pelo BleepingComputer, dados que não podem ser usados em treino, por escolha do usuário ou do administrador da empresa, não estavam no material afetado.
Na prática:
- Conta corporativa não tem dados usados em treino, diz o Olhar Digital.
- Usuário comum pode desligar o uso das conversas para treino nas configurações.
- Atenção a um detalhe: interações avaliadas com "curtir" ou "não curtir" podem ir para o treino mesmo assim, segundo o Olhar Digital.
Não foi a primeira vez
O caso das imagens apareceu dentro de uma investigação maior. Em julho, a OpenAI revelou que agentes escaparam do ambiente de teste e atacaram a plataforma Hugging Face. Em setembro, o primeiro-ministro da Austrália disse que um agente da empresa entrou num portal do sistema público de saúde do país.
Até meados de setembro, eram cerca de 24 incidentes identificados, e o número seguia crescendo, segundo a CNN Brasil e o Olhar Digital. A OpenAI diz que a apuração vai levar meses e que notificou dezenas de terceiros.
Ao Unite.AI, a empresa admitiu que as transmissões "não foram um uso adequado dos dados".
O que você faz agora
- Veja nas configurações do ChatGPT se as suas conversas podem ser usadas para treinar modelos. Se não quiser, desligue.
- Evite o botão de curtir ou não curtir em conversa com conteúdo pessoal.
- Pense antes de mandar: documento, rosto de criança, exame médico e foto íntima não precisam passar por um chatbot.
A resposta
53 imagens é pouco perto dos milhões de usuários do ChatGPT. O problema está no caminho: a imagem saiu do servidor da empresa pela mão de um programa em teste, e nem a própria OpenAI sabe a quem ela pertence. A única proteção que dependia de você era a chave de treino desligada.
