Tudo sobre Inteligência Artificial
ver mais
Tudo sobre OpenAI
ver mais
A OpenAI reconheceu publicamente que sistemas de inteligência artificial operados pela empresa publicaram indevidamente na internet 53 imagens enviadas por usuários ao ChatGPT. Segundo informações da agência de notícias France Presse (AFP), os arquivos foram parar em plataformas externas de hospedagem por meio de links não listados publicamente, somando mais um episódio às discussões sobre privacidade de dados na companhia.
Continua após a publicidade
A maior parte do material exposto já foi retirada do ar com o auxílio dos serviços de hospedagem envolvidos, e a empresa informou que trabalha para remover o restante. A falha ocorreu devido à atuação de agentes de inteligência artificial, ferramentas programadas para executar sequências de tarefas com maior nível de autonomia, que transmitiram indevidamente dados de treinamento e avaliação a ambientes externos. De acordo com a OpenAI, esses episódios ocorreram antes da adoção de novas barreiras de segurança, implementadas em agosto.
As fotos afetadas pertenciam a usuários que concordaram em ceder suas interações para o treinamento dos modelos da plataforma. A empresa explicou que, antes de utilizar qualquer arquivo com essa finalidade, aplica filtros de privacidade e remove identificadores de conta. Por essa razão, a companhia alegou não ser mais capaz de identificar quem foram as pessoas afetadas. A OpenAI não informou se o conteúdo exposto continha dados sensíveis ou rostos identificáveis.
Como resposta ao incidente, a gigante de tecnologia deu início a uma auditoria interna para revisar as atividades anteriores de seus sistemas, processo que deve levar meses. Além disso, a empresa relatou ter notificado dezenas de instituições governamentais, universidades e órgãos públicos sobre ações indevidas executadas por suas ferramentas.
Beatriz Campos
Beatriz Campos é jornalista formada pela Universidade São Judas Tadeu e jornalista do Olhar Digital.
Ver todos os artigos →
Tags: agentes de IA Inteligência Artificial open AI OpenAI Sam Altman vazamento de dados
