Funcionários da OpenAI foram alertados sobre falhas de segurança por anos

Quando a OpenAI revelou em outubro que havia encontrado um dispositivo de gravação instalado em uma sala de conferências executiva, vários ex-funcionários tiveram a mesma reação: não ficaram surpresos.

Dados e contexto do setor

Mesmo antes do lançamento do ChatGPT no final de 2022, alguns funcionários expressaram preocupações internas sobre suas práticas de segurançada empresa , de acordo com cinco pessoas familiarizadas com o assunto.

Eles compartilharam suas preocupações com os principais líderes da OpenAI e com o conselho administrativo, disseram as fontes, acrescentando que alguns empregados concluíram que a gestão estava mais focada em acompanhar concorrentes como Google e Anthropic do que em segurança.

Esses funcionários argumentaram que os controles da desenvolvedora eram tão frouxos que pessoas de fora, incluindo governos estrangeiros, podiam obter informações sensíveis sobre a tecnologia do laboratório de IA com relativa facilidade, disseram as fontes.

Impactos e informações adicionais

Por exemplo, qualquer pessoa na OpenAI que tivesse acesso ao código-fonte poderia ver os detalhes técnicos a muitos projetos da empresa.

Segundo duas pessoas familiarizadas com o assunto, a OpenAI começou a mudar sua estratégia para lidar com problemas de segurança .

Thibault Sottiaux, um executivo sênior responsável pelo desenvolvimento de produtos, assumiu recentemente a liderança de uma iniciativa interna para proteger os sistemas internos, disseram as fontes.

Em agosto, Sottiaux, conhecido como "Tibo", realocou um quarto dos engenheiros de produção da OpenAI para aprimorar sua infraestrutura de segurança, afirmou uma das pessoas.

Os alertas internos, incluindo anos de reclamações de funcionários à liderança sobre vulnerabilidades internas , cujos detalhes não haviam sido divulgados anteriormente, revelam uma tensão no campo da IA.

Desde o lançamento do ChatGPT, a tecnologia de IA se tornou um ativo estratégico para os EUA, pressionando as empresas americanas a protegerem sua tecnologia da concorrência estrangeira.

Mas adicionar camadas de segurança também pode atrasar o processo de avanço da tecnologia de IA e possivelmente complicar os planos da OpenAI e da Anthropic para ofertas públicas iniciais massivas que as tornariam algumas das empresas mais valiosas do mundo.

Will DePue, ex-pesquisador da OpenAI que se demitiu da empresa em abril deste ano, escreveu em uma publicação no X que, com a competição tão acirrada, os líderes em IA "não podem sacrificar a velocidade pela segurança.

Para eles, é mais importante avançar rapidamente do que estar seguro, mesmo contra nossos maiores adversários nacionais".

Questionada sobre as preocupações dos funcionários e a opinião deles de que a administração não tomou medidas em relação a esses problemas, a porta-voz da OpenAI, Elana Widmann, disse que a desenvolvedora é uma das organizações mais visadas do mundo.

Como resultado, a empresa investe muito em seu programa de segurança para se proteger contra ataques internos, cibercriminosos e Estados-nação, afirmou.

"Proteger nossa tecnologia, nossos dados e nossas pessoas é uma responsabilidade que levamos a sério e uma questão de importância nacional", disse Widmann.

"As ações que tomamos recentemente mostram que esse programa está cumprindo seu papel: identificar riscos e responder de forma decisiva.

Continuaremos a fortalecer nossas defesas à medida que a tecnologia e as ameaças evoluem".

Em 13 de outubro, o Departamento de Justiça informou que agentes federais dos EUA prenderam um cidadão saudita e o acusaram de instalar um dispositivo de gravação de áudio oculto, escondido em papel higiênico, em uma sala de conferências executiva.

Abdulrahman Alfozan , de 35 anos, era engenheiro da OpenAI na época.

Segundo documentos judiciais, Alfozan também utilizou uma ferramenta de IA destinada a funcionários da OpenAI para encontrar documentação interna sobre executivos que visitaram a Arábia Saudita e quais funcionários tinham maior probabilidade de participar de reuniões com ministros sauditas.

Alguns funcionários já estavam preocupados há tempos com a ampla disponibilidade de informações dentro da OpenAI, disseram as cinco pessoas familiarizadas com as práticas da empresa.

Qualquer pessoa na OpenAI que tivesse acesso ao seu código também poderia ver os detalhes subjacentes a muitos dos projetos da empresa, incluindo projetos sensíveis não relacionados ao trabalho de um funcionário.

Isso porque a OpenAI armazenava a maior parte do seu código em um único repositório, conhecido no setor como "monorepo", disseram as fontes.

O monorepo era denso e complexo, o que pode ter dissuadido alguns potenciais invasores no passado. Agora, agentes de IA podem vasculhar essa quantidade de material.