Sam Altman, CEO e cofundador da OpenAI, deixou o Comitê de Segurança e Proteção da empresa para que o grupo funcione como uma instância de supervisão do conselho com mais independência. Com a saída, o comitê passa a operar sem o principal executivo na mesa, reduzindo o risco de conflito de interesses na avaliação de lançamentos de modelos de IA.
O que muda na prática com a saída
Na prática, a mudança mira a mesma crítica que vinha acompanhando o comitê desde a criação: a presença do CEO poderia enfraquecer a autonomia do grupo na hora de questionar riscos, pedir ajustes ou segurar um lançamento. Sem Altman, a estrutura tende a parecer mais próxima de uma auditoria de governança do que de um fórum interno de produto.
A OpenAI criou o comitê em maio de 2024, com a missão de orientar decisões de segurança e proteção relacionadas a modelos de IA desenvolvidos e colocados em produção pela empresa, que tem a Microsoft como parceira estratégica. A saída de Altman acontece no contexto de uma tentativa de tornar essa supervisão mais independente em relação à liderança executiva.
Mini modelo para entender a mudança
Uma forma simples de ler o movimento é pelo trio governança, incentivos e ritmo:
Governança: quem tem poder formal para barrar decisões.
Incentivos: quem ganha com velocidade de lançamento e quem paga o custo de incidentes.
Ritmo: quanto a empresa consegue acelerar sem degradar testes, avaliações e monitoramento.
Quem decide e como o comitê atua
Com Altman fora do colegiado, o Comitê de Segurança e Proteção passa a ser formado por Paul Nakasone, ex-diretor da NSA, e Adam D’Angelo, cofundador do Quora, ambos do conselho, além de Nicole Seligman, ex-executiva da Sony, e Zico Kolter, professor e diretor de aprendizado de máquina na Escola de Ciência da Computação da Universidade Carnegie Mellon.
Segundo a OpenAI, o comitê recebe da liderança informações e resultados de avaliações de segurança ligadas a lançamentos relevantes. Em conjunto com o conselho, o grupo também exerce supervisão sobre releases e pode atrasar um lançamento até que preocupações de segurança sejam tratadas.
Exemplo prático do papel do comitê
No lançamento do modelo de raciocínio o1, a empresa informou que o comitê revisou os critérios usados para determinar se o sistema estava apto a ir ao público, além de analisar os resultados das avaliações de segurança relacionadas ao modelo.
Regra de decisão para o leitor aplicar
Regra prática: se um comitê de segurança tem poder de veto, mas é liderado por quem tem metas diretas de crescimento e lançamento, a tendência é a segurança virar “aprovador de última hora”. Quando a supervisão migra para um órgão ligado ao conselho e com autoridade para adiar releases, a chance de revisão independente aumenta.
Por que a discussão ganhou força dentro da empresa
Antes mesmo da criação do comitê, funcionários atuais e ex-funcionários vinham manifestando desconforto com o ritmo de expansão, sugerindo que a organização estaria crescendo rápido demais para manter padrões de segurança consistentes. Esse tipo de ruído interno costuma ganhar relevância quando novos modelos elevam a pressão por entregas e por vantagem competitiva.
Um dos sinais mais citados desse atrito foi a saída de lideranças técnicas, incluindo Jan Leike, que se desligou no mesmo período em que Ilya Sutskever, cientista-chefe na época, também deixou a empresa. Leike escreveu publicamente que, na visão dele, processos e cultura de segurança vinham perdendo espaço para a priorização de produtos.
Recomendações apontadas após uma revisão interna
O comitê também concluiu uma revisão de 90 dias dos processos e salvaguardas e indicou uma linha de ações para a empresa:
- Governança independente: separar supervisão de segurança da cadeia executiva de produto.
- Medidas de proteção mais fortes: reforçar testes, critérios e mitigação de riscos.
- Mais transparência: explicar melhor como o trabalho de segurança é conduzido.
- Colaboração externa: ampliar diálogo com organizações de fora.
- Estruturas unificadas: aproximar a segurança do desenvolvimento e do monitoramento após o lançamento.