Em 4 de maio de 2023, Kamala Harris reuniu, na Casa Branca, líderes de empresas que puxavam a corrida da IA generativa e deixou um recado simples: lançar sistemas poderosos sem proteção suficiente vira risco público, não só aposta de produto. A fala mirou segurança, conformidade com leis e impactos em democracia, direitos e trabalho.
O recado para quem coloca IA no mercado
A orientação passada aos CEOs foi que segurança em IA não é opcional: empresas têm responsabilidade ética, moral e também legal por aquilo que colocam em produção. A reunião incluiu lideranças de Alphabet, Microsoft, OpenAI e Anthropic, justamente para tratar de salvaguardas antes de ampliar a escala de uso.
Pelos convites e relatos publicados na época, o encontro foi desenhado para mapear riscos do desenvolvimento de IA, discutir como reduzir esses riscos e definir formas de cooperação entre governo e setor privado sem travar inovação. Em outras palavras, a conversa saiu do discurso genérico e entrou no terreno de governança.
O que “salvaguardas” costuma significar na prática
Para quem desenvolve ou integra modelos de IA em produtos, “fazer do jeito certo” tende a virar um pacote de controles, com pontos claros de responsabilidade:
- Avaliação antes do lançamento com testes de abuso e cenários de alto risco, como fraude e engenharia social.
- Red teaming com times internos e externos tentando provocar falhas e usos indevidos, para descobrir o que o produto incentiva sem querer.
- Rastreabilidade com logs, trilhas de auditoria e capacidade de explicar de onde veio uma resposta quando algo dá errado.
- Barreiras de uso com políticas, limites e bloqueios para temas sensíveis, além de mecanismos de denúncia.
- Monitoramento contínuo porque o risco muda com novos prompts, novos dados, novas integrações e novos atacantes.
Riscos reais e o que muda na prática
A IA generativa acelera tarefas de texto, busca e criação, mas ainda esbarra em problemas conhecidos, como respostas imprecisas e facilidade de uso para manipulação. O próprio governo tratou o tema como questão de segurança antes do “deploy”, e o debate ganhou contornos de responsabilidade quando produtos começaram a chegar ao público em escala.
Também apareceu o lado econômico: em maio de 2023, a IBM comunicou uma pausa na contratação de parte de funções administrativas que poderiam ser substituídas por automação e IA ao longo do tempo, e o número citado na cobertura foi de cerca de 7.800 posições. Isso virou um símbolo de como IA entra na conta de custos, não só na de inovação.
Do ponto de vista regulatório, a Casa Branca também se apoiou em instrumentos como consultas públicas. Um exemplo foi o processo da NTIA, órgão do Departamento de Comércio dos EUA, que abriu em 13 de abril de 2023 um pedido de comentários sobre “accountability” em IA e recebeu mais de 1.400 contribuições.
Mini-modelo para entender o risco
Uma forma simples de classificar o que merece travas mais duras é o triângulo Impacto, Escala e Reversibilidade:
- Impacto: pode afetar direitos, dinheiro, saúde, eleições ou reputações em grande escala.
- Escala: pode ser explorado por muita gente ao mesmo tempo, inclusive de forma coordenada.
- Reversibilidade: o dano é difícil de desfazer, como vazamento, calúnia viral ou fraude consumada.
Regra de decisão rápida
Se a aplicação tiver alto impacto e alta escala, então o padrão mínimo deveria incluir testes independentes, limites de funcionalidade, monitoramento permanente e um “botão de desligar” operacional. Se não houver como provar isso, não deveria ir para o público.
Exemplo prático de salvaguarda que faz diferença
Imagine um banco no Brasil usando um assistente de IA para renegociar dívidas via chat. Um desenho mais seguro costuma incluir: base de conhecimento fechada e versionada (para reduzir alucinação), identificação clara de que é IA, bloqueio para pedidos fora de escopo (como “liberar limite sem análise”), revisão humana para casos de contestação, e registro de conversas para auditoria e resposta a incidentes. O ganho é simples: menos risco jurídico e menos chance de o canal virar ferramenta de fraude.
Para quem quiser acompanhar a linha de discussão do governo dos EUA sobre responsabilidade em IA, a NTIA mantém uma página de referência em Artificial Intelligence Accountability Policy. Já o setor privado também se posicionou publicamente, por exemplo em contribuições como Comment on NTIA AI Accountability Policy.
Quem é Kamala Harris
Kamala Harris é uma política e advogada norte-americana, nascida em 20 de outubro de 1964, em Oakland, na Califórnia. Ela estudou na Howard University e formou-se em direito na University of California, Hastings (hoje UC Law San Francisco).
Na carreira pública, passou por cargos de promotoria, foi district attorney em San Francisco (2004), attorney general da Califórnia (2010) e senadora pela Califórnia (eleita em 2016). Harris foi vice-presidente dos Estados Unidos de 20 de janeiro de 2021 a 20 de janeiro de 2025, a primeira mulher a ocupar o cargo, além de ser a primeira pessoa negra e a primeira pessoa de origem sul-asiática na vice-presidência.