ISO 42001: O novo padrão que está redefinindo a governança de IA

O que é a ISO/IEC 42001?

A ISO/IEC 42001 é um padrão de sistema de gestão, não uma especificação técnica para algoritmos. Ela estabelece os requisitos para um sistema de gestão de IA, ou SGIA (AIMS, na sigla em inglês): as políticas, processos, avaliações de risco e controles que regem como uma organização constrói e opera sua IA. Como segue a mesma metodologia Planejar-Executar-Verificar-Agir (PDCA) da ISO 27001 e da ISO 9001, ela já é familiar para qualquer equipe que já passou por uma auditoria ISO.

Na prática, o padrão abrange todas as etapas da IA, do design até a implantação, o monitoramento e a desativação. Em resumo, a ISO 42001 rege como você constrói a IA, não o que você constrói.

Cinco temas se repetem ao longo de suas cláusulas e controles, ainda que o padrão nunca os apresente como princípios formais: segurança (proteger os sistemas contra acessos não autorizados), proteção das pessoas (evitar riscos para quem é afetado pela IA), equidade (decisões livres de vieses indesejados), transparência (clareza sobre como um sistema funciona) e qualidade dos dados (dados de treinamento e operação precisos e completos).

A família mais ampla de normas ISO/IEC 42000

A ISO/IEC 42001 faz parte de uma família mais ampla de normas desenvolvidas em conjunto pela ISO e pela IEC para cobrir governança, risco, terminologia e avaliação de IA. Nenhuma delas determina quais algoritmos ou modelos usar; em vez disso, elas tratam de como as organizações projetam, implantam, operam e supervisionam a IA de forma responsável. Das quatro, somente a ISO/IEC 42001 é certificável, e é por isso que está mais ligada ao trabalho diário de segurança.

As outras três cobrem lacunas específicas. A ISO/IEC 42005 trata das avaliações de impacto, a ISO/IEC 42006 define os requisitos para os organismos que auditam e certificam conforme a ISO/IEC 42001, e a ISO/IEC TR 42008 oferece orientação para adaptar o padrão a diferentes contextos organizacionais. Juntas, elas dão a auditores, implementadores e fornecedores um vocabulário comum para o trabalho de governança de IA.

Quem precisa da ISO 42001?

Qualquer organização que desenvolva, forneça ou use produtos ou serviços baseados em IA precisa prestar atenção a isso, independentemente do tamanho ou do setor. Isso vale tanto para startups de vinte pessoas quanto para grandes empresas globais, para órgãos públicos e empresas privadas, e para organizações que constroem sua própria IA como para as que simplesmente usam ferramentas de IA de terceiros.

Dentro do padrão: cláusulas e Anexo A

A ISO 42001 tem dez cláusulas. As três primeiras estabelecem a base: escopo, referências normativas (que hoje remetem à ISO/IEC 22989 para a terminologia de IA) e definições. As outras sete, da cláusula quatro à dez, contêm os requisitos obrigatórios e cobrem um ciclo completo de governança: entender o panorama de IA da organização e sua exposição regulatória, garantir o comprometimento da alta liderança, realizar avaliações de risco específicas de IA, capacitar as pessoas, gerenciar a IA durante a operação, monitorar o desempenho por meio de auditorias e agir de acordo com o que essas auditorias revelam.

O Anexo A, porém, é a parte que as equipes de segurança devem ler com mais atenção. Ele agrupa os controles específicos de IA em nove categorias, da política de IA e papéis internos até a qualidade dos dados, a transparência, o uso responsável e as relações com terceiros que envolvem IA. O Anexo B soma orientação para a implementação, o Anexo C lista fontes de risco, e o Anexo D relaciona a ISO 42001 com outros padrões.

Como a ISO 42001 transforma a gestão de riscos de cibersegurança

A ISO 42001 não substitui padrões como a ISO 27001; em vez disso, ela soma riscos específicos de IA às preocupações de confidencialidade, integridade e disponibilidade que os programas de segurança já acompanham. Esse cenário mais amplo inclui falhas exclusivas da IA: comportamento imprevisível do modelo, degradação de desempenho (ou model drift), uso não autorizado de um modelo em produção, forte dependência dos dados de treinamento e inferência, e decisões automatizadas com consequências reais de segurança.

Para gerenciar isso, o padrão exige uma estrutura de governança que a maioria dos programas de segurança nunca precisou definir: responsáveis nomeados para cada sistema de IA, políticas de uso documentadas, critérios de aprovação antes do lançamento, gestão de mudanças, monitoramento contínuo e um processo definido para incidentes. Sem essa estrutura, os sistemas de IA tendem a chegar à produção sem que ninguém seja responsável pelo seu comportamento.

A segurança de ponta a ponta aplica essa mesma lógica de Secure-by-design e secure-by-default diretamente à IA. Ela exige controles em cada etapa, do design e do treinamento até a implantação e a desativação. Assim, um modelo seguro hoje não se transforma silenciosamente em um risco meses depois.

Os requisitos de rastreabilidade vão ainda mais longe. As organizações precisam manter evidências da origem dos dados, das versões dos modelos, das mudanças ao longo do tempo e do monitoramento pós-implantação, em linha com a visibilidade de cadeia de suprimentos exigida pela NIST SP 800-161 sobre fornecedores e componentes. Esse rastro de evidências é o que transforma uma auditoria ou uma investigação de incidentes em algo realmente possível, e não apenas teórico.

A supervisão humana conecta tudo isso. Decisões críticas apoiadas por IA precisam de uma revisão humana real, sobretudo quando segurança, privacidade ou outros direitos estão em jogo; é o mesmo princípio por trás dos controles humanos hoje esperados para agentes de IA que se conectam a ferramentas externas por meio de protocolos como o Model Context Protocol.

ISO 42001 x ISO 27001 x SOC 2

Os três padrões são complementares, não concorrentes. A ISO 27001 protege ativos de informação por meio de criptografia, controles de acesso e salvaguardas semelhantes, reorganizadas recentemente na revisão de 2022 da ISO/IEC 27002. A SOC 2 é uma atestação que comprova que os controles existentes funcionam como descrito. A ISO 42001, por sua vez, é uma certificação que rege como uma organização toma suas decisões baseadas em IA.

Como cerca de 60% das cláusulas da ISO 42001 se sobrepõem às da ISO 27001 graças a uma Estrutura Harmonizada compartilhada, as organizações já certificadas na 27001 podem reaproveitar boa parte desse trabalho. Em resumo: a SOC 2 comprova que seus controles funcionam, a ISO 27001 protege o sistema, e a ISO 42001 rege as decisões que esse sistema toma.

O que isso significa para as equipes de segurança

A ISO 42001 não pede que as equipes de segurança reconstruam o que já têm sob a ISO 27001. Ela pede que estendam essa mesma disciplina — avaliações de risco, controles documentados, auditorias — aos sistemas de IA que já estão em produção, justo num momento em que os marcos de segurança já estão atrasados em relação à velocidade com que esses sistemas mudam, sobretudo agora que os modelos começam a moldar seus próprios sucessores.

É exatamente por isso que as organizações que avançam mais rápido tratam a governança de IA como um problema de segurança, não como uma formalidade de conformidade. A regulação está avançando, e os compradores estão começando a exigir provas exatamente desse tipo de governança. Trate isso como segurança agora, e você não vai precisar correr quando um regulador ou um cliente exigir provas.

Na Fluid Attacks, usamos a ISO/IEC 27002:2022 como uma das normas de referência para os testes de segurança, e aplicamos a ISO/IEC 27001 nos sistemas de nossos clientes. Fale com a gente!

⚠️ Atenção: Este post é um resumo breve da ISO/IEC 42001:2023, não um substituto para a leitura do padrão completo. Para qualquer finalidade que não seja pessoal, recomendamos comprar e ler o texto completo.