ISO 42001: El nuevo estándar que redefine la gobernanza de la IA

¿Qué es ISO/IEC 42001?

ISO/IEC 42001 es un estándar de sistema de gestión, no una especificación técnica para algoritmos. Establece los requisitos para un sistema de gestión de IA, o SGIA (AIMS, por sus siglas en inglés): las políticas, procesos, evaluaciones de riesgo y controles que rigen cómo una organización construye y opera su IA. Como sigue la misma metodología Planificar-Hacer-Verificar-Actuar (PDCA) que ISO 27001 e ISO 9001, ya resulta familiar para cualquier equipo que haya pasado por una auditoría ISO.

En la práctica, el estándar cubre todas las etapas de la IA, desde el diseño hasta el despliegue, el monitoreo y el retiro. En resumen, ISO 42001 rige cómo construyes la IA, no qué construyes.

A lo largo de sus cláusulas y controles se repiten cinco temas, aunque el estándar nunca los presenta como principios formales: seguridad (proteger los sistemas de accesos no autorizados), protección de las personas (evitar riesgos para quienes se ven afectados por la IA), equidad (decisiones libres de sesgos no deseados), transparencia (claridad sobre cómo funciona un sistema) y calidad de los datos (información de entrenamiento y operación precisa y completa).

La familia más amplia de normas ISO/IEC 42000

ISO/IEC 42001 pertenece a una familia más amplia de normas desarrolladas conjuntamente por ISO e IEC para cubrir la gobernanza, el riesgo, la terminología y la evaluación de la IA. Ninguna de ellas dicta qué algoritmos o modelos usar; en cambio, se centran en cómo las organizaciones diseñan, despliegan, operan y supervisan la IA de forma responsable. De las cuatro, solo ISO/IEC 42001 es certificable, por lo que es la que está más ligada al trabajo diario de seguridad.

Las otras tres normas cubren aspectos específicos. ISO/IEC 42005 aborda las evaluaciones de impacto, ISO/IEC 42006 establece los requisitos para los organismos que auditan y certifican conforme a ISO/IEC 42001, y ISO/IEC TR 42008 ofrece orientación para adaptar el estándar a distintos contextos organizacionales. Juntas, le dan a auditores, implementadores y proveedores un vocabulario común para el trabajo de gobernanza de IA.

¿Quién necesita ISO 42001?

Cualquier organización que desarrolle, ofrezca o use productos o servicios basados en IA debe prestarle atención, sin importar su tamaño o sector. Esto incluye por igual a startups de veinte personas y a grandes empresas globales, a entidades públicas y a compañías privadas, y a organizaciones que construyen su propia IA tanto como a las que simplemente usan herramientas de IA de terceros.

Dentro del estándar: cláusulas y Anexo A

ISO 42001 tiene diez cláusulas. Las primeras tres sientan las bases: alcance, referencias normativas (que hoy remiten a ISO/IEC 22989 para la terminología de IA) y definiciones. Las otras siete, de la cláusula cuatro a la diez, contienen los requisitos obligatorios y cubren un ciclo completo de gobernanza: entender el panorama de IA de la organización y su exposición regulatoria, asegurar el compromiso de la alta dirección, ejecutar evaluaciones de riesgo específicas para IA, capacitar al personal, gestionar la IA durante la operación, monitorear el desempeño mediante auditorías y actuar según lo que esas auditorías revelen.

El Anexo A, sin embargo, es la parte que los equipos de seguridad deben leer con más atención. Agrupa los controles específicos de IA en nueve categorías, desde la política de IA y los roles internos hasta la calidad de los datos, la transparencia, el uso responsable y las relaciones con terceros que involucran IA. El Anexo B suma orientación para la implementación, el Anexo C enumera fuentes de riesgo y el Anexo D vincula ISO 42001 con otros estándares.

Cómo ISO 42001 transforma la gestión de riesgos de ciberseguridad

ISO 42001 no sustituye a estándares como ISO 27001; más bien, suma riesgos propios de la IA a las preocupaciones de confidencialidad, integridad y disponibilidad que ya cubren los programas de seguridad. Ese panorama más amplio incluye fallas exclusivas de la IA: comportamiento impredecible del modelo, degradación del desempeño (o model drift), uso no autorizado de un modelo en producción, alta dependencia de los datos de entrenamiento e inferencia, y decisiones automatizadas con consecuencias reales de seguridad.

Para gestionar esto, el estándar exige una estructura de gobernanza que la mayoría de los programas de seguridad nunca tuvo que definir: responsables designados para cada sistema de IA, políticas de uso documentadas, criterios de aprobación antes del lanzamiento, gestión de cambios, monitoreo continuo y un proceso definido para incidentes. Sin esa estructura, los sistemas de IA tienden a llegar a producción sin que nadie sea responsable de su comportamiento.

La seguridad de punta a punta aplica esa misma lógica de Secure-by-design y secure-by-default directamente a la IA. Exige controles en cada etapa, desde el diseño y el entrenamiento hasta el despliegue y el retiro. Así, un modelo que hoy es seguro no se convierte silenciosamente en un riesgo meses después.

Los requisitos de trazabilidad van incluso más allá. Las organizaciones deben conservar evidencia del origen de los datos, las versiones de los modelos, los cambios a lo largo del tiempo y el monitoreo posterior al despliegue, en línea con la visibilidad de la cadena de suministro que exige NIST SP 800-161 sobre proveedores y componentes. Ese rastro de evidencia es lo que convierte una auditoría o una investigación de incidentes en algo realmente posible, y no solo teórico.

La supervisión humana conecta todo esto. Las decisiones críticas apoyadas por IA necesitan una revisión humana real, sobre todo cuando está en juego la seguridad, la privacidad u otros derechos; es el mismo principio detrás de los controles humanos que hoy se esperan para los agentes de IA que se conectan a herramientas externas mediante protocolos como Model Context Protocol.

ISO 42001 frente a ISO 27001 y SOC 2

Los tres marcos son complementarios, no rivales. ISO 27001 protege los activos de información mediante cifrado, controles de acceso y salvaguardas similares, reorganizadas recientemente en la revisión 2022 de ISO/IEC 27002. SOC 2 es una atestación que demuestra que los controles existentes funcionan como se describe. ISO 42001, en cambio, es una certificación que rige cómo una organización toma sus decisiones basadas en IA.

Como aproximadamente el 60% de las cláusulas de ISO 42001 se superpone con ISO 27001 gracias a una Estructura Armonizada compartida, las organizaciones ya certificadas en 27001 pueden reutilizar gran parte de ese trabajo. En pocas palabras: SOC 2 demuestra que tus controles funcionan, ISO 27001 protege el sistema e ISO 42001 rige las decisiones que ese sistema toma.

Qué significa esto para los equipos de seguridad

ISO 42001 no le pide a los equipos de seguridad que reconstruyan lo que ya tienen bajo ISO 27001. Les pide extender esa misma disciplina —evaluaciones de riesgo, controles documentados, auditorías— a los sistemas de IA que ya están en producción, justo cuando los marcos de seguridad ya van a la zaga de lo rápido que cambian esos sistemas, sobre todo ahora que los modelos empiezan a dar forma a sus propios sucesores.

Por eso, las organizaciones que avanzan más rápido tratan la gobernanza de la IA como un problema de seguridad, no como un trámite de cumplimiento. La regulación va alcanzando terreno, y los compradores están empezando a exigir pruebas de exactamente ese tipo de gobernanza. Trátalo como seguridad desde ahora, y no tendrás que correr cuando un regulador o un cliente te lo exija.

En Fluid Attacks usamos ISO/IEC 27002:2022 como una de las normas de referencia para las pruebas de seguridad, y aplicamos ISO/IEC 27001 en los sistemas de nuestros clientes. Contáctanos!

⚠️ Atención: Este artículo es un resumen breve de ISO/IEC 42001:2023, no un sustituto de la lectura del estándar completo. Para cualquier propósito que no sea personal, te recomendamos comprar y leer el texto completo.