El primer desafío: reconocer que la IA ya está siendo utilizada

En muchas organizaciones, el primer desafío no es gobernar la inteligencia artificial, sino reconocer que ya se utiliza. Herramientas generativas incorporadas por empleados, áreas de negocio o proveedores pueden procesar información y apoyar la toma de decisiones antes de que exista una política, un inventario o una evaluación formal. Del shadow IT hemos pasado al shadow AI, con una velocidad y una capacidad de exposición aún mayores.

La respuesta no debería ser simplemente negar su uso ni bloquear toda iniciativa. Debe comenzar por conocer qué sistemas se utilizan, para qué finalidades, con qué datos, bajo qué condiciones y quién es responsable. No se puede gobernar lo que la organización no sabe que existe.

Por qué la seguridad es el cimiento

Ningún sistema puede considerarse confiable si antes no es seguro. La explicabilidad y la equidad pierden valor si los datos pueden ser manipulados, si el modelo puede ser robado o alterado, o si sus resultados pueden ser interceptados. Un sistema de IA comprometido no es solamente opaco o potencialmente injusto: pierde la base necesaria para confiar en lo que produce.

Por eso, la seguridad es el cimiento de la gobernanza de la IA y no una capa más. La IA no es una entelequia: es una solución tecnológica compuesta por datos, modelos, infraestructura, interfaces, servicios en la nube y proveedores. También puede implicar tercerización, relaciones contractuales y transferencias internacionales de datos. Los controles de seguridad, privacidad, arquitectura, continuidad y gestión de proveedores que ya aplicamos a otros proyectos tecnológicos siguen plenamente vigentes y deben atravesar todo su ciclo de vida. A ellos se suman amenazas específicas, como el envenenamiento de datos, el robo de modelos, la ingeniería inversa, la manipulación de entradas y la fuga de información.

Existe, además, una ventaja práctica. Una organización con un sistema de gestión de seguridad maduro ya sabe identificar riesgos, definir controles, conservar evidencia, auditar los resultados y corregir desvíos. Ese músculo, desarrollado con ISO/IEC 27001, es exactamente el que la gobernanza de la IA necesita.

Lo que la tríada clásica no alcanza a cubrir

Dicho esto, tratar la ISO/IEC 42001 como una ISO/IEC 27001 aplicada a modelos es un error cómodo. La seguridad es una condición necesaria para gobernar la IA, pero no suficiente. Objetivos como la equidad, la transparencia, la explicabilidad, la robustez, la supervisión humana y la consideración de los impactos sociales no se resuelven únicamente con confidencialidad, integridad y disponibilidad.

Un sistema puede estar impecablemente protegido y ser, al mismo tiempo, profundamente injusto. Puede contar con cifrado robusto y registros completos y, aun así, negar un crédito sin una explicación suficiente, discriminar a determinados grupos o degradar su desempeño cuando los datos de producción se apartan de los utilizados durante su entrenamiento. Ninguna de esas fallas necesariamente dispara una alarma de seguridad. Sin embargo, todas son fallas de gobierno.

Ahí está el cambio de encuadre. En un sistema de gestión de seguridad protegemos principalmente información y otros activos asociados. En un sistema de gestión de IA gobernamos una capacidad que puede inferir, recomendar, clasificar o apoyar decisiones, y cuyos efectos recaen sobre personas, organizaciones y sociedad. Pasamos de proteger activos a responder también por resultados e impactos.

De la seguridad al gobierno, riesgo y cumplimiento de la IA

Leída con ojos de auditor, la ISO/IEC 42001 amplía el encuadre hacia el gobierno, el riesgo y el cumplimiento. No basta con proteger la tecnología: hay que establecer quién decide, qué riesgos se aceptan, qué obligaciones se aplican y cómo se demuestra que el sistema opera dentro de los límites definidos.

En materia de gobierno, la organización necesita políticas, roles y mecanismos claros de toma de decisiones. ¿Qué usos de la IA están permitidos? ¿Quién aprueba un caso de uso? ¿Quién es responsable del sistema y quién responde cuando falla? La evaluación de impacto obliga, además, a mirar hacia afuera y analizar las consecuencias para las personas y la sociedad, incluido el uso indebido razonablemente previsible.

En materia de riesgo, se amplía el catálogo tradicional. A los riesgos de seguridad y privacidad se suman el sesgo, la discriminación, la falta de explicabilidad, la deriva del modelo, los errores de generalización y los efectos no previstos. Gobernar IA tampoco consiste únicamente en contener los daños: supone decidir qué beneficios se quieren alcanzar, bajo qué condiciones y con qué salvaguardas. Es administrar de manera consciente el equilibrio entre innovación, desempeño, cumplimiento y confianza.

En materia de cumplimiento, deben considerarse las leyes de protección de datos, las regulaciones sectoriales, los compromisos contractuales y los requisitos aplicables según el país y el tipo de uso. La trazabilidad y la supervisión humana abarcan todo el ciclo de vida: procedencia y calidad de los datos, posibles sesgos, criterios de diseño, registros, información para las partes interesadas y la distribución de responsabilidades entre desarrolladores, proveedores, clientes y usuarios.

El fondo del asunto

Para quien ya cuenta con un sistema de gestión de seguridad consolidado, la buena noticia es que no se parte de cero. La estructura armonizada permite reutilizar prácticas de gestión de riesgos, control documental, auditoría interna, acciones correctivas y revisión por la dirección. ISO/IEC 42001 puede integrarse con ISO/IEC 27001 para la seguridad y con ISO/IEC 27701 para la privacidad, incorporando las particularidades propias de la IA. Se integra; no debería duplicarse.

La contracara es que el responsable de seguridad ya no puede razonar solamente en clave de amenazas. Gobernar IA exige sentar en la misma mesa a seguridad, privacidad, legal, datos, negocio, recursos humanos y expertos del dominio. También exige aceptar que el éxito no se mide únicamente por la ausencia de incidentes, sino por la capacidad de demostrar que los sistemas funcionan de acuerdo con su propósito, dentro de límites definidos y con resultados confiables.

La gobernanza tampoco se demuestra únicamente con una política o con la creación de un comité. Se demuestra con inventarios de sistemas, responsables asignados, evaluaciones de impacto, revisión de proveedores, controles de acceso, guardrails, registros de auditoría, pruebas de robustez, monitoreo del desempeño y decisiones documentadas. En otras palabras, con evidencia verificable.

La seguridad es la puerta natural de entrada a la gobernanza de la IA, porque es allí donde muchas organizaciones ya aprendieron a pensar el riesgo con rigor. Pero es la puerta, no la casa. Una IA confiable debe proteger los datos, prevenir daños y operar con transparencia, resiliencia y control durante todo su ciclo de vida. Nada de eso sucede por defecto. Para quien recorrió el camino de ISO/IEC 27001, el desafío no es extraño: es la misma cultura de control, evidencia, responsabilidad y mejora continua, aplicada a sistemas que recomiendan, clasifican y apoyan decisiones. Y por esas decisiones siempre debe responder una persona o una organización.