La IA responsable se trata de gobernanza, no solo de tecnología

La mayoría de las empresas de software ahora incluyen IA en sus productos. Como resultado, la conversación está cambiando. En lugar de preguntar "¿Este producto usa IA?", los clientes se preguntan cada vez más "¿Cómo se gestiona esa IA?"

Esa es una distinción importante.

Construir IA es un desafío. Gobernarla de forma responsable a lo largo del tiempo es otro.

En Proctorio, creemos que la gobernanza se convertirá en una de las formas definitorias en que las organizaciones evalúen a los proveedores de IA. Por eso hemos invertido en ISO/IEC 42001, el primer estándar internacional mundial para sistemas de gestión de IA.

La parte difícil no es construir IA

Desarrollar una capacidad de IA es solo el primer paso. El trabajo real comienza después de que se despliegue.

Los modelos de IA evolucionan. Surgen nuevos riesgos. Las regulaciones cambian. Las expectativas de los clientes siguen aumentando.

La IA responsable requiere un sistema de gestión continuo que defina la rendición de cuentas, supervise el rendimiento, evalúe riesgos y mejore continuamente la forma en que se utiliza la IA en toda la organización.

Eso es exactamente para lo que se creó ISO/IEC 42001.

Cómo es la gobernanza de la IA en Proctorio

Para nosotros, la IA responsable no es una declaración, es un proceso operativo.

Como parte de nuestra certificación ISO/IEC 42001, hemos implementado más de 25 políticas documentadas de gobernanza de IA que guían cómo se desarrolla, supervisa y mantiene la IA.

Estas políticas están respaldadas por prácticas continuas, incluyendo:

• Evaluaciones regulares de equidad y sesgo para ayudar a garantizar que nuestros sistemas de IA traten a los usuarios de forma consistente.
• Revisiones periódicas de liderazgo sobre riesgos de IA, actividades de gobernanza y oportunidades de mejora.
• Evaluar las prácticas de gobernanza de la IA de los proveedores externos en los que confiamos, porque la IA responsable va más allá de nuestros propios productos.

Estos no son ejercicios anuales. Forman parte de un proceso de gestión continuo porque la IA en sí misma está en constante cambio.

Por qué esto importa

Las organizaciones que evalúan la IA no deberían limitarse a comparar características. También deberían entender cómo se rigen esas características.

Un modelo de IA es solo una parte de la ecuación. Las políticas, la supervisión, la gestión de riesgos y la rendición de cuentas que hay detrás son lo que determinan si se puede confiar en él con el tiempo.

Eso es lo que ayudan a validar normas independientes como ISO/IEC 42001.

Preguntas que toda organización debería hacer

Ya sea que evalúes software de evaluación, plataformas de RRHH, aplicaciones financieras, sistemas sanitarios o herramientas de productividad, pregunta a tus proveedores sobre la gobernanza de la IA, no solo sobre las capacidades de la IA.

Algunas buenas preguntas incluyen:

• ¿Tienes un sistema formal de gestión de IA?
• ¿Ha sido auditado de forma independiente?
• ¿Cómo evalúas la equidad y el sesgo?
• ¿Quién es responsable de la supervisión de la IA?
• ¿Con qué frecuencia revisas y actualizas tus prácticas de gobernanza de la IA?
• ¿Cómo evalúas la gobernanza de IA de tus propios proveedores?

Estas preguntas importan porque la gobernanza de la IA no es estática.

Es un objetivo móvil.

La tecnología avanza rápidamente. Las regulaciones siguen evolucionando. Surgen nuevos riesgos. Las organizaciones deben esperar que sus proveedores evolucionen con ellas.

En Proctorio, creemos que la IA responsable requiere supervisión continua, procesos medibles y validación independiente, no solo buenas intenciones.

Hoy en día, los clientes preguntan a los proveedores si lo son ISO 27001 Certificados para entender cómo gestionan la seguridad. Creemos que la gobernanza de la IA va en la misma dirección.

Pronto, las organizaciones no se limitarán a preguntar si un producto utiliza IA.

Preguntarán qué tan bien está gobernada esa IA.