La inteligencia artificial es un reto de gobernanza en el que todos los colectivos de una organización han de estar involucrados. Y ello es así porque los desafíos que trae consigo no son tanto tecnológicos sino profundamente humanos. Ante un potencial de negocio que se antoja infinito es más necesario que nunca comprometerse con la idea de que el fin no justifica los medios, y en lo que respecta a la IA, marcar los límites de los cómo y los para qué no es sólo una cuestión de regulación normativa sino mucho más de valores y de ética corporativa. Dado que sus posibilidades crecen exponencialmente el posicionamiento de las empresas no se puede dilatar: la reflexión debe iniciarse ahora y desde lo más alto de la organización, y ha de expresarse en un modelo de gobernanza que recoja la estrategia corporativa, tanto dentro como fuera de ella.
El cumplimiento normativo y el cumplimiento ético son, en el marco de la inteligencia artificial, obligaciones críticas, interdependientes y al mismo nivel de prioridad, ya que ambos resultan esenciales para garantizar un uso responsable y beneficioso de esta tecnología. Y no sólo porque la velocidad de crecimiento exponencial de ésta choque con los tiempos jurídicos, sino porque los grises que pueda generar su aplicación en muchos casos habrán de quedar cubiertos por los principios y los valores organizacionales, profesionales pero también personales. La distinción entre estas tres esferas no es baladí, porque si ponemos a la persona en el centro del algoritmo y las personas queremos estar en el centro del él, más allá del compromiso de las organizaciones y de sus profesionales, cada individuo tiene su propia responsabilidad para conducirse con ella y en ella. Las empresas tienen un rol referente a la hora de crear cultura de compliance pero el cumplimiento no sólo se agota en ella; de la misma manera de compliance somos todos, la cultura de IA también ha de ser de todos.
La responsabilidad empresarial en la construcción de una cultura de uso de IA
El Reglamento Europeo de IA será de obligado cumplimiento en 2026, o antes si los procedimientos se aceleran, y las obligaciones que impone, con sus consiguientes sanciones en caso de incumplimiento, llaman a poner orden en cada casa con antelación y en detalle. A los principios tradicionales de respeto a los derechos humanos y no discriminación que inspiran el RIA, el legislador suma los de transparencia y explicabilidad, con los que quiere exponer la razonabilidad de las decisiones basadas en IA al entendimiento de todas las partes implicadas.
Precisamente esta claridad de conceptos, usos y fines de la IA es la que le dota de un objetivo adicional a un modelo de gobernanza, más allá del mero cumplimiento normativo y para hacer de éste una misión común: el de contribuir a generar una cultura de uso ético y responsable de la misma. Del modelo se derivarán políticas y procedimientos de obligado cumplimiento que, para ello, habrán de ser interiorizados a través de hábitos en los procesos y en las actitudes de toda la jerarquía de la organización. La visión holística y multidisciplinar, es el primer mandato de un modelo de gobernanza que debería incluir:
- Código ético: Reglas y protocolos internos para un uso responsable, seguro y confiable de la IA.
- Liderazgo:Alta dirección y cadena de mando como modelo e impulsor de dichos principios éticos en el día a día.
- Evaluación de riesgos:Impacto en procesos, en negocio, en el entorno y en empleados, así como normativo, ético y reputacional.
- Capital humano: Creación de una cultura corporativa de IA que interiorice el código ético, el cumplimiento normativo, la consciencia sobre los sesgos + (reskilling) y desarrollo (upskilling).
- Modelo de compliance:Cumplimiento de las regulaciones y leyes aplicables, desde la privacidad de los datos hasta la responsabilidad de las decisiones tomadas basadas en sistemas de IA.
- Infraestructura:Tecnología segura y escalable en términos de gestión de datos y de ciberseguridad.
- Estructura de comunicación entre equipos multidisciplinares: Organigrama de roles y responsabilidades en materia de IA, creación de equipos multidisciplinares para hacer confluir el conocimiento técnico y de procesos y establecimiento de canales transversales de reporting y de rendición de cuentas definidos.
- Supervisión de los modelos de IA:Procedimiento sistematizado para evaluar, y en su caso, auditar, de manera continua el rendimiento de los modelos, así como para poner en contexto los resultados y/o recomendaciones de la IA, con el objetivo de eliminar o mitigar el impacto de posibles sesgos y para asegurar el cumplimiento normativo y de los principios éticos de la organización.
Y dado que la inteligencia artificial es una tecnología en evolución exponencial, el modelo de gobernanza ha de estar sometido a revisiones periódicas que le permiten actualizarse respecto a las nuevas obligaciones legales, a los nuevos desafíos en materia de ética y equidad y a las propias necesidades organizativas.
El rol de RR.HH. en los modelos de gobernanza de la IA es crítico en la medida en que son los interlocutores que aportan confiabilidad y trazabilidad al uso de esta tecnología, tanto en los procesos de gestión de talento como en los de negocio:
- Sensibilizando a empleados y directivos:
- con la creación de espacios y momentos para el diálogo y el entendimiento de los principios de la IA ética y su impacto en el lugar de trabajo; por ejemplo, entre grupos interdepartamentales, con oportunidades de experimentación, etc.
- con acciones formativas y recursos informativos accesibles y comprensibles;
- con canales de escucha activa para recabar y solventar dudas y e inquietudes.
- Desarrollando políticas:
- sobre el uso de la IA en el lugar de trabajo, que incluyan principios éticos y directrices de implementación;
- anticipándose con casuísticas de posibles retos y problemas;
- garantizando la coherencia de las políticas con los valores y propósitos corporativos y con la normativa laboral aplicable;
- implementando procesos de revisión y auditoría para garantizar el cumplimiento de las políticas de IA en materia de gestión RH.
- Diseñando sistemas de IA responsable:
- en colaboración con los equipos de desarrollo de IA generando un «lenguaje común» de tecnología y procesos RH;
- que incorporen criterios de evaluación de los posibles impactos en la equidad, la no discriminación y la privacidad;
- que aseguren los derechos de intimidad y protección de datos personales de los empleados.
- Fomentando la rendición de cuentas:
- con una jerarquía clara de responsabilidades;
- con procedimientos para la comunicación de posibles irregularidades que garanticen los derechos de las partes implicadas y que den trazabilidad a su resolución.
- Implicando a la representación legal de los trabajadores:
- para la comprensión del alcance del uso de la IA en procesos de gestión de talento con formación adhoc;
- en la explicabilidad de los modelos algorítmicos;
- en la confiabilidad de su uso;
- en la divulgación del código ético.
