Trabajadores Demandaron a Workday por Presunto Sesgo en Contrataciones a Través de la Inteligencia Artificial

Introducción

Recientemente, una serie de demandas han sido presentadas contra Workday, alegando sesgo en las contrataciones automatizadas utilizando inteligencia artificial (IA). Esto destaca la creciente preocupación sobre cómo la IA puede perpetuar sesgos y desigualdades. Este documento busca ofrecer una guía técnica detallada sobre las implicaciones de estas demandas, así como los pasos necesarios para configurar, implementar y administrar sistemas que pretenden mitigar tales sesgos en el uso de IA en la contratación.

Pasos para Configurar e Implementar Sistemas de IA en Contratación

1. Evaluación de Requerimientos

   • Realiza un análisis crítico de los objetivos de contratación y los criterios que se utilizarán para evaluar candidatos. Involucra a un equipo multidisciplinario (RRHH, técnicos de IA, y abogados) para definir criterios de evaluación justos y equitativos.

2. Selección de Herramientas de IA

   • Investiga y selecciona herramientas de IA que sean transparentes y que permitan un análisis de sesgo. Ejemplos de plataformas incluyen HireVue, Pymetrics y, por supuesto, Workday.

3. Configuración de Algoritmos y Parámetros

   • Implementa algoritmos de aprendizaje automático que incluyan medidas para detectar y mitigar sesgos. Por ejemplo, deberás ajustar el algoritmo de clasificación para que no dependa excesivamente de ciertas variables que podrían introducir sesgos.
   • Configuración recomendada:

     • Utiliza técnicas de validación cruzada.
     • Asegúrate de que la base de datos esté libre de información sesgada.

4. Entrenamiento y Validación de Modelos

   • Entrena el modelo con datos históricos de contrataciones que sean diversos y representativos. Realiza pruebas de sesgo en los resultados y ajusta los modelos en consecuencia.

5. Implementación y Monitoreo

   • Implementa la solución de IA en el proceso de contratación. Asegúrate de tener métricas claras para evaluar la eficacia del sistema y realiza auditorías regulares para revisar el rendimiento del modelo y la equidad de los resultados.

Mejores Prácticas

• Inclusión de Diversidad en Datos: Asegúrate de que el conjunto de datos utilizado para entrenar el modelo represente adecuadamente a las diversas comunidades.
• Transparencia: Proporciona informes de cómo se toman las decisiones. Los candidatos deben tener acceso a saber cómo se evaluaron sus aplicaciones.
• Revisión Continua: Realiza auditorías externas regularmente para asegurar que el sistema siga siendo equitativo.

Configuraciones Avanzadas

• Uso de Analítica Predictiva: Utiliza herramientas de analítica que puedan identificar patrones de sesgo potencial en decisiones pasadas.
• Integración con Plataformas de Diversidad: Algunos sistemas, como Workday, permiten integraciones que puedes usar para enriquecer el proceso de contratación, pero asegúrate de que sean compatibles y revisadas por expertos.

Seguridad y Mitigación de Riesgos

• Protección de Datos: Asegúrate de que todos los datos de los candidatos estén encriptados y que se sigan regulaciones como GDPR o CCPA.
• Controles de Acceso: Restringe el acceso a datos sensibles y realiza auditorías de acceso regularmente.

Errores Comunes y Soluciones

1. Sesgo en los Datos Utilizados:

   • Problema: Los datos de entrenamiento pueden estar sesgados.
   • Solución: Realiza una revisión exhaustiva de los datos antes de usarlos para el entrenamiento.

2. Falta de Diversidad en el Grupo de Evaluadores:

   • Problema: El equipo que evalúa a los candidatos no representa la diversidad de la población.
   • Solución: Formar equipos de evaluación diversos y capacitados en justicia e inclusión.

3. Desalineación de Objetivos:

   • Problema: Los objetivos de HR y de I+D no están alineados.
   • Solución: Crear un marco de colaboración entre departamentos.

FAQ

1. ¿Cómo se debe auditar un sistema de IA utilizado para el proceso de selección?

   • Es recomendable establecer métricas de desempeño y revisar los resultados a intervalos establecidos. Se debe realizar análisis de resultado para identificar sesgos.

2. ¿Cuáles son las implicaciones legales de utilizar IA en contratación?

   • Las demandas pueden surgir si se demuestra que las decisiones automatizadas están impulsando un sesgo. Se debe consultar a un abogado especializado en derecho laboral.

3. ¿Qué medidas puede tomar Workday para minimizar sesgos?

   • Workday podría implementar ajustes específicos en algoritmos y realizar auditorías sistemáticas del sistema.

4. ¿Cómo se pueden optimizar modelos de IA para que sean justos?

   • Utiliza técnicas como la regularización y la selección de características para eliminar variables que introduzcan sesgos.

5. ¿Qué documentación se necesita para entender los sesgos en los sistemas de IA?

   • Consulta documentación técnica sobre la ética en IA y estudios sobre sesgo en el aprendizaje automático.

6. ¿Qué tecnologías son más efectivas para detección de sesgo en IA?

   • Herramientas como Fairness Indicators o AIF360 de IBM son ejemplos útiles.

7. ¿Cuál es el papel de los algoritmos explicables?

   • Son cruciales para entender cómo se toman las decisiones y pueden ayudar a mitigar sesgos.

8. ¿Cómo pueden los datos ser seleccionados para evitar sesgo?

   • Realizando un análisis discriminatorio sobre los datos y asegurándose de que sean representativos.

9. ¿Qué errores se suelen cometer durante la implementación de IA en rejuvenecimiento del talento?

   • Un error común es no realizar pruebas de sesgo previas a la implementación. La solución es realizar análisis piloto.

10. ¿Cuál es la mejor forma de garantizar la diversidad en el proceso de contratación?

    • Implementar un proceso de selección ciego, donde la información sensible no se presenta en las primeras fases.

Conclusión

La implementación de sistemas de inteligencia artificial en el proceso de contratación puede aportar eficiencia y optimización. Sin embargo, la reciente controversia sobre el sesgo en esta área destaca la necesidad de un enfoque ético y responsable. A través de una cuidadosa selección de herramientas, auditoría continua y la integración de mejores prácticas, las organizaciones pueden trabajar hacia una inclusión real en su proceso de selección. Con medidas de seguridad robustas y una atención concentrada en la mitigación de sesgos, será posible no solo cumplir con las expectativas regulatorias, sino también construir una fuerza laboral más diversa y equitativa.