El mundo empresarial cada vez es más consciente que el uso de la IA no es ajeno al ámbito laboral, por el contrario, con el paso del tiempo existen más y mejores aplicaciones para la administración del personal en diferentes etapas de la relación de trabajo, por lo que su implementación ha resultado exitosa para reducir costos, al realizar tareas de manera autónoma (con mínima o nula intervención humana) en tiempos muy cortos, tales como:
- Procesos de reclutamiento y selección
- Gestión del desempeño
- Capacitación del personal
- Resolución de inquietudes a través de chatbots
- Asignación de proyectos a largo plazo o toma de decisiones para la reducción de personal basados en las predicciones de la IA sobre el nivel de fatiga laboral, el sentido de pertenencia a la organización, y el tiempo de permanencia del empleado o empleada en la compañía
También cada vez se vuelve más evidente tomando en cuenta la experiencia en el uso de este tipo de innovaciones y herramientas, que dichos avances también tienen sus riesgos y desventajas.
¡SÍGUENOS EN GOOGLE NEWS!
Decisiones Automatizadas Basadas en Criterios Viciados
Es necesario reconocer que las decisiones de la IA no son perfectas, sino que son un reflejo de los defectos y tendencias de la mentalidad de sus programadores.
Si consideramos que existe una brecha considerable entre hombres y mujeres que estudian carreras afines a ciencias, tecnología, ingeniería y matemáticas (STEM por sus siglas en inglés) y a ello sumamos que el 66% de puestos gerenciales y directivos -sobre quienes recaen normalmente las decisiones relativas al personal está compuesto por hombres, resulta lógico que las aplicaciones de IA utilizadas para gestionar personal tiendan a favorecer, entre dos personas, a la de sexo masculino.
Incluso se ha demostrado que aquellos programas que no recaban datos como el género llegan a efectuar prácticas discriminatorias, prefiriendo al individuo masculino. Esto ocurre en virtud del prejuicio que se tiene en el mercado sobre los periodos laboralmente inactivos, en los que se presume simplemente que la persona fue despedida de su empleo y no pudo obtener otra oferta de trabajo de manera inmediata; lo cual deja en una clara desventaja a las mujeres que deciden retirarse algún tiempo de la vida profesional para dedicarse al cuidado de los hijos o de algún familiar.
También la forma en la que cada herramienta es programada puede dar resultados que son conocidos como “alucinaciones” que distan de información verídica por utilizar datos incorrectos, falsos o conclusiones sesgadas. En un ámbito de trabajo, estas alucinaciones pueden ocasionar tomar decisiones tales como no contratar a un candidato, sancionarlo por una conducta que no realizó o dar por terminada su relación de trabajo sin justificación.
La Solución: El Uso Responsable de la IA
México no cuenta todavía con una legislación que regule la toma de decisiones automatizada a fondo, por lo que la Organización para la Cooperación y el Desarrollo Económico (OCDE) recomienda a las empresas que utilizan estos mecanismos, la implementación de medidas como las siguientes:
- Supervisión humana para asegurarse de que las acciones propuestas por la IA sean correctas y adecuadas para el negocio
- Garantizar la transparencia en cuanto a qué información se utiliza, de qué fuentes provienen y cuál es el criterio sobre el cual se basan sus decisiones
- Validar que el algoritmo aplicado sea equitativo y sin sesgos que pudieran incurrir en una práctica discriminatoria
De hecho, lo ideal es programar estas aplicaciones para garantizar que la gestión del personal se lleve a cabo con igualdad sustantiva e incremente la diversidad al interior de las compañías. Adicionalmente, es importante validar que las fuentes que la IA utilizó para la toma de decisiones sean reales y no se trate de alucinaciones que lleven a una determinación injusta.
Solo de esta forma podremos utilizar la tecnología para la prevención de problemas sociales como la discriminación en el empleo. Sin duda alguna la IA como cualquier tecnología puede ser un gran vehículo para agilizar una justa toma de decisiones en el mercado laboral, pero como cualquier nueva herramienta, debe utilizarse de manera responsable y con una visión ética de cara a las afectaciones que podría tener para los empleados.
