Algorithmic hiring and evaluation can both entrench bias and reduce firm efficiency; the paper urges mandatory ex‑ante audits and traceability and reframes bias mitigation as an efficiency imperative rather than mere legal compliance.

Main Finding

El artículo argumenta que las herramientas algorítmicas de selección y evaluación laboral no solo reproducen sesgos históricos sino que, por su opacidad y economía de escala, pueden facilitar y estabilizar discriminación sistemática ("discriminación algorítmica facilitada"), generando pérdidas de eficiencia en los mercados de trabajo. En consecuencia, la mitigación de sesgos debe considerarse una condición para la eficiencia económica —no solo un requerimiento legal— y requiere una gobernanza dual: auditorías ex-ante técnicas + análisis de impacto económico y trazabilidad reforzada con responsabilidad para proveedores.

Key Points

• Definición conceptual: "discriminación algorítmica facilitada" — procesos algorítmicos que reducen costos de discriminar, ocultan patrones por opacidad y legitiman decisiones aparentemente objetivas.
• Crítica teórica: el paradigma homo economicus es insuficiente; los algoritmos codifican racionalidad limitada y heurísticos humanos (economía comportamental), por lo que la competencia sola no garantiza desaparición de discriminación.
• Integración multidisciplinaria: combina economía del derecho (Becker, Arrow, Phelps), economía comportamental, teoría de la información asimétrica (Akerlof) y estudios sociotécnicos sobre poder algorítmico.
• Fallos de mercado específicos: externalidades negativas no internalizadas por empleadores/proveedores (brechas salariales, tasas de selección, pérdida de capital humano), agravadas por asimetría de información entre desarrolladores, empresas usuarias y trabajadores.
• Gobernanza propuesta: arquitectura dual — auditorías ex-ante de sesgo y trazabilidad/log de decisiones — más un régimen de responsabilidad reforzada para sistemas de alto riesgo.
• Herramienta empírica: el artículo propone un plan econométrico replicable para estimar efectos en tasas de selección y disparidades salariales por grupo, y para cuantificar costos transaccionales e asimetrías informacionales.
• Relevancia normativa: reevalúa estándares de discriminación en contextos de "caja negra" algorítmica y sugiere incorporar pruebas económicas de impacto además de pruebas técnicas de sesgo.

Data & Methods

El artículo no presenta un experimento empírico completo pero ofrece un plan metodológico replicable, que incluye:

Datos sugeridos - Registros administrativos de RRHH (pipeline de selección: solicitudes, cribado, entrevistas, ofertas), salarios y promociones. - Metadatos y logs de modelos (features usadas, puntuaciones, timestamps, versiones del modelo). - Datos administrativos externos (tasas de desempleo, rotación, litigios por discriminación). - Registros de plataformas de empleo y datos de mercado laboral para contrafactuales. - Estudios de correspondencia (audit studies) y datos de auditoría algorítmica: inputs sintéticos que varían atributos protegidos.

Variables clave a construir - Indicadores binarios: shortlisted, entrevistado, contratado. - Resultado continuo: salario inicial, salario posterior, productividad observada. - Covariables: educación, experiencia, ubicación, sector, características del puesto, variables utilizadas por el algoritmo. - Medidas de costos transaccionales: tiempo-to-hire, número de entrevistas, tasa de apelaciones/reclamos. - Indicadores de opacidad: acceso a explicación, disponibilidad de logs, versión del modelo.

Estrategias de identificación propuestas - Diferencias-en-diferencias (DiD): comparar empresas o unidades antes y después de introducir sistemas algorítmicos, frente a controles no expuestos. - Event study: analizar dinámicas temporales alrededor de la implementación. - Oaxaca–Blinder y descomposiciones contrafactuales: cuantificar la parte de la brecha salarial atribuible a retornos observables vs no observables (posible "efecto algoritmo"). - Correspondence/audit studies: enviar perfiles emparejados con variaciones en atributos protegidos para medir tasas de respuesta/entrevista. - Regression discontinuity o análisis alrededor de umbrales si el sistema usa thresholds observables para cribado. - Auditoría algorítmica técnica: tests de fairness (statistical parity, equalized odds, predictive parity) y simulaciones contrafactuales (re-weighting, counterfactual fairness). - Robustness y bounding: colocación de límites para sesgos no observables y uso de métodos de sensitiviy (por ejemplo, Lee bounds en selección). - Medición de externalidades y eficiencia: estimación del cambio en excedente del empleador vs bienestar social; cálculo de costos agregados por discriminación (pérdida de productividad, litigios, rotación).

Especificaciones empíricas (esquema) - Modelo de selección: Prob(contratación_it) = α + β·Algoritmo_t + γ·Grupo_i + δ·(Algoritmo_t × Grupo_i) + X_i'θ + η_t + μ_j + ε_it donde interés en δ (disparidad diferencial post-implementación). - Modelo salarial (en muestra contratados): Salario_it = α + β·Algoritmo_t + γ·Grupo_i + δ·(Algoritmo_t × Grupo_i) + X_i'θ + η_t + μ_j + ε_it - Descomposición Oaxaca–Blinder para cambios en brecha salarial pre/post. - Cálculo de pérdidas de eficiencia: contrafactuales de productividad agregada y simulaciones de bienestar si las contrataciones fueran neutrales.

Gobernanza y trazabilidad metodológica - Auditorías ex-ante: evaluación de métricas de fairness en datasets de desarrollo y pruebas contra poblaciones representativas. - Registro de trazabilidad: logging obligatorio de inputs, scores, decisiones finales y versión del modelo para permitir auditorías ex-post y reproducibilidad. - Indicadores de cumplimiento: tests periódicos, reportes de impacto y obligación de remediación si se detectan disparidades significativas.

Limitaciones metodológicas señaladas - Sesgo de selección en datos de firmas (no aleatorio quién publica logs). - Variables no observables sobre productividad real que dificultan atribuir causalidad total. - Riesgo de juegos por parte de proveedores/usuarios si saben métricas de auditoría públicas (problema de Goodhart).

Implications for AI Economics

• Recalibrar la noción de eficiencia: la corrección de sesgos es puesta como requisito de eficiencia social. Modelos que reducen costes privados mediante decisiones discriminatorias generan externalidades y fallos de mercado duraderos.
• Competencia insuficiente: la competencia de mercado no garantiza eliminación de discriminación cuando ésta está codificada en infraestructuras digitales opacas; puede estabilizarse como equilibrio de mercado.
• Incentivos de proveedores y plataformas: introducir responsabilidad legal y exigencias de auditoría cambia incentivos de diseño (mayor inversión en datasets representativos, transparencia y documentación técnica).
• Valor de la trazabilidad: pedir logs y métricas estandarizadas reduce asimetrías de información entre desarrolladores, empleadores y reguladores, mejorando capacidad de intervención y remedio.
• Política pública orientada a bienestar: regulación combinada (auditorías técnicas + análisis económico de impacto + obligaciones de remediación/liability) es más adecuada que enfoques puramente técnicos o únicamente sancionadores.
• Investigación futura en economía aplicada: necesidad de estudios empíricos que cuantifiquen el coste agregado de la discriminación algorítmica (pérdida de capital humano, efectos en productividad agregada, impactos distributivos) y evalúen políticas (obligatoriedad de auditorías, transparencia contractual, cambios en responsabilidad).
• Metodología replicable como bien público: estandarizar protocolos de evaluación (datasets de referencia, métricas, especificaciones econométricas) facilitará comparación entre estudios y diseñar evidencia para regulación efectiva.

Resumen final El artículo ofrece un marco conceptual y una guía empírica para tratar la discriminación algorítmica en el empleo como un fallo de mercado con consecuencias económicas medibles. Plantea que intervenir sobre datos, métricas y estructura institucional (transparencia, auditoría y responsabilidad) no es solo una exigencia de justicia, sino una política necesaria para restaurar eficiencia en mercados laborales mediados por IA.