Marina llevaba tres años en Helios Tech, una startup que se enorgullecía de "democratizar el talento" mediante inteligencia artificial. Su equipo había desarrollado TalentMatch, un algoritmo que prometía eliminar el sesgo humano en la contratación analizando currículos sin nombres, fotos ni universidades — solo competencias, proyectos y trayectorias.
Una tarde de martes, mientras depuraba un false positive en el módulo de ranking, Marina notó algo que le heló la sangre: el modelo asignaba puntuaciones consistentemente más bajas a perfiles con experiencia en ciertas ONGs, cooperativas y proyectos de código abierto. No era aleatorio. Los pesos del modelo penalizaban trayectorias que no encajaban en el molde corporativo estándar.
Ejecutó una auditoría rápida. De 12.000 candidaturas procesadas el último trimestre, el 73% de los perfiles con background en economía social habían sido descartados en la primera criba. La correlación era estadísticamente significativa (p < 0.001). El algoritmo no estaba eliminando sesgos; los estaba codificando.