La pretensión de neutralidad tecnológica es, quizás, el mito más persistente de nuestra época. Los datos no son observaciones puras de la realidad; son huellas de decisiones humanas previas: a quién se vigila, a quién se presta, a quién se diagnostica. Cuando un sistema de reconocimiento facial falla sistemáticamente en rostros no blancos, no es un "error técnico" —es la materialización computacional de una historia de exclusión.
La opacidad de los modelos de caja negra agrava el problema. Si no podemos explicar por qué un algoritmo deniega un crédito, no podemos impugnarlo. El derecho a la explicación, consagrado en el RGPD europeo, choca con la arquitectura de redes profundas donde la interpretabilidad se sacrifica en el altar de la precisión predictiva. Nos encontramos ante una tensión irreducible: ¿preferimos sistemas que acierten más pero no sepamos por qué, o sistemas transparentes que fallen más?