Cuando un vehículo autónomo atropella a un peatón, ¿quién responde? ¿El fabricante? ¿El programador que escribió la función de frenado? ¿La entidad reguladora que aprobó el despliegue? La cadena causal se diluye hasta volverse inasible. Esta difusión de la responsabilidad no es un accidente; es una característica del diseño distribuido de los sistemas sociotécnicos.
La filósofa Helen Nissenbaum denomina "accountability gap" a este vacío: nadie tiene control suficiente para ser responsable, pero todos participan en el resultado. La solución no reside en buscar un culpable único, sino en diseñar estructuras de gobernanza que distribuyan la rendición de cuentas proporcionalmente a la capacidad de intervención: auditorías algorítmicas obligatorias, juntas de ética con poder de veto, regímenes de responsabilidad solidaria entre desarrolladores y desplegadores.
El horizonte último no es técnico, sino político: ¿qué decisiones delegamos a la optimización estadística y cuáles reservamos al juicio moral humano? La autonomía no se protege prohibiendo la IA, sino exigiendo que toda delegación algorítmica sea reversible, auditable y, en última instancia, subordinada a la deliberación democrática.