No quiero discutir en abstracto. Prefiero bajar esta idea a tierra y preguntarnos qué significa, en concreto, no poner ninguna regla. Pensemos en un banco que deja que una IA decida a quién darle un crédito. La IA aprende de lo que el banco hizo en los últimos veinte años. Si en ese tiempo a los vecinos de ciertos barrios se les prestó menos, concluye que ahí no conviene prestar. Nadie se lo ordenó. Nadie lo decidió. Pero lo aplica miles de veces por día. Y el que vive en esos barrios pide un crédito y recibe un no por su código postal, sin que nadie tenga que explicarle por qué.
Esto no es teoría. En los Países Bajos, entre 2013 y 2020, la administración tributaria usó un sistema automático para detectar fraudes en los subsidios para el cuidado de los hijos. Entre los indicadores de riesgo figuraba la doble nacionalidad. Miles de familias fueron acusadas injustamente y obligadas a devolver dinero que no debían. En enero de 2021 renunció el gobierno entero. Los Países Bajos no son un país desordenado. Pero les pasó igual.
Ahora pensemos en una empresa que no tiene un solo empleado, manejada de punta a punta por una IA. Tampoco es ciencia ficción. El Gobierno envió al Congreso un proyecto para reconocer las “sociedades automatizadas”. Y su posición sobre las reglas es bien explícita.
