Antonio J. Sánchez
29 de agosto de 2026
En esta entrada recojo mis observaciones sobre
una pregunta relativa a la IA que ha sido objeto de consideración por el Taller
que nuestra Asociación ha mantenido sobre la IA generativa y las relaciones
laborales en el curso que acaba de cerrarse.
Definición de “neutralidad algorítmica”.
A menudo, como señala
Miguel Toro en un reciente documento de trabajo para el Taller sobre IA de
nuestra Asociación, se otorga a los algoritmos el atributo de “neutralidad”, en
tanto que “toma decisiones, filtra información o arroja resultados sin
prejuicios, sesgos ni preferencias”, ya que trata todos los datos y usuarios
por igual, sin favorecer intereses políticos, económicos, de género o de raza,
y sin manipular lo que vemos. Pero, en la práctica, como él indica, la
neutralidad algorítmica es una ilusión, una falacia e incluso una pregunta sin
sentido.
Exigir de un
algoritmo, cosa que se hace frecuentemente, que “no tenga prejuicios” es algo
inconsistente, ya que, en tanto que modelo en sí, sólo hace lo que se le haya
dicho que haga, sea cual sea el nivel de sofisticación de la instrucción;
carece de la autonomía y la naturaleza que debe tener un ente para atribuírsele
prejuicios. Con ese inconsistente requerimiento se olvida de que el algoritmo
tiene padre y madre, y son a ellos, a los promotores y diseñadores, a quienes
deben pedírseles responsabilidades si hace algo que la sociedad o algunas
personas consideran inadecuado o dañoso.
Pero además la frecuente
reivindicación de la neutralidad algorítmica de que “trate a todos los datos y
usuarios por igual, sin favorecer intereses políticos, económicos…” es
inconsistente con la misma esencia de un algoritmo. Los algoritmos son
precisamente unos complejos de cálculos que expresan criterios y ponderaciones
establecidos por sus autores; todos ellos son apreciaciones que han sido
señaladas por los desarrolladores de los algoritmos o por quienes los hayan
encargado. La neutralidad algorítmica –si así pudiera decirse- consiste
precisamente en que los algoritmos hagan lo que se les pide que hagan. Y lo que
se les pide contiene todos los sesgos que colman cada una de las decisiones
humanas, a veces porque así se desea expresamente, a veces porque resultan de
comportamientos profundos sustentados en intereses muy concretos.
Por tanto hablar de
neutralidad o pedir neutralidad a un algoritmo es una cuestión carente de
sentido. Otra cosa distinta es que debe pedírsele Transparencia –a quien ha
adquirido o desarrollado un sistema IA- para que cuente con precisión los
criterios con que ha definido los objetivos del algoritmo, y estos mismos
objetivos: seguir a unas determinas personas o colectivos, matarlos, despedir a
los trabajadores que el autor o el cliente del algoritmo considera más
ineficientes, multar a los supuestos infractores de alguna norma, instrumentar
adecuadamente una disposición….
Cuando además se le
atribuye a los algoritmos el carácter de neutralidad se les está a menudo
atribuyendo unas virtudes de infalibilidad y un estatus de “autoridad”, ajenas
por completo a su carácter, y que a
menudo sustentan decisiones muy controvertidas. Invocar esa autoridad es simplemente
una tontería para embaucar a los crédulos (sean los aspirantes a crédulos
quienes sean: jefes de estado, CEO, usuarios del Tinder, críos adictos…), de la
bondad de lo que hace el algoritmo, sin fundamento alguno, algo muy empleado en
el marketing de las autocracias.
Las discriminaciones
Los algoritmos,
además de concluir o actuar conforme a los parámetros que se les haya marcado,
pueden incorporar “sesgos”, que tienen
como origen otro orden de asuntos: errores subyacentes en el origen de los
datos con que se les ha entrenado, a veces resultantes de la mala calidad de
esos datos, a veces resultantes de operaciones específicas para intoxicar los
resultados (véase los operaciones israelíes para colmatar las fuentes de
información sobre Israel con textos que beneficien su imagen), o el resultante de errores en su construcción
(fallos en la programación; asuntos que no han sido tomados en cuenta…).
El empleo de un tipo
u otro de datos en las etapas de entrenamiento de los sistemas puede sesgar
notablemente los resultados. Como en el caso del diseño, la acción humana es la
que ha determinado la naturaleza de los datos seleccionados, evaluando, si
acaso, su calidad. Es el actor humano de nuevo, por acción o por omisión, como
se decía antiguamente, quien configura la “neutralidad” del algoritmo, no el
algoritmo en sí.
Esas discriminaciones
pueden provenir además de algo muy básico: errores en el diseño, en los
programas que sostienen los algoritmos. La existencia de errores, que los hay
en numerosos planos (véase el ingente número de agujeros existentes en materia
de ciberseguridad), no hacen a los algoritmos más o menos neutrales; los hace
más o menos fiables. Las prisas con que en no pocas ocasiones se han ultimado
las versiones de los sistemas IA para salir a la calle antes que el competidor,
y su propia y a veces extrema complejidad, está probablemente en la base de la
escasa fiabilidad que en ocasiones alcanzan.
Cuanto más
sofisticados son los sistemas de IA (y más caros), sus errores y sesgos
procedentes de la calidad de los datos son menores. Y, al contrario. Se abre
con ello un nuevo ámbito de desigualdad resultante del tipo de IA que se
consuma, que se materializa en el precio de las suscripciones que se
establezcan, y que segmenta y discrimina
a los usuarios: ricos, pobres, medios…
La percepción de las
manifestaciones de los errores algorítmicos –en cualquiera de sus formas- es
una de las causas que aconseja lo que es el objeto de la siguiente cuestión: la
presencia de control humano.
Los algoritmos no
deberían atemorizarnos, en principio, por sus errores. Deben atemorizarnos y
hacernos estar atentos precisamente por sus éxitos. Si bien la frecuencia con
que están apareciendo acciones de los sistemas de IA aparentemente ajenos a lo
que se esperaba de ellos (que difícilmente cabe llamar “errores” sino más bien
modos inesperados de alcanzar los objetos que se le han fijado), aconseja no
bajar la guardia sobre esas manifestaciones. En cualquier caso no debemos
esforzarnos tanto en perseguir con lupa lo que hacen mal los SIA (Sistemas de
Inteligencia Artificial), sino precisamente en lo que hacen bien y sin embargo
es ajeno a nuestros valores, a nuestros intereses, a nuestro sistema de
convivencia.
Los algoritmos, complejos de inquietantes valoraciones
Dicho todo lo
anterior, no podemos en ningún momento ver los actuales sistemas de IA como
meros sistemas de cálculo. No lo son. Están llenos de valoraciones.
Y de lo que se trata entonces
es urgir transparencia en esas valoraciones y en la solvencia del sistema
construido para hacerlas efectivas. Y, en su caso, cuestionarlas, en la arena
política, judicial, sindical, cultural o la que corresponda, acompañadas de un
creciente enriquecimiento de las posiciones políticas ante la IA. Creo que el
virulento debate actual en los USA sobre la IA, en el que participan numerosas
corrientes políticas de todo tipo, es un
buen ejemplo de por dónde avanzar.
El acceso de los
sistemas de IA a los niños y jóvenes es un campo prioritario de
posicionamiento. Y las causas seguidas por numerosos Estados norteamericanos
contra META, precisamente por alterar los comportamientos de niños y jóvenes,
cerradas en este mes de agosto de un modo que deja muchas insatisfacciones, y
la relevancia de las notorias pruebas y argumentos en que se fundaban dichas
reclamaciones son un ejemplo claro de la relevancia que se ha de dar a este
campo prioritario de atención.