@mateamargouy
Sofía Scasserra*
No sabemos. No parece. No lo vemos. Pero casi todo lo que hacemos hoy por hoy está controlado o regido por algoritmos. Esta palabra parece compleja y ya nos da dolor de cabeza pensar que significa. Pero no es tan complejo como parece. Un algoritmo es una función matemática que recoge datos y los procesa para arrojar los resultados deseados. Esos resultados determinan desde que aparecerá primero si buscamos algo en Google, pasando por una sentencia judicial, un diagnóstico médico, un perfil en una búsqueda laboral, la publicidad que veremos hasta que amigo aparece primero en nuestras redes sociales. Todo regido por un algoritmo.
Ahora bien, el proceso por el cual se devuelve un resultado, está basado en datos pasados. El algoritmo recoge la información existente, la procesa y la devuelve emitiendo una sentencia “esta es la mejor opción, la más correcta”. ¿Es esto cierto? Para entender los problemas éticos que esto genera, hay que saber un poco de estadística….
Veamos. Cuando se recogen datos, sean los que sea, se asignan categorías para ordenar esos datos. Esas categorías son arbitrarias y estas designadas por los analistas. Si yo pregunte, de qué color es la hoja de papel donde imprimo, seguramente tu respuesta será “blanca”, y estarás en lo cierto en tu cultura y país, considerando todas las hojas de papel que has visto y usado anteriormente. Pero los esquimales tienen 7 categorías distintas de color blanco para describir la nieve y la respuesta a la misma pregunta en esa cultura podría ser diferente, tener mas matices o resultados posibles.
La realidad es que esto ocurre con casi todos los datos que tenemos. Ya el sistema binario sexual nos ofrece desafíos que sortear para incluir a todas las personas. En este sentido la sistematización y su consecuente optimización ya es, de fábrica, sesgada hacia lo que creemos bajo nuestra cultura y realidad, correcto. No necesariamente siendo así.
Pero ahondemos más y supongamos que ese problema sea sorteado incluyendo todas las categorías posibles (cosa casi imposible de realizar). El algoritmo lo procesa y nos devuelve el que considera el mejor resultado posible, ¿pero lo es?.
Supongamos una búsqueda laboral donde la empresa dice “en base a mi información pasada, tráeme los perfiles de todos los empleados exitosos y elegí a un nuevo candidato en base a esas características” definiendo a ese empleado como una persona que haya estado más de 5 años en su empleo y haya sido promovido al menos una vez. Muy probablemente ese perfil sea, en promedio, hombre, blanco, heterosexual, menor de 35 años, con estudios, porque esa información se desprende estadísticamente del historial de cientos o miles de empleados anteriores. El algoritmo no puede saber que las mujeres sufrimos la carga de la división sexual del trabajo, la maternidad, el acoso y la discriminación. Minorías sexuales y raciales quedarían afuera no por ser menos capaces, sino porque sufren discriminación y tienden a ser más inestables y menos promovidos en sus empleos.
Así vemos como los algoritmos en definitiva son máquinas eficientes que reproducen y sistematizan desigualdades. No es que generen nuevas, no, sino que traducen a la virtualidad las desigualdades que ya existen en la sociedad, y peor aún, envuelven el resultado en un halo de exactitud tecnológica desprovista de los problemas de las decisiones humanas.
Lo que el algoritmo piensa que es óptimo, puede no serlo dependiendo de cuál sea la decisión a tomar. Ocurre a menudo que el big data (recolección y procesamiento de grandes cantidades de datos de uno o mas individuos) encasilla a las personas mostrándole solamente aquella realidad que quieren ver. Esto ocurre con las noticias y publicidades, donde el sujeto queda encerrado en una realidad virtual que le es cómoda y tentadora, basada en la información y productos que ha consumido hasta la fecha. Esto es el óptimo empresarial: el paradigma de consumo y felicidad en un espacio virtual. Pero no es el óptimo social. Categorías distintas si las hay!
En el plano laboral es aún peor, con el empleo de plataformas como máximo exponente de la algoritmizacion de la vida. La figura del capataz fue reemplazada por un algoritmo que califica de manera automática y lapidaría al trabajador, generando una conducta lo más estándar posible para satisfacer las demandas que la plataforma tiene de nosotros. El algoritmo no da posibilidad de interpelación. Si el producto tenía que ser entregado en 30 minutos, no importa si se rompió la bici o el tránsito estaba complicado, viene la sanción en la calificación. Si mi hijo está enfermo y tarde más en atender las consultas, ocurre lo mismo. Y así sucesivamente.
Estamos a las puertas de una nueva tiranía, la de las ecuaciones matemáticas y la inteligencia artificial.
¿Se puede solucionar? Siempre. Todo.
La solución es poner al hombre como centro del desarrollo y la economía y no a la inversa. Hay decisiones que no pueden ser tomadas por algoritmos no importa cuán eficientes sean, tienen margen de error. Así pues deben existir mecanismos de control social siempre. Los algoritmos deben ser puestos como ayudas a la toma de decisiones, orientadores, capaces de acelerar procesos que nos llevarían semanas y hasta meses. Pero la decisión final siempre debe tomarla un ser humano que controle y supervise lo que está ocurriendo.
Una nueva economía digital está naciendo. Es necesario cambiar el enfoque para que no se vuelva sistemático e invisible el patrón reproductor de desigualdades.
*Sofía Scasserra, economista, Instituto del Mundo del Trabajo «Julio Godio». Asesora de la Federacion Argentina de Empleados de Comercio y Servicios (FAECYS), Argentina.
