Es
muy común encontrar notas periodísticas que hacen referencia a los
algoritmos. Ya sea en la sección de economía, tecnología o estilos de
vida, estos procesos matemáticos se han convertido en poco tiempo en una
pieza fija de nuestra cotidianidad informativa.
A medida
que los algoritmos son los “agentes inteligentes” invisibles en la
redefinición del mundo digital, es urgente hablar de cómo alertar a los
ciudadanos de los impactos de sistemas de datos que toman decisiones
sobre nuestras oportunidades, derechos y posibilidades vitales. Si un
día te niegan la prestación de un empleo, la atención médica, el ingreso
al sistema bancario, el acceso a becas de estudio o contratos de tu
vida laboral porque lo dicta un algoritmo, ¿a quién podemos acudir?
Un
algoritmo al igual que los datos con los que se entrena, pueden estar
sesgados desde su propia conceptualización. ¿La sociedad algorítmica
reproduce los conceptos del modelo de distribución de la riqueza y la
desigualdad en el acceso a los conocimientos?
Varios
autores, como Cathy O’ Neil en su libro “Armas de destrucción
Matemática”, han denunciado que los desarrollos de estos modelos
embebidos en el software no cuentan con regulación de los Estados. Así,
van creando una sociedad dual en la que los ricos cuentan con el
privilegio de una atención personalizada, humana y regulada mientras que
a los grupos vulnerables se les condena a los resultados de “máquinas
inteligentes”, en el que no existe transparencia, derechos ni
procedimientos claros para apelar las decisiones algorítmicas.
Muchas
de estas cuestiones merecen una reflexión social profunda y la
articulación de consensos tecno políticos y sociales sobre qué es y qué
no es aceptable y deseable. Pero para empezar a articular estos
consensos hacen falta herramientas que nos ayuden a entender qué es lo
que está ocurriendo. ¿Contar con visibilidad pública sobre los
algoritmos y los datos de entrenamiento puede ser esa herramienta?
La redefinición del mundo digital
Comprender
los alcances de los algoritmos y sus contextos de aplicación, nos
ayudará a comprender cómo la digitalización de la vida cotidiana y
nuestra relación con las plataformas y servicios digitales está
orientada por una infraestructura de cómputos que conforman el proceso
de los algoritmos. Por ello, se hace necesario comprender, discutir y
criticar la manera como los algoritmos, que no conocemos, marcan
nuestros días.
Se define algoritmo como "un conjunto
ordenado y finito de operaciones que permite hallar la solución de un
problema. Estas acciones se entrenan con datos para obtener conclusiones
y conocimientos.
La expansión de los métodos de cálculos
expresados como algoritmos, algunos disponibles desde 1950, se debe en
gran parte al encuentro con el software (aplicaciones APP), las
capacidades de procesamiento a gran escala y el ancho de banda creciente
de internet hoy configuran el territorio del Big Data.
Los
cálculos penetran tan íntimamente en nuestras vidas, que no logramos
percibir con claridad cómo conducen nuestros datos a infraestructuras
estadísticas ubicadas en lejanos servidores. Así, un número creciente de
dominios de conocimientos como la cultura, el conocer y la información,
la salud, la ciudad, el trasporte, el trabajo, las finanzas e incluso
el amor y el sexo son mediados por algoritmos.
La primer
gran expansión de Facebook coincidió con la primera crisis económica del
año 2007, que potenció el desarrollo de servicios de plataformas
digitales orientados a la individualización, orientación y guía de cada
navegante de internet. En el 2015 Facebook tenía 1.350 millones de
usuarios registrados, que se comunicaban en 70 idiomas y utilizaban
50.000 servidores (computadoras de alta capacidades de procesamiento y
almacenamiento). Facebook se ha constituido así en uno de los “dueños de
Internet” controlando Instagram desde el 2012 y Whatsapp desde el 2014;
un enorme negocio que representa más de 25.000 millones de dólares
anuales y un volumen de datos muchísimo mayores a los millones de
dólares estimados.
El valor político del flujo de datos
permanente de esta plataforma digital, fue visible en el 2013 cuando la
Agencia de Seguridad Nacional de USA reconoció la utilización de
Facebook para el seguimiento de ciudadanos que aportaban sus datos
“inocentemente”, información que durante años había sido un objetivo de
los trabajos de inteligencia.
Algo similar sucede con los
buscadores como Google que llevan invisibles cookies (pequeños softwares
con algoritmos) que permite identificar al usuario y trazar un mapa de
su navegación por las webs y profundidad de penetración en cada una,
estos datos configuran nuevos productos del negocio digital.
Dos
dinámicas avanzan para hacernos entrar en una “sociedad del algoritmo”.
La primera es la digitalización de la sociedad con demanda creciente de
los ciudadanos de ser incluidos; la segunda el desarrollo de los
procesos. Estos últimos entregan a las computadoras mediante softwares
las instrucciones matemáticas para clasificar, ordenar, agrupar,
predecir, tratar, agregar y representar la información por medio de
datos cada vez más desapercibidos. Los desplazamientos de personas, los
tickets de compras, los clics en Internet, el consumo online, el tiempo
de lectura de un libro digital, el tiempo de escucha de música y
permanencia en video por demanda; son cifrados por algoritmos,
algoritmos que clasifican y predicen nuestro consumo presente y futuro.
Omnipresentes
en nuestras vidas, los algoritmos son presentados como “misteriosos” a
nuestros conocimientos por no saber de su existencia y funcionalidad.
Una nueva religión con nuevos actos de fe. Raramente nos cuestionamos
cómo estos procesos de lógica y cálculo se producen y la visión de mundo
que conllevan.
La sociedad digital nos ubicó a los
ciudadanos en el lugar del consumidor digital, sabemos operar
dispositivos y consumimos los contenidos a través de las aplicaciones.
No conocemos los procesos y los procedimientos que regulan la sociedad
digital. Por ejemplo, que los algoritmos usados por los gigantes
tecnológicos, conocidos como GAFAM (Google, Amazon, Facebook, Apple y
Microsoft), no sean siempre justos en las decisiones que toman.
Los
algoritmos operan dentro de "cajas negras", no conocemos sus
funcionalidades. El valor que mueve el cálculo algorítmico no es otro
que el de la personalización, el del individualismo. Este sesgo en la
confección del software que implementa el algoritmo responde a modelos
políticos y culturales de relaciones sociales y distribución del
conocimiento y la riqueza. Esos sesgos también pueden afectar a
decisiones como el seguro médico u obra social o prepaga, la escolaridad
o el registro criminal, la aceptación a una candidatura laboral. Los
datos no hablan más que en función de los cuestionamientos e intereses
de quienes los interrogan.
En la cultura actual, los
cálculos algorítmicos atrapan deseos de libertades y servicios
personales; donde los individuos por medio de sus representaciones,
ambiciones y proyectos, se piensan como sujetos autónomos, por fuera de
modelos políticos incluyentes o excluyentes.
Es necesario
construir otras políticas públicas para la sociedad de los algoritmos.
Los procesos y sesgos deben estar explicitados para los ciudadanos, como
alertas en el mundo de internet y en la Estadística Estatal. El Estado
tiene que garantizar a los ciudadanos la visibilidad de los algoritmos y
los datos de entrenamiento.
Es necesario conocer la
visión política y cultural que se implementa en los procesos
algorítmicos y el sesgo de los datos que arrojan resultados como
verdades. Hay que instalar una mirada crítica al funcionamiento de los
cálculos ocultos. Es necesario conocer qué sentido y objetivo
implementan los algoritmos. Estos sentidos configuran un posible mundo
donde el reconocimiento de los méritos no encuentra trabas; donde la
autoridad se obtiene únicamente en torno a la calidad y a la
resiliencia.
Las GAFAM persiguen instalar un ambiente
tecnológico invisible que permita a las personas orientarse, sin
contrariarlos. Gran parte de nuestras elecciones diarias, son efectuadas
por una infraestructura socio-técnica; comprar un pasaje de avión,
traducción automática de lenguajes, encontrar el mejor restaurante,
conseguir una cita personal, llenar la heladera o cargar la SUBE
(tarjeta digital para utilizar transporte público en Argentina).
Con
el GPS hemos perdido el paisaje. Los algoritmos guían nuestras
preferencias y atan nuestras elecciones. Vuelven realidad el sueño
liberal de la elección sin ataduras, pero este sueño esconde también su
contracara. Una libertad algorítmicamente pautada.
Alfredo Moreno
Profesor TIC en Universidad Nacional de Moreno
Ingeniero TIC en ARSAT
Integrante de ticdata.com.ar
@ticdata2
https://www.alainet.org/es/articulo/204439
No hay comentarios:
Publicar un comentario