Dame un avatar y esconderé quién eres:Además de riqueza y ganancias, las tecnologías digitales construyen sentidos hegemónicos y se instalan socialmente sobre la promesa de alcanzar un «futuro ideal» que no necesita mediaciones porque opera sobre el valor simbólico de «mejorar la humanidad»
Recientemente la empresa Generated Media, Inc. lanzó al mercado 100.000 humans that don’t exist (cien mil humanos que no existen), una inteligencia artificial (IA) que crea cuerpos de individuos completos sorprendentemente realistas y que pueden utilizarse para múltiples propósitos, fundamentalmente comerciales.
El video promocional asegura que son “ciento por ciento sintéticos, sin regalías ni derechos de propiedad intelectual” para que podamos usarlo en nuestros negocios, proyectos comerciales o de investigación. Sólo hay que indicar el género, la edad, la etnia, si tiene vello facial, el color de ojos y de cabello, al igual que el largo del pelo, tipo de gestualidad y posición corporal.
Con estos parámetros se obtiene una persona que no existe.
Vea también: ¿Qué es la Inteligencia de Negocios?
Del prejuicio al sesgo
La capacidad técnica de crear un producto no evita que su inventor transfiera los sentidos culturales, sociales y políticos del momento, ni de la historia del conocimiento necesaria para su invención.
Productos tecnológicos como Cien mil humanos que no existen no escapan a la pulsión discriminatoria.
Más allá del uso que cada cual le dé, su diseño está inseparablemente asociado a los estereotipos y los valores sociales que le asignamos.
Al definir un modo de representarnos ansiamos que no haya otro igual, porque al ser únicos establecemos una diferencia que nos distingue de otros y, de algún modo, creamos una escasez: ahí radica el valor de lo individual. ¿Cuánto estamos dispuestos a dar para obtenerlo?
En este caso se trata del producto de una empresa de innovación tecnológica que vende una IA capaz de crear personajes realistas únicos e irrepetibles.
Como todo producto —más aún en un proceso de innovación— la divulgación y promoción comercial es una puesta en escena de las necesidades que satisface, de los beneficios de su uso, es decir, de los valores que promueve.
Para vender esta IA se muestran como ejemplos un conjunto de avatares que representan cierta diversidad étnica (se han cuidado de entrenar esa IA para no discriminar “tanto” por etnias), pero dan rienda suelta a otras discriminaciones como de edad (todos jóvenes), de cuerpos (casi todos flacos y atléticos), de clase social (nadie con harapos) y, por supuesto, totalmente heteronormativos.
En un video de divulgación del ciclo Instantáneas del Conicet, la filósofa Virginia Cano se pregunta qué hace que nuestras vidas, nuestros cuerpos y nuestros deseos sean reconocidos como humanos, legítimos y posibles.
En efecto, los marcos de reconocimiento social se asientan en ideales como la masculinidad y la feminidad, también en el éxito económico, académico, el ser joven, entre muchos otros, y desde allí se estructura compulsivamente el reconocimiento de lo que nos hace humanos.
Cano observa que estos marcos son libretos culturales que establecen parámetros que ofrecen una serie de ficciones con las que podemos adaptarnos más o menos a las expectativas de reconocimiento social. Apartarnos de estos libretos aumenta nuestra vulnerabilidad respecto a las expectativas sociales y a lo que se espera de nosotros.
Que Cien mil humanos que no existen hayan relajado su estrategia de comunicación publicitaria en un compendio discriminatorio heteronormativo y socialmente excluyente, no implica que la máquina sea incapaz de adaptarse a nuevos parámetros y premisas incluyentes. ¿Entonces, qué es lo que está en disputa? Mucho.
De la innovación a la lucha por las necesidades
En el ecosistema de producción capitalista de la tecnología, las necesidades forman parte de una ecuación mayor; no son vistas como derechos sino como una variable en la administración de los recursos: los Estados intervienen con sus sistemas educativos mientras que impulsan políticas de estímulos a la inversión local mediante la excensión impositiva y la expansión de la base de consumo por intermedio de la alfabetización digital.
Debido a que la producción de innovación tecnológica se caracteriza por ciclos de planificación a largo plazo y de alto riesgo en la inversión financiera, las invenciones que surgen como parte del sistema científico-tecnológico público terminan engrosando matrices productivas privadas ancladas al capital financiero.
Este tipo de sistema de innovación viene a dar cuenta de otra variable que desplaza viejas necesidades por otras nuevas, en un ciclo de producción-consumo que en apariencia se ve como interminable; utiliza la curiosidad humana y el descubrimiento como combustible mientras que se somete al ciclo de reproducción del capital.
El apalancamiento financiero que caracteriza a la innovación en las tecnologías de la información y comunicación (TIC) es hoy funcional a la concentración de la riqueza en pocas manos.
Las restricciones experimentadas por efecto de pandemia del covid 19 creó nuevas necesidades (digitales) que aceleró la concentración de la acumulación de riqueza de los grandes jugadores tecnológicos.
En este contexto, los productos digitales emergen con una fuerza inusitada del proceso de innovación. Twitter, Tik-Tok, Instagram están recibiendo cientos de millones de dólares para no sólo aumentar sus capacidades de aspirar datos personales y de consumo, sino también para continuar interviniendo en el proceso de innovación.
Necesidades mediadas por la adicción tecno
Las TIC son hoy omnipresentes en el despliegue de las actividades humanas y se constituyen como un dispositivo totalizante de la cultura a partir de la explotación económica de la publicidad inserta en la interacción social digital.
Cada vez más estamos a merced de procesos de influencia de masas a partir de la segmentación de audiencias. No es un proceso casual. Los avances de la neurociencia aplicados a las tecnologías conectivas —y la ausencia de regulaciones con enfoque de derechos humanos proactivas en la materia— crean una dependencia física y neurológica a las tecnologías.
En La fábrica de cretinos digitales el neurocientífico Michel Desmurget da cuenta del poder económico de las industrias digitales, del diseño de tecnologías adictivas y de una guerra librada por el mercantilismo contra el bien común.
En el marco de sociedades capitalistas, el marketing propone una “venta” a partir de establecer como punto de partida de la acción comunicativa un sentido excluyente —lo escaso se desea— y como punto de llegada la promesa de ubicarnos entre aquellos que logran ver su deseo realizado.
Por supuesto que no todas las carencias son iguales, pero algunas resultan claramente más indispensables para la subsistencia humana que otras. Sin embargo, las sociedades no establecen un criterio humanitario para resolverlas.
Nancy Fraser conceptualiza al Estado capitalista como un agente clave en la construcción social de los sujetos de sus políticas públicas al actuar como intérprete de las necesidades.
En su trabajo “La lucha por las necesidades” observa que “el discurso de las necesidades se presenta como un espacio de contienda, donde los grupos con recursos discursivos (y no discursivos) desiguales compiten por establecer como hegemónicas sus interpretaciones respectivas sobre lo que son las legítimas necesidades sociales”.
¿Seremos capaces de identificar y luchar por lo necesario para la vida y el desarrollo humano mirando una pantalla todo el día?
Por supuesto que esta pregunta parte del sesgo de una persona que no es un nativo digital, pero que también reconoce que pueden coexistir otros modos diversos de socialización humana, también digital. Pero lo que asoma en el horizonte no son sociedades humanitarias, sino poblaciones adictas a la dopamina, impedidas de levantar la mirada del hábitat digital para ver qué hay más allá de las pantallas y reconocer en el otro a un sujeto de derechos, no un consumidor; personas humanas y no solo avatares digitales.
Tecnologías con enfoque de derechos humanos
¿Qué se espera de nosotros, o mejor dicho, qué esperamos nosotros de la sociedad que formamos parte? ¿Qué rol pretendemos que cumpla la tecnología para el desarrollo humano? ¿Cómo construimos garantías de derechos humanos en el diseño de las tecnologías para propiciar modos de vivir en común? Las políticas públicas para el desarrollo de la economía del conocimiento no pueden estar exentas del enfoque de derechos humanos; es decir, de una mirada interseccional.
La interseccionalidad es cada vez más un espacio caótico en el que convergen los derechos, hoy mucho más diverso debido a la irrupción de la revolución digital.
La tríada género-clase-étnia para pensar la interseccionalidad del enfoque de derechos humanos resulta insuficiente para dar cuenta de la discriminación en los nuevos contextos de las sociedades digitales.
Desde la Conferencia Mundial de Derechos Humanos de 1993, en la que se promulgó la Declaración y Programa de Acción de Viena, los Estados se dieron la misión de adoptar un enfoque holístico para sus políticas públicas entendiendo que no hay derechos humanos más fundamentales, o más prioritarios que otros, porque éstos son interdependientes e indivisibles.
Lo que evidencia este entrelazamiento de los derechos es la puja por los recursos para una vida digna (es decir, lo necesario e indispensable para vivir, para ser y estar en el mundo sin tener amenazada nuestra supervivencia personal y colectiva).
Ante la restricción por efecto de la depredación de recursos y la acumulación de capital, la lucha por las necesidades emerge en una competencia política en la que sólo un Estado respetuoso de los derechos humanos —y no la teoría del derrame— puede garantizar dignidad. No se trata de mayorías y minorías, sino de dignidad humana.
Así como las tecnologías expanden la capacidad de conocer la diversidad humana, su regulación actual impone la protección de la propiedad privada contrayendo el acceso al resto de los derechos humanos.
Los Estados son tan solo fichas en un tablero dominado por corporaciones tecnológicas que prometen un metaverso generado por inteligencia artificial.
Es sabido que las tecnologías cargan con los sesgos de sus creadores y que la inteligencia artificial además carga con el sesgo de los sets de datos que se utilizan para entrenarlas. Identificar esos sesgos y problematizarlos en los espacios donde se crea y utiliza tecnología es fundamental para no reproducir discriminación y —recuperando el pensamiento de Nancy, Arendt, Espósito y muchos otros— garantizar modos de vivir-en-común.
Fuente: El ciudadano web
