Datos para el pueblo: ¿un sindicato de creadores de datos?

Jaron Lanier se para frente al auditorio y exclama: “we screwed up” (“la jodimos”). Estamos en Bonn, Alemania, en el congreso “Global Media Forum” que organiza la Deutsche Welle, el servicio de radiodifusión del estado alemán. Lanier fue uno de los pioneros en el campo de la realidad virtual, trabajó en las principales empresas informáticas de Silicon Valley y hoy se dedica tanto a la música como a pensar y escribir sobre nuestra relación con Internet, las redes sociales y la inteligencia artificial. No es “un renegado” del sistema —de hecho, colabora activamente con Microsoft como experto informático— pero mantiene una visión radicalmente crítica de la tarea.

Vengo a pedir perdón en nombre de Silicon Valley

El auditorio en el que expone Lanier supo ser el recinto del parlamento alemán durante la Guerra Fría, cuando Bonn era la capital de la República Federal de Alemania. Allí, el informático viene a pedir perdón en nombre de Silicon Valley. “Siento que en estos días cualquier debate sobre estos temas tiene que empezar con una disculpa”, lanza Lanier. “He sido crítico de nuestra comunidad pero también he sido parte de ella durante muchos años y la hemos jodido terriblemente. Y siento que debo pedirles disculpas por lo que Silicon Valley les ha hecho a todos ustedes”, continúa. Pero, ¿a qué se refiere?

Uno de los temas centrales del congreso serán las fake news. Lanier advierte que son un problema grave pero apenas una consecuencia de algo más profundo: el funcionamiento de los algoritmos. El negocio de las plataformas online, entre las que que incluye desde las redes sociales tradicionales hasta Google, YouTube y Amazon, se encuentra en el engagement. Así, las principales compañías dirigen sus esfuerzos a persuadir a los usuarios para que participen activamente de las plataformas. Lanier decide llamarlo de otra manera: adicción de conducta (o conducta adictiva). No sólo, dice, porque refiere a un cuerpo teórico de investigación científica sino porque los encargados de diseñar este tipo de plataformas aplican conscientemente las investigaciones de ese tipo a sus diseños con ese objetivo. Alterar el comportamiento humano.

En el campo de la investigación conductista el mecanismo funciona sencillamente: tenemos un sujeto de estudio a quien se le aplica un estímulo en forma de premio o castigo. Un ratón, supongamos, a quien ante determinada conducta se lo premia con alimento o se lo castiga con una descarga eléctrica. Luego, los investigadores observarán si el ratón persiste en su conducta o la modifica. ¿Somos esos ratones cuando navegamos por Internet? Algo así, plantea Lanier frente a un auditorio enmudecido, pero con una pequeña salvedad: el investigador que observa nuestras reacciones no existe. Al menos, físicamente. Quienes deciden los premios y castigos son nada menos que los algoritmos. En la vida virtual no podemos dar descargas eléctricas ni pedazos de queso cuando un usuario hace algo bien o mal —“al menos no por el momento, aunque Amazon está cada vez más cerca”, bromea— pero existen mecanismos simbólicos. Los usuarios son premiados volviéndose virales o son castigados con a través de la ignorancia y el “destierro” virtual. Pero no hay ninguna persona de guardapolvo tras el vidrio decidiéndolo: simplemente sucede. El responsable es el algoritmo, sostiene Lanier, y eso es un problema.

Los algoritmos no son tan buenos

Luego de haber pedido perdón en nombre de Silicon Valley, el informático y ahora escéptico de las nuevas tecnologías hace una confesión. “Los algoritmos no son tan buenos. Estamos constantemente haciendo publicidad sobre la inteligencia artificial: pero la verdad es que apenas funcionan”, sostiene. Funcionan, eso sí, para influir en los comportamientos humanos y provocar cierto grado de adicción. Lo interesante es cómo funciona el mecanismo. El algoritmo tiene la misión de detectar cambios en las conductas de las personas: ¿clickean más? ¿Se detienen más frente a determinadas imágenes? ¿Pasan de largo frente a otras? El problema radica allí: los algoritmos no son muy buenos, asegura el especialista, porque sólo son capaces de detectar un tipo de emoción en particular. Y se trata, por supuesto, de cambios primarios y dramáticos en el comportamiento: el enojo y el miedo, fundamentalmente.

“Claro que la irritabilidad y la paranoia son sentimientos que existieron siempre, antes de las redes sociales e Internet. Sin embargo, los algoritmos tienden a resaltar los estímulos negativos por sobre los positivos”, asegura Lanier. Y ese desbalance pudo haber traído como consecuencia “la política del miedo y el enojo en todo el mundo”. El autor de “Diez razones para borrar tus redes sociales” trae el ejemplo del movimiento norteamericano Black Lives Matter, surgido al calor de las redes sociales en 2013 como forma de visibilizar en Estados Unidos los casos de violencia policial contra la comunidad afroamericana. “Lo interesante es que todos los datos que los simpatizantes de BLM subieron a la web – los videos, los textos – se los dimos a los algoritmos”. El resultado parece ser contraproducente. Los algoritmos detectaron dónde encontraban más respuestas a esos estímulos: en usuarios racistas que reaccionaban con miedo y enojo frente a esas publicaciones. “Identificaron a todo lo más racista y poderoso de Estados Unidos y los presentaron entre sí, volviéndolos más intensos porque las plataformas de medios sociales son mejores reconociéndolos”, concluye Lanier.

El congreso de la Deutsche Welle buscó, durante tres jornadas, debatir con los principales medios del mundo los desafíos frente a ese nuevo escenario: cómo comunicar en la era del miedo y el enojo. Jaron Lanier, acertadamente uno de los primeros expositores, comenzó con un diagnóstico posible.

De lo que se trata es de transformarlo

Tras unos veinte minutos de diagnóstico demoledor sobre lo que las plataformas online pueden producir en el comportamiento, el expositor abre una luz de esperanza. “Podemos arregarlo”, sostiene. Además de haber creado una de las primeras empresas de Internet, además de escritor y músico, Lanier busca comprender los aspectos políticos y filosóficos de la tecnología. Fue buscando pensadores de ese tipo que llegó hasta los textos de Alexis de Tocqueville, sostiene, para dar con la idea de las organizaciones intermedias.

Caemos en una trampa, denuncia, cuando hablamos de estos temas: o miramos a enormes corporaciones transnacionales que controlan todo y hacen dinero; o enfocamos en los individuos, de quienes queremos salvaguardar su libertad de expresión. “No queremos que Facebook sea el árbitro de nuestra libertad de expresión pero tampoco queremos que el gobierno caiga sobre un individuo porque dice una mentira en una plataforma digital”, reconoce. Entonces no hay a quién responsabilizar y todo se traduce en inmovilismo. ¿Dónde está la solución? En las organizaciones intermedias: la prensa, las universidades, los sindicatos, las asociaciones profesionales. Todas las que el propio Tocqueville reconoció como parte inherente del buen funcionamiento de la democracia en América del Norte.

A costa de la pérdida del poder de esas organizaciones han crecido los gigantes de la tecnología. El congreso que organiza la Deutsche Welle se hace, un poco, esa pregunta: ¿cómo recuperar el lugar perdido por los medios frente a las redes sociales? Lanier tiene su propia respuesta, quizás no la que hayan venido a buscar todos los medios que viajaron a Bonn. Pero es una: crear un nuevo tipo de organización intermedia. Se trata de las MIDs: “Mediators of Individual Data”. Veremos ahora de qué se tratan.

Estas organizaciones vendrían a dar respuesta a un segundo problema que plantea el expositor. El desarrollo de la inteligencia artificial trae consigo una preocupación: el pánico a una ola de desempleo generalizada por trabajos que puedan quedar obsoletos. Lo vemos todos los días en noticieros: robots que pueden conducir autos, fabricar ropa, traducir un texto. ¿Está volviéndose, el ser humano, obsoleto como tal? La respuesta es simple y contraintuitiva: no.

El ejemplo que da Lanier ayuda a comprenderlo. Pensemos en lo último que dijimos: la inteligencia artificial es capaz de traducir un texto automáticamente, sin intervención de un traductor. Luego, millones de traductores a lo largo y ancho del mundo perderán sus empleos. Los robots ganan la partida frente a un nuevo empleo obsoleto. Miremos con atención: ¿cómo se hace esa “traducción automática”? Robándole a millones de personas, asegura nuestro expositor. “Robando frases traducidas de millones de personas todos los días, sólo para estar a tono con las noticias, la cultura pop, los memes y todo eso. Y la gente no sabe que está contribuyendo a eso. Todo lo que saben es que las carreras de traductor tienen menos salida laboral que antes. Pero hay algo que no saben: de qué manera tomamos todas sus palabras en redes sociales, en sus búsquedas de Google, para entrenar a los traductores”, sostiene Lanier. De ahí la paradoja: le decimos a la gente que está obsoleta y al mismo tiempo necesitamos sus datos y necesitamos que los produzcan de manera constante.

Lanier sonríe como quien ha llegado, después de un largo diagnóstico, a lo que considera su propuesta fundamental para arreglar aquello que “hemos jodido”. “Lo que necesitamos es un futuro en donde a la gente se le pague por producir sus datos en vez de robárselos”, explica. Y ahí entran las organizaciones intermedias: los MIDs.

Hacia un Sindicato de Creadores de Datos

Cada vez que ha conversado con empresas con Google o con Facebook —con quienes, aclara constantemente, tiene una buena relación y hasta vínculos comerciales— estas han dicho lo mismo: es imposible pagarle a la gente por producir datos. El precio tendería constantemente a cero. Lanier coincide y por eso ha desarrollado esta idea: las Mediators of Individual Data (MIDs). Que tendrían esta primera función: la negociación colectiva del precio de producir datos. Así, no sería el usuario individual el que negociaría con Facebook el valor de producir datos (traducir frases, ubicar lugares en un mapa, lo que fuera) sino esa organización intermedia. “La gente debería poder formar parte de un MID y hacer un aporte, a la vez que se le garantiza un pago justo por la tarea que sepa hacer”, explica el autor de la idea frente a un público sorprendido.

Pero los MIDs tienen una segunda función aún más importante que la monetaria o salarial. “Los MIDs crean un responsable donde hoy no lo hay”, asegura Lanier. Las fake news aparecen hoy como un desafío importante para las democracias, incluido nuestro país. Los esfuerzos parecen no alcanzar: los sitios de fact checking no resuelven el problema y las intervenciones gubernamentales generar un pánico más grande que el que intentan abordar. ¿Dónde radica el problema? Faltan responsables, asegura Lanier. Hay un vacío entre el gigante tecnológico, la plataforma, que asegura no ser responsable por el contenido y los creadores de contenido individuales, a los cuales a veces, ni siquiera, podemos ubicar. Los MIDs crean un responsable intermedio.

El MID funcionaría a la manera del sindicato: dentro de un marco regulado por los gobiernos, cualquiera podría abrir un MID y asociarse o darse de baja de uno. Sería a través de ellos que los usuarios individuales cobrarían por la producción de datos online y, a la vez, algunas cuestiones que hoy aparecen como gratuitas (búsquedas online, streaming de video o traducciones) comenzarían a tener un costo. “Pero a cambio —sostiene Lanier— los productores de datos recibirían una paga”. Para eso propone que los gobiernos dicten regulaciones que hagan más sencillas las transacciones online, ya que por esa vía serían los pagos en ambos sentidos (desde y hacia el MID). ¿Cuáles serían los incentivos de estos “sindicatos” para actuar bien? La reputación. Supongamos un MID que negocie colectivamente para productores de traducciones pero que eventualmente entregue datos de “malos” traductores provocará que eventualmente los sitios de traducción online dejen de querer pagar por sus traductores. Lo cual, eventualmente, haría caer su reputación.

El sistema, está claro, no aparece como un paquete cerrado para poner en funcionamiento desde mañana. Más bien, lo presenta Lanier, parece ser una forma de “empujar” una discusión que parece oculta, casi un tabú. En esa distancia entre el individuo productor de datos y el gigante tecnológico parece haber un vacío que podría llenarse. ¿Es un sindicato de usuarios la mejor de las ideas? Es una posible que ayuda a ponerle nombre a lo que ni siquiera hoy está nombrado.

Bonn, sede del servicio de radiodifusión del estado alemán, fue huésped de una serie de debates sobre cómo enfrentar los desafíos de unas democracias que aparecen amenazadas por factores múltiples. En la propuesta del sindicato de usuarios no está la solución a todo pero al menos, sí, el planteo de un problema que necesita visibilizarse.