¿Tecnología mata Democracia?


Acropolis, Propylaea and Erechtheum
Atenas. Cornell University- Sin restricciones de copyright conocidos
En los últimos tiempos, expertos de distinta clase han comenzado a predecir el fin de nuestras democracias debido al efecto de nuevas tecnologías, en particular la llamada inteligencia artificial y la revolución de los datos (Hilbert, 2017).Como sostuve en este mismo espacio, estos son temas  relevantes sobre los cuáles se discute poco, pero ¿es el principal problema de nuestras democracias y conduce necesariamente a un futuro distópico?

El primer gran supuesto es que tecnologías de minería de datos, que realizan analísis de nuestros perfiles de redes sociales (entre otros datos), tienen la capacidad influenciar nuestro comportamiento. Según Hilbert estas tecnologías tendrían la capacidad de modificar el comportamiento electoral y hemos asistido recientemente en la elección de Estados Unidos a  su bautismo de fuego a gran escala. Sin embargo, los propios consultores de la firma Oxford Analytica, asesores del  Presidente Trump durante la campaña electoral, han admitido que sus métodos no han sido particularmente revolucionarios. (Wood 2016). Si bien es posible para empresas, políticos, investigadores (y quien pueda pagarlo), saber más sobre nosotros en función de nuestros datos (que voluntariamente entregamos a distintas empresas)  es muy difícil asegurar que lo determinante para ganar una elección ha sido un aviso de facebook customizado y  que  ese aviso nos hace votar distinto. Tal vez Trump entendió mucho más lo que pasaba en los pueblos de Wisconsin (Cramer 2016). Tal vez el problema sea que dimos por sentado que las democracias liberales se habían consolidado (Stefan y Mounk, 2016) cuando en realidad no fue así. No se puede culpar a Facebook, Twitter, y en general a las empresas de datos, de socabar procesos democráticos, cuando posiblemente influyan factores como la concentración de la riqueza, la transparencia de las reglas electorales y del sistema político por nombrar algunos factores muy obvios. Además, este supuesto es bastante heroíco acerca de la calidad de los datos que distintos actores poseen sobre nosotros y su capacidad de analizarlos. El riesgo más serio que por el momento presenta la tecnología a las democracias consolidadas, sería una mala implementación del voto electrónico (Luissi y Scrollini, 2016). También existe un riesgo serio en la distribución de noticias falsas vía redes sociales, aunque aún debemos entender más de como exactamente funciona ese fenómeno.

El segundo gran supuesto es que estas tecnologías tienen la potencialidad de violar derechos  a gran escala. En particular, el derecho a la libertad de comunicación y nuestra privacidad. Aquí la evidencia parece respaldar un poco más la preocupación, particularmente luego de las revelaciones de Edward Snowden. Pero siendo un poco más concretos y y tomando el ejemplo de Uruguay, sabemos que el gobierno ha adquirido tecnología de forma secreta para monitorear llamadas y redes sociales, y guardar información sin que sea claro por cuanto tiempo se guarda ni donde. Sabemos que el gobierno ha adquirido tecnología para "predecir" la posible ubicación del delito, pero no sabemos que tipo de algoritmos utiliza, ni que tipo de analísis realiza lo que expone a cientos de personas a discriminación o daños por decisiones de patrullaje tomadas en bases de datos erroneas. Sabemos que el Ministerio del Interior invierte significativas sumas de dinero en centros de cámaras y vigilancia con software que podría predecir delitos en función de los movimientos que registra la cámara, o identificar personas en la vía pública, pero no sabemos demasiado sobre sus usos. Sabemos que existen empresas que en Uruguay y el mundo utilizan tecnología para determinar si nos ofrecerán un crédito o no en función de nuestros estados de facebook y nuestro historial crediticio, más los datos que puedan comprar sobre nosotros, pero tenemos escaso control sobre esto.Y sabemos que algunas de esas decisiones pueden ser automáticas (es decir sin que ningún ser humano participe de ellas). Y en breve muchas decisiones de este estilo podrían ser tomadas por Estados, sin posibilidad de auditar como se han llevado a cabo, lo que ha llevado a varios académicos a pensar las necesidades del debido proceso para el tratamiento de estos datos (Crawford y Schultz 2014) En resúmen en materia de derechos si existen riesgos que requieren de reguladores atentos y de mayor evidencia con la que hoy no contamos, en Uruguay y en el mundo. Pero la visión pesimista sobre el uso de los datos, también deja afuera las posibilidades de control social, creación de conocimiento y mejora de la calidad de vida gracias a ellos. Por ejemplo, las democracias podrían guiarse por debates basados en la evidencia y ser más transparentes en la toma de decisiones y uso de recursos. Es otro futuro posible.

En lo inmediato, la muerte de la democracia a manos de los datos y la tecnología que los usa, parece un tanto exagerada. Existen otros posibles culpables de esta supuesta muerte y son analógicos. El impacto sobre nuestros derechos, parece ser más inminente, y su muerte (virtual) podría ser más acelerada.

Referencias
Cramer K. 2016  The politics of resentment, Chicago University Press
Crawford, K., & Schultz, J. (2014). Big data and due process: Toward a framework to redress predictive privacy harms. BCL Rev., 55, 93.
Hilbert M. 2017 Entrevista BBC Mundo disponible en http://www.bbc.com/mundo/noticias-internacional-39511606
Luissi A y Scrollini F. Votando Online:La experiencia Báltica disponible en http://datysoc.org/2017/votando-online-la-promesa-baltica/
Stefan R y Mounk  Y.(2017) The signs of deconsolidation, Journal of Democracy, Num 27, Vol 1
Wood P. The British data Cruncher who say they helped Donald Trump to win disponible en  https://www.spectator.co.uk/2016/12/the-british-data-crunchers-who-say-they-helped-donald-trump-to-win/

Asaltantes sin patente: Los expertos y el conflicto de interés

Tomado de Razones y Personas. Esta obra está bajo una Licencia Creative Commons Atribución 3.0 No portada . ‘Sesgo? No, para nada. Solo u...