Deshumanización y Big Data

Soy un fan incondicional del Big Data, si es que puede decirse tal cosa. Sin duda va a ser (¡está siendo!) una de las grandes revoluciones de nuestro tiempo. Yendo un paso más allá que su primo el Business Intelligence, las técnicas de Big Data van a permitir explorar lo inexplorado. Nos llevan al corazón de la información, de los datos. De las relaciones subyacentes entre los mismos, información no necesariamente estructurada que terminará saliendo a la superficie, como una botella con un mensaje dentro que emerge, por fin, de las profundidades del mar. Las aplicaciones son infinitas, empezando por todas aquellas que están revolucionando, el mundo de la medicina. Pero no me detendré aquí en esto.

Recientemente he leído dos noticias que me han hecho recapacitar sobre los límites éticos del Big Data. Porque, igual que la clonación de células tiene unas aplicaciones terapéuticas impresionantes para la curación y prevención de enfermedades, pero al mismo tiempo suscita muchas dudas sobre otras éticamente discutibles, el Big Data también puede plantear algunas dudas éticas. Como apuntaban en el blog de OBS hablando de este tema, y haciendo un guiño a los aficionados a Spiderman, un gran poder conlleva una gran responsabilidad.

¿Se puede prevenir el crimen?

En primer lugar, en el portal de la BBC se hacían eco de una noticia sobre el uso de Big Data para la prevención del crimen, cual Precognitivo de Minority Report. En el artículo London police trial gang violence ‘predicting’ software, nos cuentan cómo la Policía de Londres cuenta con un software experimental para tratar de predecir qué miembros de bandas callejeras tienen mayor probabilidad de cometer crímenes violentos, partiendo del historial delictivo previo y su actividad en las redes sociales. El artículo no da cifras sobre la fiabilidad del método, pero la sola idea del mismo es para poner los pelos de punta. En aras de la eficiencia de recursos policiales y la seguridad ciudadana, se saltan completamente los más mínimos principios de presunción de inocencia, señalando a personas como posibles asesinos o delincuentes. Por cierto que el artículo cita a España como un país en el que la policía madrileña ha llevado experiencias similares en un proyecto denominado iPOL. Y hay muchos más.

Supongamos que aplaudimos estas iniciativas en aras de la seguridad. Supongamos que estamos dispuestos a renunciar a algunos derechos fundamentales, como el de la privacidad de la información y la presunción de inocencia. ¿Aceptaríamos que tuviera valor legal en un juicio? Señor Juez, el Sr Fernández es culpable porque el sistema le da una probabilidad del 95% de que así sea. A la porra la duda razonable. Peor aún, podría ser usado para abortar protestas ciudadanas (legítimas en democracia). Listas negras no solo de posibles delincuentes, sino de gente con ideas que no le interesen a alguien. De hecho ya se está usando para la toma de decisiones en las campañas electorales. En mi opinión, cuando menos, debería estar escrupulosamente regulado. Ahí dejo la reflexión.

La promoción profesional en Google

Hay gente que se toma con mucho celo su trabajo. Demasiado. Cual Pantaleón Pantoja en la famosa novela de Vargas Llosa, el vicepresidente de People Analytics de Google  (¡hay gente pa tó!) se tomó su mandato con todo el empeño del mundo: todas las decisiones sobre la gente en Google están basadas en analítica de datos.

El top senior management de Google se reúne dos veces al año para decidir las promociones internas de la empresa, en un proceso que dura varios días. Como nos cuentan en el artículo de Business Insider Google Wrote An Equation For Deciding Which Engineers Should Get Promoted — Here’s Why It Failed, Prasad Setty decidió echar una mano a sus colegas ideando una fórmula que permitiera decidir quiénes debían ser promocionados. Los detalles están en el artículo anterior pero, aunque el algoritmo parecía tener una fiabilidad razonablemente buena, fue rechazado por el management encargado de tal decisión. ¿La razón? Hay decisiones demasiado sensibles que, afortunadamente y a fecha de hoy, todavía preferimos tomar las personas.

Conclusiones

La frontera entre qué decisiones deben ser tomadas por sistemas expertos, basados en Big Data o no, y cuáles por humanos, es muy fina.

• Como pacientes, puede (y solo puede) que queramos toda la artillería de la tecnología a nuestro servicio. Pero un profesional médico puede (y solo puede) tener una visión distinta al respecto: puede ver menospreciado o ninguneado su trabajo y apelar a ese «sexto sentido» que probablemente nunca tendrá una máquina.
• Como ciudadanos, queremos seguridad en las calles, pero el precio puede ser muy alto.
• Como empleados, cada uno preferirá que su promoción profesional se decida como más le convenga (en función del cariño que le profese su jefe). Y como jefes querremos decidir nosotros a quién promocionamos, diga lo que diga una máquina.

¿Es acaso malo el Big Data? Claramente no. La tecnología no es ni buena ni mala en sí, y sólo lo es en función de quién, cómo y para qué las usa. Sea como fuere, las expectativas que se están poniendo en la tecnología son muy altas. En palabras de Nassim Taleb (a quien ya dediqué otro post en este mismo blog)

El siglo XX fue la bancarrota de la utopía social; el XXI será el de la utopía tecnológica.

Así que quizá sólo estemos poniendo demasiadas expectativas sobre lo que podemos conseguir. Y, en cualquier caso, percibo una cierta asimetría en todo esto. Puestos a dejarnos asesorar por las máquinas, podríamos tener un sistema que predijera con antelación políticos corruptos o mentirosos (por falta de datos para entrenar al sistema no iba a ser), y que estos fueran señalados de antemano, impidiéndoles toda actividad política. O que decidiese qué políticos deberían ser ascendidos a, digamos, ministros (y no fuera por los cauces actuales). Aunque conste que yo, como ciudadano, prefiero elegir a mis representantes. Y sospecho que mis representantes son de la misma opinión. Por lo que pueda pasar.

¡Gracias por comentar!