La fe ciega en el Big Data ¿debe terminar?


Algorithms are opinions embedded in code. Los algoritmos son opiniones embebidas en código. Una de las muchas frases para la reflexión que deja Cathy O'Neal, la matemática y científica de datos canadiense, en su TED Talk titulada "The era of blind faith in big data must end". Una charla que invita a un análisis profundo sobre la creciente ubicuidad de los algoritmos en las situaciones más cotidianas, desde la concesión de un crédito hasta la selección de personal en cualquier empresa.


Una de las tesis que desarrolla O'Neil en su charla es que los algoritmos trasladan, consciente o inconscientemente, los prejuicios (biases) existentes en el entorno en el que se definen: desde la definición del objetivo o éxito que buscan hasta los incorporados en la data histórica de la que se nutren. Y que, por tanto, si no hacemos nada, las mujeres verán cómo nuevas barreras se interpondrán en su desarrollo profesional y las minorías raciales seguirán siendo injustamente tratadas en las ciudades estadounidenses. Estamos desarrollando, bajo una pátina de tecnología y matemáticas semimágicas, weapons of math destruction.

Es cierto, los algoritmos participan ya de las decisiones médicas en los casos más complejos. O en la determinación de si se le concede o no un seguro a una persona. Los afamados economistas del MIT Brynjolfsson y McAfee sitúan los algoritmos y el big data en el centro de la revolución que está por venir en su nuevo libro, Machine, Platform, Crowd. Mientras, Elon Musk y Mark Zuckerberg discuten sobre si es necesaria o no una regulación sobre la inteligencia artificial.


Cathy O'Neal es más práctica. Acuña términos alarmantes para sensibilizar: del lavado de dinero al lavado de datos (data laundering). Pero, al contrario que otros loquesea-escépticos, propone soluciones y ámbitos de trabajo para que algoritmos, big data e inteligencia artificial - evidente e inevitablemente elementos clave, en positivo, del futuro que nos viene por delante - se libren de prejuicios: auditoría algorítimica, integridad de la información, precisión y exactitud, efectos de largo plazo de su utilización.

Dos llamadas, dos mensajes cierran la charla. A los científicos de datos, O'Neal les pide que no pretendan ser los árbitros de la verdad. Al resto de la audiencia la conmina a exigir que los señores de los algoritmos rindan cuentas, sean transparentes, no se escondan detrás de cajas negras matemáticas.

Interesantísimo debate el que tenemos que afrontar. Yo, por si acaso, ya me he comprado la versión Kindle de "Weapons of Math Destruction".

[Acreditación de la imagen de cabecera]