La fe ciega en el Big Data ¿debe terminar?
Una de las tesis que desarrolla O'Neil en su charla es que los algoritmos trasladan, consciente o inconscientemente, los prejuicios (biases) existentes en el entorno en el que se definen: desde la definición del objetivo o éxito que buscan hasta los incorporados en la data histórica de la que se nutren. Y que, por tanto, si no hacemos nada, las mujeres verán cómo nuevas barreras se interpondrán en su desarrollo profesional y las minorías raciales seguirán siendo injustamente tratadas en las ciudades estadounidenses. Estamos desarrollando, bajo una pátina de tecnología y matemáticas semimágicas, weapons of math destruction.
Es cierto, los algoritmos participan ya de las decisiones médicas en los casos más complejos. O en la determinación de si se le concede o no un seguro a una persona. Los afamados economistas del MIT Brynjolfsson y McAfee sitúan los algoritmos y el big data en el centro de la revolución que está por venir en su nuevo libro, Machine, Platform, Crowd. Mientras, Elon Musk y Mark Zuckerberg discuten sobre si es necesaria o no una regulación sobre la inteligencia artificial.
Dos llamadas, dos mensajes cierran la charla. A los científicos de datos, O'Neal les pide que no pretendan ser los árbitros de la verdad. Al resto de la audiencia la conmina a exigir que los señores de los algoritmos rindan cuentas, sean transparentes, no se escondan detrás de cajas negras matemáticas.
Interesantísimo debate el que tenemos que afrontar. Yo, por si acaso, ya me he comprado la versión Kindle de "Weapons of Math Destruction".
[Acreditación de la imagen de cabecera]