Ser humano en la era de la IA: la necesaria visión de un físico

Últimamente son numerosos los libros que se publican con reflexiones al respecto del presente y el futuro en la realidad de la inteligencia artificial: los más vienen a visitar lugares comunes sin verdaderas aportaciones originales; los menos construyen con puntos de vista o aproximaciones diferentes, novedosas. Entre estos últimos se encuentra Vida 3.0: ser humano en la era de la Inteligencia Artificial, del físico, cosmólogo y profesor del MIT Max Tegmark.

Lo que más me ha gustado del texto de Tegmark proviene, precisamente, de las disciplinas en las que es experto. Así, descendiendo al nivel atómico y a los estratos más básicos de la materia, explica cómo la información, la memoria pueden adquirir entidad propia, con independencia de que su sustrato físico sea carbono o silicio; y que, en tanto la computación es una transformación desde un estado de memoria hasta otro, lo mismo ocurre con la inteligencia y el aprendizaje. El único límite a su desarrollo es el que establecen las leyes de la física.

En el extremo opuesto, en sus capítulos finales el libro proyecta el impacto del advenimiento de la IA a escala cosmológica, tanto temporal como espacialmente, vinculando con conclusiones asombrosas la capacidad de cómputo y los agujeros negros, recordándonos los tenues límites entre materia y energía.

Pero lo que hoy traigo a este artículo no es nada de lo anterior, sino una serie de reflexiones que se producen en el capítulo del libro que se centra en el futuro próximo, en los años y décadas más inmediatos. El que se inicia tras una frase de Irwin Corey:

Si no enderezamos el rumbo pronto, acabaremos allí donde estamos yendo

Tegmark repasa los avances más recientes de la IA y razona sobre su aplicación a ámbitos comunes de la esfera pública como la justicia, la salud, el empleo, la seguridad o la legislación. Y deja lanzadas muchísimas preguntas de calado que deberían formar parte de las agendas políticas de todos los gobiernos y legislativos del mundo.

Al inicio de la reflexión, formula preguntas muy generales

¿Cómo podemos modificar nuestros sistemas legales para que sean más justos y eficientes y no pierdan comba respecto a los cambios tan rápidos que se producen en el panorama digital?
¿Cómo podemos acrecentar nuestra prosperidad a través de la automatización sin privar a la gente de ingresos o del sentido de su vida?

que luego va concretando a medida que avanza por las diferentes temáticas. Por ejemplo, plantea el sueño de tener un sistema de justicia eficiente, rápido e imparcial optimizado a través de la tecnología:

Algunos expertos sueñan con automatizar [la justicia] por completo mediante robojueces: sistemas de IA que aplican incansablemente los mismos elevados estándares legales a cualquier sentencia sin sucumbir a errores humanos como sesgos, fatiga o carencia del conocimiento más actualizado.

Ahora bien, si los robojueces tuvieran sesgos, errores o fuesen hackeados,

¿Sentiría todo el mundo que entiende el razonamiento lógico de la IA lo suficiente para respetar su decisión? El machine learning es más eficaz que los algoritmos tradicionales, pero a costa de resultar inexplicables. Si los acusados quieren saber por qué han sido condenados, ¿no deberían tener derecho a una respuesta mejor que "entrenamos al sistema usando una enorme cantidad de datos y esto es lo que decidió"?

Pero un buen sistema de justicia no se basa solo en la correcta aplicación de las leyes, sino que el contenido de estas resulta esencial. Es evidente que la evolución de nuestro marco normativo debe ser cada vez más ágil dado el ritmo que marca la tecnología y que, sin duda, expertos en ésta deben ser partícipes activos en la función legislativa. Ahora bien,

¿Debería ir eso seguido de sistemas de ayuda a la toma de decisiones basados en IA para votantes y legisladores, y a continuación directamente de robolegisladores?

El de la justicia y las leyes es solo uno de los ámbitos de discusión sobre el futuro inmediato que plantea Tegmark. También escribe acerca de la tensión entre privacidad y libertad de información que ya vivimos en nuestros días ¿Dónde deberíamos trazar la línea entre justicia y privacidad, entre la protección de la sociedad y la libertad personal? ¿Es positiva o conduce a un estado orwelliano la combinación de identificación biométrica potenciada por IA y cámaras en los espacios públicos? ¿Debemos sentirnos acosados por esta ubicación permanente o aliviados porque nos pueden defender cuando el deepfake se generalice?

O sobre la posible concesión de derechos a las máquinas. Cuando un vehículo autónomo cause un accidente, ¿quién debería ser el responsable? ¿sus ocupantes, su dueño, su fabricante, la empresa de mobility as a service? ¿o el propio automóvil? Y si otorgáramos a la máquina responsabilidad civil, ¿deberíamos otorgar algún otro derecho u obligación jurídica?

Particularmente inquietante es el apartado dedicado a las armas, a su regulación y a su empleo por parte de los ejércitos y las fuerzas de seguridad. ¿Debemos permitir que los países desarrollen armas cada vez más letales basadas en IA (complementada por otras tecnologías como los drones)? ¿Debemos normalizar un futuro no tan lejano de armas autónomas como ahora estamos normalizando el de vehículos autónomos? ¿Cómo garantizaríamos que se mantuvieran siempre al servicio de la ley y la justicia? ¿O, simplemente, que no fueran defectuosos? Algunas perspectivas no son precisamente tranquilizadoras:


Por supuesto, el capítulo también se centra en el impacto de la disrupción tecnológica en el empleo y, como consecuencia inmediata, en la desigualdad, algo que ya hemos traído por estas páginas en otras ocasiones. Y pasa superficialmente por el impacto en otras áreas, igualmente relevantes, que se deriva de la combinación de la IA con otras tecnologías como IoT, blockchain, impresión 3D o biotecnología: en los sistemas de salud y su sostenibilidad y acccesibilidad; en el rol de los países en desarrollo en las cadenas globales de producción si no conforman habilitantes digitales; en el ámbito financiero, cuestionando los paradigmas actuales de la moneda, los mercados financieros y los bancos centrales; o en la movilidad urbana, tanto para el transporte de personas como de mercancías, a través de vehículos autónomos.

En general, las respuestas a los interrogantes que se generan sobre esta temática adolecen de dos problemas: en primer lugar, porque proponen frenar, retrasar o prohibir un desarrollo tecnológico que es imparable (y, en las condiciones adecuadas, deseable); en segundo, porque suelen plantear respuestas de blanco o negro. Prohibamos la videovigilancia biométrica en las calles o demos carta blanca a cualquiera para hacerlo.

Como indica Tegmark, la decisión no es de todo o nada, sino que tiene que ver con el grado en que queremos desplegar la IA en nuestra vida y la velocidad a la que hacerlo. Volviendo a la justicia, el libro concreta los siguientes interrogantes

¿Queremos que los jueces dispongan de sistemas de ayuda a a la toma de decisiones basados en IA, como los médicos del mañana? ¿Queremos ir más allá y que los robojueces dicten sentencias que puedan apelarse ante jueces humanos, o queremos llegar hasta el final y cederles también la decisión última a las máquinas?

Desde luego, la respuesta a estas preguntas y todas sus equivalentes es cualquier cosa menos sencilla. Requiere una reflexión profunda, sosegada, multidisciplinar y global. Es decir, requiere tiempo, mucho tiempo. La mala noticia es que no estamos sobrados de ese tiempo y, pese a ello, nos estamos dando el lujo de perderlo, porque el desarrollo tecnológico no detiene su frenético progreso: antes al contrario, lo acelera.

Quizás debiéramos esperar que las aportaciones de un físico y cosmólogo a los dilemas que genera la IA se limitaran a la independencia de la inteligencia de su sustrato material o a las posibilidades de su expansión por el Universo cuando pueda viajar a velocidades cercanas a la de la luz.

Afortunadamente, Max Tegmark tomó conciencia de la importancia de abordar de manera inmediata los interrogantes que se ciernen sobre el futuro más inmediato, de anticiparnos. Por ello, co-fundó el Future of Life Institute, en el que se encuentra respaldado por Erik Brynjfolsson, Nick Bostrom, Elon Musk o Martin Rees, entre otros. Su misión es catalizar y apoyar iniciativas para salvaguardar la vida y desarrollar visiones optimistas del futuro, incluidas maneras positivas de que la humanidad dirija su propio curso considerando las nuevas tecnologías y sus desafíos. Su lema es un tanto más drástico...

Technology is giving life the potential to flourish like never before... or to self-destruct. Let's make a difference!

Efectivamente, el tiempo se agota si queremos ser nosotros quienes escribamos la historia del futuro que nos depara la tecnología. En realidad, no creo que tengamos opción: el impacto será tal - está siendo tal - que no nos podemos permitir el lujo de dejar el futuro inmediato sin timón, a merced de la marea. Reparafraseando a Irwin Corey, si no enderezamos el rumbo pronto, acabaremos allí donde la corriente nos lleve. Estaremos de acuerdo en que es un riesgo que no conviene correr...

[Acreditación de la foto de cabecera: sujins]