[A VUELAPLUMA] Pedirle explicaciones al robot

Los sistemas inteligentes se comportan ahora como cajas negras y ejecutan proezas asombrosas, pero no podemos saber cómo lo han hecho y resulta difícil pedirle explicaciones a un robot, escribe en el A vuelapluma de este lunes el profesor Javier Sampedro, doctor en genética y biología molecular,

"Uno de los mayores clichés de las novelas policiacas -comienza diciendo Sampedro- se está convirtiendo en el asunto estrella de la inteligencia artificial y la robótica. Repasemos primero el cliché. Si Holmes dice: “Deduzco por su teléfono móvil, Watson, que tiene usted un hermano alcohólico”, Watson le mira como si fuera una aparición y empieza inmediatamente a desconfiar de él. ¿Habrá descifrado Holmes su clave y habrá leído todos sus mensajes en cuestión de segundos? ¿Tiene contactos de alto nivel con el MI6 o la empresa Cambridge Analytica, famosa por acceder a los datos personales de millones de usuarios de redes sociales? Watson, comprensiblemente, se mosquea mucho con su amigo.

Pero entonces el detective le explica: “Su teléfono es un modelo muy caro, Watson, y no encaja con usted, que está buscando un piso para compartir conmigo; tampoco encajan con su situación económica los muchos arañazos en la pantalla, que provienen obviamente de meterlo sin el menor cuidado en el mismo bolsillo que las llaves y las monedas; por lo tanto, se lo ha regalado Harry Watson, como dice el nombre grabado en la carcasa, que debe de ser su hermano; y basta mirar lo mucho que falla al intentar meter el conector para inferir que es alcohólico”. Lo anterior es una adaptación libre de la serie Sherlock, lo que explica que dos personajes del siglo XIX anden enredados con un teléfono del XXI, pero lo que importa aquí es que la explicación de Holmes disipa las sospechas de Watson y a menudo le hace comentar: “Vaya, Holmes, ahora que lo ha explicado usted, ya no parece tan misterioso”.

Esta idea es exactamente la que quieren aplicar los científicos de la computación a sus robots y a sus sistemas de inteligencia artificial. Tomemos el ejemplo de AlphaGo, el sistema inteligente de Google (o de su matriz Alphabet) que no solo se ha impuesto a los campeones mundiales de Go (un juego tradicional chino más complejo que el ajedrez) y ha descubierto por sí mismo unas estrategias de alto nivel que a los jugadores humanos les ha costado siglos, sino que se ha permitido la chulería de inventar otras tácticas más eficaces todavía que ni se les habían ocurrido a los grandes maestros de todos los tiempos. Al comprobar esto, cualquier humano tendría la misma reacción que Watson, que es agarrarse un mosqueo de narices. Es comprensible. Si AlphaGo, sin embargo, pudiera hacer como Holmes, ofreciendo una explicación comprensible de sus descubrimientos, la desconfianza se disiparía y, además, los jugadores humanos podrían aprender de los hallazgos del robot. Por desgracia, los sistemas inteligentes se comportan ahora como cajas negras. Ejecutan proezas asombrosas, pero no podemos saber cómo demonios lo han hecho.

El departamento de Defensa de Estados Unidos ha dado un paso aparentemente modesto con un sistema inteligente que aprende por sí mismo a abrir frascos de píldoras, de esos que llevan todo tipo de tapones de seguridad para que no los abran los niños. El robot no solo aprende a abrirlos todos, sino que explica en tiempo real lo que está haciendo, y cómo ha llegado a resolverlo. El proyecto tiene una parte militar, pero va mucho más allá, porque pronto veremos robots que cuidan niños y ancianos, y más vale que expliquen lo que hacen a sus dueños. Elemental, Watson".

A vuelapluma es una locución adverbial que el Diccionario de la lengua española define como texto escrito "muy deprisa, a merced de la inspiración, sin detenerse a meditar, sin vacilación ni esfuerzo". No es del todo cierto, al menos en mi caso, y quiero suponer que tampoco en el de los autores cuyos textos subo al blog. Espero que los sigan disfrutando, como yo, por mucho tiempo. 

La reproducción de artículos firmados en este blog no implica compartir su contenido. Sí, en todo caso, su  interés. Y ahora, como decía Sócrates, Ιωμεν: nos vamos. Sean felices, por favor, a pesar de todo. Tamaragua, amigos. HArendt

HArendt

Entrada núm. 5612
elblogdeharendt@gmail.com

La verdad es una fruta que conviene cogerse muy madura (Voltaire)