[A VUELAPLUMA] Pedirle explicaciones al robot

Los sistemas inteligentes se comportan ahora como cajas negras y ejecutan proezas asombrosas, pero no podemos saber cómo lo han hecho y resulta difícil pedirle explicaciones a un robot, escribe en el A vuelapluma de este lunes el profesor Javier Sampedro, doctor en genética y biología molecular,

"Uno de los mayores clichés de las novelas policiacas -comienza diciendo Sampedro- se está convirtiendo en el asunto estrella de la inteligencia artificial y la robótica. Repasemos primero el cliché. Si Holmes dice: “Deduzco por su teléfono móvil, Watson, que tiene usted un hermano alcohólico”, Watson le mira como si fuera una aparición y empieza inmediatamente a desconfiar de él. ¿Habrá descifrado Holmes su clave y habrá leído todos sus mensajes en cuestión de segundos? ¿Tiene contactos de alto nivel con el MI6 o la empresa Cambridge Analytica, famosa por acceder a los datos personales de millones de usuarios de redes sociales? Watson, comprensiblemente, se mosquea mucho con su amigo.

Pero entonces el detective le explica: “Su teléfono es un modelo muy caro, Watson, y no encaja con usted, que está buscando un piso para compartir conmigo; tampoco encajan con su situación económica los muchos arañazos en la pantalla, que provienen obviamente de meterlo sin el menor cuidado en el mismo bolsillo que las llaves y las monedas; por lo tanto, se lo ha regalado Harry Watson, como dice el nombre grabado en la carcasa, que debe de ser su hermano; y basta mirar lo mucho que falla al intentar meter el conector para inferir que es alcohólico”. Lo anterior es una adaptación libre de la serie Sherlock, lo que explica que dos personajes del siglo XIX anden enredados con un teléfono del XXI, pero lo que importa aquí es que la explicación de Holmes disipa las sospechas de Watson y a menudo le hace comentar: “Vaya, Holmes, ahora que lo ha explicado usted, ya no parece tan misterioso”.

Esta idea es exactamente la que quieren aplicar los científicos de la computación a sus robots y a sus sistemas de inteligencia artificial. Tomemos el ejemplo de AlphaGo, el sistema inteligente de Google (o de su matriz Alphabet) que no solo se ha impuesto a los campeones mundiales de Go (un juego tradicional chino más complejo que el ajedrez) y ha descubierto por sí mismo unas estrategias de alto nivel que a los jugadores humanos les ha costado siglos, sino que se ha permitido la chulería de inventar otras tácticas más eficaces todavía que ni se les habían ocurrido a los grandes maestros de todos los tiempos. Al comprobar esto, cualquier humano tendría la misma reacción que Watson, que es agarrarse un mosqueo de narices. Es comprensible. Si AlphaGo, sin embargo, pudiera hacer como Holmes, ofreciendo una explicación comprensible de sus descubrimientos, la desconfianza se disiparía y, además, los jugadores humanos podrían aprender de los hallazgos del robot. Por desgracia, los sistemas inteligentes se comportan ahora como cajas negras. Ejecutan proezas asombrosas, pero no podemos saber cómo demonios lo han hecho.

El departamento de Defensa de Estados Unidos ha dado un paso aparentemente modesto con un sistema inteligente que aprende por sí mismo a abrir frascos de píldoras, de esos que llevan todo tipo de tapones de seguridad para que no los abran los niños. El robot no solo aprende a abrirlos todos, sino que explica en tiempo real lo que está haciendo, y cómo ha llegado a resolverlo. El proyecto tiene una parte militar, pero va mucho más allá, porque pronto veremos robots que cuidan niños y ancianos, y más vale que expliquen lo que hacen a sus dueños. Elemental, Watson".

A vuelapluma es una locución adverbial que el Diccionario de la lengua española define como texto escrito "muy deprisa, a merced de la inspiración, sin detenerse a meditar, sin vacilación ni esfuerzo". No es del todo cierto, al menos en mi caso, y quiero suponer que tampoco en el de los autores cuyos textos subo al blog. Espero que los sigan disfrutando, como yo, por mucho tiempo. 

La reproducción de artículos firmados en este blog no implica compartir su contenido. Sí, en todo caso, su  interés. Y ahora, como decía Sócrates, Ιωμεν: nos vamos. Sean felices, por favor, a pesar de todo. Tamaragua, amigos. HArendt

HArendt

Entrada núm. 5612
elblogdeharendt@gmail.com

La verdad es una fruta que conviene cogerse muy madura (Voltaire)

[A VUELAPLUMA] Leer y escribir ya no es solo de humanos

Querido lector, escribe el periodista Jorge Marirrodriga en El País, dentro de no mucho usted no sabrá reconocer si este texto ha sido escrito por un ser humano o por una máquina. En realidad por un tiempo sí que podrá, siempre que sea capaz de detectar fallos gramaticales y ortográficos. La regla será sencilla: si hay fallos será humano. Y eso que hasta hace poco sucedía exactamente al revés. Las traducciones automáticas nos han permitido detectar sin problemas, y simplemente por la forma, la falsedad de los mails enviados por la viuda nigeriana que ponía a nuestra disposición millones de dólares con solo enviarle unos cuantos miles de euros o los escritos por la supermodelo del Este que había visto nuestro perfil “en lo Internet” y había quedado cautivada por nuestra personalidad. Pero, de hecho, eso ya pocas veces sucede.

Claro que alcanzada esa perfección, la inteligencia artificial también será capaz de introducir pequeños fallos para hacer dudar al lector. Y cuando este no pueda encontrar la diferencia ya no serán necesarios “productores de contenidos” humanos. Tal vez ese no sea un problema que afecte al lector. Pero sucede que los lectores humanos tampoco serán tan necesarios. No lo serán en absoluto. En realidad, ese proceso ya ha comenzado. Las estadísticas que constantemente suministran los medidores muestran que si usted ha llegado leyendo hasta aquí forma parte de un minoritario 30% del total de personas que empezaron este texto. Y existe una altísima posibilidad de que no llegue a finalizarlo. Al autor humano le importa pero al medidor no, porque usted ya hizo clic y con ese pequeño movimiento de un dedo ha desencadenado una maraña de mecanismos matemáticos que determinarán tanto el futuro del autor como del lector. Para el primero ya está significando un importante factor en términos de reputación profesional, lo que se traduce en condiciones de trabajo y salario. Para el segundo, en el tipo de contenidos que se le ofrecerán y, por tanto, en la aproximación a la realidad que tendrá. Casi nada.

Como prueba de lo expuesto, debe usted saber que este texto no está escrito solo para usted sino también para los algoritmos y posicionadores. Y, no se ofenda, tal vez más para ellos que para usted. Por ello me va a permitir que introduzca ahora una serie de palabras para que los algoritmos detecten el texto y lo coloquen bien. Para usted no tendrán mucho sentido, pero para ellos sí. Empecemos con palabras buscadas ayer —cuando se escribe este texto—, poco importa si por humanos o en búsquedas automáticas: Día de la Mujer 2018, Román Escolano, Franco Masini, Balkrishna Dashi. Añadamos algunas que siempre funcionan: sexo, porno, Cristiano Ronaldo, Messi, Trump. Fin de la interrupción. Volvamos con los humanos. Pero no mucho.

El proceso cada vez se acelera más. Los textos escritos por máquinas son leídos por máquinas que los posicionan en buscadores y utilizan las redes sociales para moverlos y difundirlos. Mientras usted duerme, un algoritmo habla con su perfil en función de sus clics y le envía un determinado tipo de textos, no para que los lea —al algoritmo le da igual— sino para que los pinche y los difunda. Los textos que tengan éxito entrarán en un círculo virtuoso y multiplicarán el número de difusiones. Llegamos al final. El algoritmo ha completado su lectura, aunque no ha entendido nada. La pregunta es: ¿queda algún humano por aquí?

Y ahora, como decía Sócrates, Ιωμεν: nos vamos. Sean felices, por favor, a pesar de todo. Tamaragua, amigos. HArendt

HArendt

Entrada núm. 4370
elblogdeharendt@gmail.com
La verdad es una fruta que conviene cogerse muy madura (Voltaire)