De la caja negra del pensamiento

 

Hola, buenos días de nuevo a todos y feliz sábado. Nuestra creatividad es un misterio como la inteligencia artificial, escribe en El País el genetista Javier Sampedro, y ambas encuentran nexos entre cosas dispares, pero no tenemos la menor idea de cómo lo hacen. Les recomiendo encarecidamente la lectura de su artículo y espero que junto con las viñetas que lo acompañan, en palabras de Hannah Arendt, les ayude a pensar para comprender y a comprender para actuar. Sean felices, por favor, aun contra todo pronóstico. Nos vemos mañana si la diosa Fortuna lo permite. Tamaragua, amigos míos. harendt.blogspot.com

La caja negra del pensamiento

JAVIER SAMPEDRO
02 MAR 2024 - ​El País - harendt.blogspot.com

Uno de los mayores problemas de la inteligencia artificial (IA), quizá el principal de todos ellos, es su carácter de caja negra. Sabes la información que le metes, miras el texto que te devuelve, compruebas su corrección o su utilidad, pero no tienes ni idea de cómo lo ha hecho. Esto resulta muy frustrante. ChatGPT y sus colegas, que pronto serán cientos y luego miles, generan resultados que nadie, ni siquiera sus propios creadores, habían imaginado. Algunos son puras y simples mentiras, o fantasías si prefieres llamarlas así, pero otros encuentran ángulos que el usuario no había previsto. Los modelos grandes de lenguaje (large language models, LLM), la clase de algoritmos a los que pertenece ChatGPT, muestran ciertas propiedades emergentes, propiedades del sistema que no pueden predecirse por sus componentes.
La complejidad emergente parece magia, pero no tiene nada de exótica. Ni el nitrógeno (N) ni el hidrógeno (H) huelen a amoniaco (NH₃), luego el olor a amoniaco es una propiedad emergente. Un gen es una ristra de letras a, g, t, c, pero la información que contiene no está en las letras, sino en su secuencia. La información genética es un fenómeno que emerge de esos humildes compuestos químicos que no significan nada en sí mismos. Si solo estudias las neuronas, nunca llegarás a entender el circuito neuronal que te permite entender este artículo. Tu comprensión del lenguaje está hecha por entero de neuronas, pero solo existe un piso más arriba, al nivel de los circuitos. La complejidad emergente es un tema central de la ciencia, desde la física de partículas hasta la neurología y más allá.
¿Qué tiene entonces de particular que la IA genere ideas impredecibles? El azar no me sirve como explicación, porque no estoy hablando de un cuñado que profiere la primera estupidez que le viene a la cabeza, sino de asociaciones relevantes y significativas, a veces fructíferas, el tipo de idea que te hace exclamar: “¡Qué increíblemente estúpido no haber pensado en ello!”. He entrecomillado esta frase porque es justo la que pronunció Thomas Huxley cuando Charles Darwin le explicó su teoría de la evolución por selección natural. Un pequeño ejercicio de historia-ficción: si ChatGPT hubiera existido en el siglo XIX, ¿podría haber dado con la idea de Darwin? ¿Seguro que no?
Otra forma de preguntar lo mismo es: ¿en qué consiste la creatividad humana? Darwin se había tirado cinco años de travesía en el HMS Beagle estudiando fósiles, tortugas y pinzones, y fue solo tras regresar a suelo británico que, leyendo por casualidad un libro del reverendo Thomas Malthus, dio con una de las mejores ideas de la historia, la selección natural: nada dirige la adaptación de los individuos; es simplemente que el que no se adapta palma, y la población en su conjunto, formada por los supervivientes, se vuelve más adaptada por definición. ¡Qué increíblemente estúpido no haber pensado en ello! Hagamos ahora un segundo ejercicio de historia-ficción: ¿qué habría pasado si Darwin no se hubiera topado con el libro de Malthus?
La gran ventaja competitiva de ChatGPT es que él siempre ha leído el libro de Malthus. Lo ha leído todo, y por tanto puede hallar nexos —vínculos, analogías, metáforas— entre sectores del conocimiento muy lejanos y dispares, como los pinzones de las islas Galápagos y las teorías económicas de un reverendo. La creatividad humana consiste precisamente en hallar esos vínculos inesperados, pero requiere un conocimiento previo y detallado de cada uno de los dos sectores que van a ser vinculados.
En el fondo, nuestra creatividad es una caja tan negra como la inteligencia artificial. Ambas encuentran nexos entre cosas dispares, pero no tenemos la menor idea de cómo lo hacen. Así está el tema.​ Javier Sampedro es genetista.