Hola, buenas tardes de nuevo a todos y feliz domingo. Mi propuesta de lectura de prensa para hoy, de la filósofa Carissa Véliz, va de la inteligencia de los humanos y la artificial. Se la recomiendo encarecidamente y espero que junto con las viñetas que la acompañan, en palabras de Hannah Arendt, les ayude a pensar para comprender y a comprender para actuar. Sean felices, por favor, aun contra todo pronóstico. Nos vemos mañana si la diosa Fortuna lo permite. Tamaragua, amigos míos.
Perdiendo habilidades ante la inteligencia artificial
CARISSA VÉLIZ
02 JUN 2023 - El País
“Úsalo o piérdelo”, solía decirme mi profesor de latín. Y tenía razón. Décadas después, sería incapaz de declinar verbos en latín aunque me fuera la vida en ello.
Escribo estas palabras en un avión. Hace frío y viento, y el piloto ha mencionado la posibilidad de turbulencia. Si hubiera una emergencia, me pregunto si el piloto tiene suficiente experiencia de vuelo para saber cómo capearla.
Tanto el vuelo 3407 de Continental Connection como el vuelo 214 de Asiana Airlines se estrellaron porque los pilotos no dominaban el aterrizaje sin el uso de automatismos de alto nivel. A medida que el vuelo se ha ido automatizando, los pilotos han ido perdiendo ciertas habilidades necesarias para volar manualmente, como la navegación en base a puntos de referencia y el cálculo de la velocidad y altitud del avión. No tienen suficiente práctica. Las personas se aburren cuando el piloto automático se encarga de la mayoría de las tareas. Cuando la automatización falla o hace necesaria la intervención humana, los pilotos distraídos son menos capaces de superar situaciones de riesgo.
La inteligencia artificial (IA) es la automatización máxima. La aspiración es crear un tipo de herramienta que pueda hacerse cargo del mayor número posible de nuestras tareas. Dado que cada vez dependemos más de la IA en más esferas de la vida, merece la pena preguntarse si una mayor automatización provocará una pérdida de conocimientos especializados, y hasta qué punto eso podría ser un problema.
La preocupación de que la tecnología pueda degradar nuestras capacidades cognitivas no es nueva. En el Fedro de Platón, Sócrates argumentaba que la escritura haría que la gente confiara demasiado en fuentes externas en lugar de en su propio entendimiento.
Sócrates pensaba que la escritura atrofiaría la memoria de las personas, y que no podría proporcionar el mismo nivel de comprensión y diálogo que puede lograrse a partir de la comunicación verbal, donde las ideas pueden ser cuestionadas y refinadas a través de la conversación. En contraste con el diálogo en vivo, la palabra escrita carece de la capacidad de adaptarse a diferentes contextos y, por tanto, puede ser fácilmente malinterpretada o malentendida. La escritura no responde.
¿Tenía razón Sócrates al preocuparse por la escritura? Estoy dividida. Por un lado, defiendo ferozmente a la palabra escrita. Los libros son una de las mejores partes de la vida. Te permiten vivir muchas vidas en una, viajar a lugares lejanos desde la comodidad de tu sofá, explorar ideas que nunca se te habrían ocurrido, conocer gente con quienes nunca te habrían encontrado. La escritura mantuvo vivo a Sócrates durante todos estos siglos. Gracias, Platón.
La palabra en el papel ha facilitado la acumulación y el intercambio de conocimiento. Aunque nuestros antepasados tuvieran una memoria prodigiosa, no podrían memorizar toda la Biblioteca Bodleiana, a la que tengo la suerte de poder acceder.
Escribir mejora el pensamiento. El ritmo del proceso permite la reflexión pausada, y la posibilidad de edición invita al refinamiento. Externalizar las palabras en el papel o en una pantalla permite descargar el procesamiento cognitivo y facilita el manejo de argumentos complicados, de la misma manera que es más fácil hacer una multiplicación larga en papel que en la mente. Escribir no consiste sólo en expresar lo que uno piensa, sino sobre todo en descubrir lo que uno piensa sobre la marcha.
Sin embargo, Sócrates tenía razón en que la escritura probablemente ha dañado nuestra memoria. Hace siglos, la gente memorizaba libros enteros, palabra por palabra. Yo ni siquiera capaz recordar mi número de teléfono actual.
¿Y qué? ¿Es importante la memoria? Si tengo el móvil siempre conmigo, ¿qué importa si no puedo recordar mi propio número? Un elemento clave es la fiabilidad. Si la IA es fiable, no parece muy alarmante que perdamos algunas habilidades. Pero hay al menos cuatro formas en las que la IA puede no ser fiable.
En primer lugar, la IA es (actualmente) cara. Ejecutar sistemas potentes requiere mucha computación, que a su vez necesita mucha energía. Los chips, las baterías y los dispositivos dependen de materias primas como el litio, el cobalto y el níquel, recursos finitos que podrían agotarse.
En segundo lugar, la mayoría de las aplicaciones que utilizan IA están conectadas a internet, y cualquier cosa conectada a internet puede ser hackeada.
El ransomware (cuando un hacker secuestra virtualmente a un ordenador y pide un rescate para su liberación) es un ejemplo de los riesgos. Hace dos décadas, las fábricas, centrales eléctricas, hospitales, aeropuertos y oficinas funcionaban con herramientas analógicas, que son más robustas que los equivalentes digitales. Muchas de las instituciones actuales ya no tienen la opción de operar manualmente, o no han mantenido los conocimientos analógicos necesarios. Cuando la empresa de metales y electricidad Norsk Hydro recibió una demanda de rescate, consiguió evitar el cierre pasando a operar manualmente, pero sólo gracias a los empleados de más edad y a otros trabajadores que volvieron de su jubilación para echar una mano.
Dentro de veinte años, la generación que sabe hacer funcionar las cosas en analógico ya no estará por aquí para ayudarnos. La tarea que tenemos por delante es hacer que lo digital sea mucho más robusto de lo que es actualmente, al tiempo que repasamos nuestras habilidades analógicas para tenerlas como respaldo.
En tercer lugar, la IA puede ser poco fiable porque está gestionada por unos pocos gigantes tecnológicos poderosos. Una empresa como OpenAI podría decidir aumentar sus precios, introducir condiciones de explotación o cambiar su algoritmo a peor, y si hemos llegado a depender de su IA, estaremos a su merced.
En cuarto lugar y más importante aún, la IA actual tiene una relación poco fiable con la verdad. El tipo de IA más popular se basa en redes neuronales. Una IA como ChatGPT funciona analizando estadísticamente los textos que se le han proporcionado y generando respuestas convincentes basadas en sus datos de entrenamiento. Pero no utiliza la lógica ni se basa en pruebas empíricas. No tiene herramientas para rastrear la verdad. Como resultado, a menudo “alucina” o fabrica respuestas convincentes (basadas en su análisis estadístico) que, sin embargo, son falsas. Cuando le pedí que citara diez libros por Carissa Véliz, inventó nueve títulos plausibles pero falsos.
La falta de fiabilidad de la IA debería hacernos pensar dos veces en las habilidades que estamos perdiendo a su favor. Incluso si la IA fuera más fiable, tendríamos motivos para no querer perder ciertas habilidades. Recordemos a Sócrates, la escritura y la memoria.
La memoria y la atención están relacionadas. La clave para recordar algo es ser capaz de prestarle atención. Si la escritura ha debilitado nuestra memoria, nuestra capacidad de atención también se ha deteriorado, y probablemente se esté erosionando aún más con la tecnología digital.
Mientras escribo este artículo, mi atención no para de dar saltos —de la página en blanco a las referencias, a un mensaje de texto de mi madre, a cientos de notificaciones en redes sociales y, media hora más tarde, de nuevo a estas letras—. Esos saltos me impiden alcanzar el placer de la experiencia de flujo (flow state) que puede surgir tras horas de concentración sostenida.
A menudo se asume que una mayor automatización nos permitirá centrarnos en tareas más significativas. Me parece poco probable. La lavadora es un invento fantástico, pero no vino a solas. Gracias a la lavadora, puede que yo no pase tanto tiempo lavando ropa como mi abuela, pero paso más tiempo con el correo electrónico de lo que ella pasaba lavando ropa. Y apuesto a que ella tenía más espacio para tener pensamientos interesantes mientras lavaba la ropa que los que yo puedo tener mientras envío correos electrónicos. La experiencia de lavar la ropa —la sensación del agua corriendo por las manos, por ejemplo— también es más agradable para nuestra experiencia corporal que mirar fijamente una pantalla todo el día.
Cuando se trata de escribir, la automatización podría debilitar o eliminar algunas de las habilidades de pensamiento crítico que adquirimos cuando decidimos ignorar a Sócrates y adoptamos la palabra escrita. Si utilizamos chatbots para que escriban por nosotros, en el mejor de los casos, puede que obtengamos un producto más o menos aceptable con una fracción del tiempo y el esfuerzo que habría supuesto escribir manualmente, pero nos habremos perdido el proceso. Escribir es una manera de afilar nuestras habilidades cognitivas.
Si nuestros alumnos se acostumbran a depender de chatbots para escribir sus tareas, podrían perder habilidades creativas y de pensamiento crítico. Entre las habilidades que mejora la escritura está la empatía. Al escribir tienes que ponerte en el lugar del lector. ¿Entenderá lo que intentas comunicar? ¿Estás segura de que no les vas a aburrir? ¿Estás tomando en cuenta otros puntos de vista? Las habilidades sociales son algunas de las más valiosas que poseemos; haríamos bien en asegurarnos de no perderlas.
Mientras el avión en el que viajo aterriza sin problemas en la pista a pesar de la tormenta, creo que deberíamos prestar atención a mi antiguo profesor y utilizar las habilidades que no queramos perder. Carissa Véliz es Doctora en filosofía por la Universidad de Oxford, es profesora en el Instituto de Ética e Inteligencia Artificial e investigadora en Hertford College en esa misma universidad. Es autora de 'Privacidad es poder. Datos, vigilancia y libertad en la era digital' (Debate).
No hay comentarios:
Publicar un comentario