Roberto Colom
Catedrático en Psicología Diferencial. UAM
Publicado previamente en el Blog Roberto Colom, con su autorización
El personal lleva un tiempo excitado con ese famoso programa informático. También se preocupa por lo que supuestamente significa ese prodigio de la tecnología. Skynet parece estar cada vez más cerca, aunque aún se ignora si se convertirá en un ente destructivo o salvará a la humanidad de barrerse a sí misma de la faz de la tierra.
El caso es que, yendo al tajo de este post, cabe preguntarse si es un programa inteligente. Tuvimos ya oportunidad de comentar al respecto de programas o enfoques similares en este foro. Un ejemplo fue el famoso programa de IBM (Watson). Otro, bastante extenso, se centró en la perspectiva de Hawkins. Hubo más entradas, no solamente preparadas por quien esto escribe, sino por colaboradores regulares. Ejemplos aquí y aquí.
Platicando distendidamente hace algunas semanas con una persona completamente ajena a la psicología, me relató las maravillas que ChatGPT estaba suponiendo para su trabajo de asesor financiero. No pudo evitar la tentación de preguntarme qué pensaba al respecto de si podía considerarse un programa inteligente. La verdad es que no le había dado vueltas al asunto con detenimiento porque me había interesado con un valor cercano al 0, de modo que tuve que improvisar como se supone que haría un músico de jazz.
Le pregunté a mi interlocutor, así, sin más, que si cuando asistía a un espectáculo de magia el artista lograba engañar a sus sentidos. Naturalmente me respondió que así era. Insistí en que si se mantenía en sus trece aun sabiendo que lo que estaba viendo era una ilusión, que era falso. Aún así. Por supuesto que sabía que era mentira, pero parecía verdad.
Eso es, a mi juicio, ChatGPT: una ilusión.
En una brevísima columna, Fernando Savater parece concordar con ese diagnóstico:
“Un truco mecánico que nos ofrece discursos, poemas, chistes e información prefabricadas que imitan la espontaneidad (…) la IA refleja la verdadera inteligencia de quien interactúa con ella y le sigue la corriente (…) tiene olfato para calar a su interlocutor.”
Fundacion para la libertad, 15/04/2023
De un modo más detallado, Ian Roberts, Jeffrey Watumull y Noam Chomsky escribieron un artículo para el New York Times en el que se llega a la conclusión de que no cuela: The False Promise of ChatGPT
Comienzan nada menos que con Jorge Luis Borges y rápidamente se refieren a las dos caras que mencionamos al abrir este post: optimismo y preocupación.
El personal se muestra optimista “porque la inteligencia es lo que usamos [los humanos] para resolver problemas”. Y se preocupa porque “la más guay IA –el machine learning—podría degradar nuestra ciencia y envilecer nuestra ética al incorporar a nuestra tecnología una concepción esencialmente defectuosa del lenguaje y del conocimiento.”
Lo que hacen programas como ChatGPT es “absorber enormes cantidades de información, buscar patrones dentro de esa información y mejorar progresivamente al generar resultados estadísticamente probables.” La meta es alcanzar una inteligencia general artificial (la cursiva la usan los autores, no es una licencia de quien esto escribe).
Admiten que ese prodigio se alcanzará en algún momento, pero subrayan, al igual que el rey de Gondor, que hoy no es ese día. Lo que sí logran es resultar útiles en campos concretos de conocimiento, pero “difieren de modo profundo de cómo los humanos razonamos y usamos el lenguaje.” La mente humana puede extenderse de modo infinito a partir de un pobre puñado de componentes “creando ideas y teorías de alcance universal (…) no busca correlaciones brutas entre datos, sino crear explicaciones.”
Cuando un niño aprende una lengua, recurre a un sistema operativo genéticamente instalado en su cerebro para generar espontáneamente una gramática con los escasísimos retazos que le ofrecen las circunstancias vitales que experimenta. Los programas tipo ChatGPT carecen de “la capacidad más crítica en cualquier inteligencia: concluir no solamente qué sucede, qué sucedió y qué sucederá –eso es descripción y predicción—sino también qué es lo que no sucede, así como qué podría y no podría suceder. Es decir, los ingredientes de la explicación, la verdadera marca de la inteligencia (…) la inteligencia consiste en crítica creativa tanto como en conjeturas creativas (…) la verdadera inteligencia se demuestra a través de la capacidad de pensar y de expresar cosas improbables pero iluminadoras.”
Esos programas de IA son incapaces de distinguir lo posible de lo imposible porque negocian con probabilidades que cambian con el paso del tiempo.
Capítulo aparte, pero relacionado, es el de la moral. Los autores del artículo del NYT usan el ejemplo de un intercambio entre uno de ellos y ChatGPT sobre si resultaría moralmente aceptable transformar el planeta Marte para que fuese apto para la vida humana. Del intercambio de impresiones entre el humano y la máquina se llega a la inexorable conclusión de que la indiferencia moral que manifiesta la segunda es un signo de ausencia de inteligencia. De hecho, la máquina llega a acusar a sus programadores de su propio fracaso al decantarse moralmente ante la petición del humano que interactúa con ella.
En suma, Roberts, Watumull y Chomsky concluyen: “considerando su amoralidad, su imitación cutre de la ciencia y su incompetencia lingüística, no nos queda más que reír o llorar ante su enorme popularidad.”
Lamentablemente, la defensa de las autoridades frente a ChatGPT está siendo congruente con la visión que Harari transmite en Homo Deus. En Italia se ha prohibido su uso y en España se está acariciando la idea. Pienso que no es el camino más adecuado, concuerdo con los autores del artículo del NYT cuando confiesan que los humanos lograremos eventualmente producir máquinas que serán verdaderamente inteligentes y predigo que tomarán decisiones más acertadas que las que podamos adoptar nosotros.
Aún no se llegó a esa meta, pero se conseguirá. Como expresé al cerrar el libro dedicado a la inteligencia dentro de la Biblioteca de Psicología que puso en el mercado El País en 2021 “hacer lo correcto para la humanidad sería inevitable para una máquina inteligente” y esa superioridad “conllevará eliminar las emociones” de la ecuación que compone el proceso de toma de decisiones. Admito que es súper discutible, pero es mi apuesta.
Para citar esta entrada
Colom, Roberto (2023) Chat GTP Consultado el 07/10/2023 En Niaiá, https://niaia.es/chatgpt/,
Si lo desea, puede volver a publicar este artículo, en forma impresa o digital. Pero le pedimos que cumpla estas instrucciones: por favor, no edite la pieza, asegúrese de que se la atribuye a su autor, a su institución de referencia (universidad o centro de investigación), y mencione que el artículo fue publicado originalmente en robertocolom.wordpress.com y Niaiá.
