ChatGPT se lía con Aragón: cambia la historia de las bodas de Isabel, la Ofrenda o las fiestas de Huesca

Cuenta la leyenda de los amantes de Teruel que Diego de Marcilla, a su vuelta de la guerra, encontró a su amada, Isabel de Segura, soltera, enferma y al borde de la muerte. O al menos, ese es el relato que la inteligencia artificial (IA) de ChatGPT narra al preguntarle por esta parte de la historia turolense. Un error que pone en entredicho el buen funcionamiento de la nueva herramienta que está de moda y que permite que cualquiera con acceso a internet la pruebe. 

No es el único tropiezo que la IA tiene con acontecimientos aragoneses. Las fiestas de San Lorenzo, en Huesca, son, según ella, en honor a la Virgen de la Asunción, la Ofrenda de Flores se celebra el 12 y 13 de octubre y 'chipiarse' es sinónimo de enfado y no de mojado. La historia parece que tampoco es su fuerte. La Cincomarzada rememora, según esta herramienta, la lucha entre franceses y españoles en 1838, cuando la realidad es que ese día se conmemora la derrota de las tropas carlistas en Zaragoza. Precisamente, a la capital aragonesa le roba esta IA una catedral, la de La Seo, ya que asegura que tan solo la del Pilar tiene este título. 

Son fallos que el chat, de código abierto, presenta, pero que son básicos en el desarrollo de está tecnología. De hecho, los expertos señalan que el problema reside más en la persona que plantea la disyuntiva, que en el 'chatbot'. "Preguntarle por hechos factuales no es el mejor uso que le podemos dar. Para él es más sencillo resolver una tarea que una pregunta", explica el investigador del grupo Vivolab del Instituto de Investigación en Ingeniería de Aragón (I3A) Antonio Miguel. 

¿Cómo funciona esta tecnología?

Se trata de una tecnología muy avanzada que tiene el potencial de revolucionar la forma en que las personas interactúan con la inteligencia artificial. Es capaz de comprender el lenguaje natural y responder de manera efectiva a una amplia variedad de preguntas y temas.

Resulta complejo entender el funcionamiento de esta herramienta, que es capaz de crear textos a partir de unas pocas premisas. "Tenemos que aprender a buscar en esta IA como aprendimos a buscar en Google. Además, este sistema funciona mejor en inglés", apunta.

Entonces, ¿cómo funciona y cómo puede saber tantas cosas? La respuesta más sencilla la tiene el propio ChatGPT:

Los programadores e investigadores que están detrás de esta y de otras IA las entrenan para que adquieran conocimientos y para que sepan buscar entre todo ese mar de datos y dar respuestas como la anterior. "A nosotros, leernos toda la Wikipedia nos llevaría un tiempo, a la IA no le supone nada. De hecho, los desarrolladores hacen que estas herramientas tengan acceso a gran parte de la historia de la humanidad, así es cómo "aprenden" y dan respuesta a cualquier pregunta", explica el investigador del I3A.

Y aprenden rápido, porque solo unas horas después de la publicación de esta noticia ChatGPT ya respondía correctamente a casi todas las preguntas en las que había cometido errores.

A pesar de que en su memoria almacenan millones de textos e información, cometen errores como los mencionados anteriormente, ¿a qué se debe?. "El ChatGPT funciona como el tablón de un detective. Nosotros le damos las pistas y él une cada una con un hilo para llegar a la conclusión final", ejemplifica Antonio Miguel, quien asegura que, por el momento, estas aplicaciones tienen limitaciones cuando se trata de conocimientos sobre lugares o sucesos: "Si le preguntas por algo relacionado con Nueva York, lo va a hacer mejor que con algo de Aragón, porque tiene más información y más lugares en los que buscar". 

Con todo, la Inteligencia Artificial que está detrás de motores como el de ChatGPT, generado por OpenAI, se prueban a diario para dar con sus puntos débiles y trabajar en mejorar esas áreas. "Hay comparaciones con exámenes reales de universidades de Estados Unidos. El mismo test que realizan los alumnos, lo hace la IA para comprobar si es capaz de resolver un problema con la información que se la ha dado. Con la nota que saca se sabe que parcelas son las que más domina y en cuáles hay que mejorarla", indica.

La Inteligencia artificial puede ayudar a reducir la brecha digital

Por tanto, esta inteligencia artificial no pasa el examen sobre cultura general de Aragón, pero podría hacerlo en breve, ya que el desarrollo de esta tecnología evoluciona, literalmente, cada segundo y no hay semana en la que no se lance al mercado una nueva versión. 

La buena noticia es que cualquiera puede utilizarla, de forma gratuita y solo con unos conocimientos básicos de internet. Eso es precisamente lo que Antonio Miguel espera que se potencie: el lado social y ético de la tecnología.

"Hay quien ya ha probado a emplear estas herramientas para el mal y para cosas negativas, como descubrir nuevos venenos. Confío en que este tipo de modelos puedan ayudar a, por ejemplo, reducir la brecha digital. En poco tiempo podremos hacer que tan solo con la voz nos guíe paso a paso en cómo obtener un certificado digital: desde saber qué es, hasta dónde obtenerlo, qué decir en una sucursal, cómo pedirlo, cómo rellenar un impreso... todo", augura el investigador.