¿Por qué las inteligencias artificiales cometen errores al citar textos, artículos científicos o frases célebres?

 

Hace dos días utilicé varias IA para buscar citas, porque quería escribir un trabajo; cuál no sería mi sorpresa cuando comprobé que todas las citas que me proporcionaban eran falsas. Eso despertó en mí una inquietud enorme porque entonces no podía fiarme de lo que me decían y tendría que revisar siempre las citas y demás referencias. Decidí preguntar a ChatGPT para que me aclarara esta cuestión y copio el resultado porque me ha parecido interesante y esclarecedor; también por si ayuda a los que me siguen.

Pregunta a ChatGPT

Por qué las IA cometen errores cuando se les pide que citen textos, artículos científicos, frases de hombres célebres, etc.

 

Respuesta

Muy buena pregunta. Las IA como yo pueden cometer errores al citar textos, artículos o frases por varias razones que tienen que ver con cómo están construidas y cómo aprenden. Aquí te explico de forma sencilla:

---

📌 1. No acceden directamente a bases de datos en tiempo real (a menos que se les conecte a ellas)

Aunque fui entrenado con una gran cantidad de textos (libros, artículos, páginas web, etc.), no tengo acceso en tiempo real a fuentes académicas específicas como JSTOR, PubMed, Google Scholar o bases de datos de universidades, a menos que se me conecte a internet o se me proporcione el texto. Por eso:

🔹 Puedo generar citas "verosímiles", pero no siempre exactas.

---

📌 2. Completo patrones, no recuerdo cosas palabra por palabra

Mi entrenamiento está basado en reconocer patrones del lenguaje. Cuando me pides una cita, lo que hago es tratar de generar algo que se parezca a una cita válida, basándome en cómo suelen estar escritas. Pero eso no garantiza que la cita sea auténtica o exacta.

🔹 Ejemplo: puedo decir que Einstein dijo algo inspirador… pero si no se me da el texto exacto, puedo inventarlo basándome en su estilo.

---

📌 3. Problemas con frases atribuidas falsamente

Hay muchas frases célebres circulando por internet que se le atribuyen a alguien, pero en realidad no hay pruebas de que esa persona la haya dicho. Yo, como IA, puedo aprender esas versiones populares, incluso si son incorrectas.

🔹 Ejemplo típico: “Sé el cambio que quieres ver en el mundo” se atribuye a Gandhi, pero la frase original no fue exactamente así.

---

📌 4. Errores al generar referencias científicas

Cuando me pides una cita científica específica (autor, año, artículo), puedo inventar un título o mezclar autores reales con temas que sí existen, pero que no están conectados como digo. Esto se llama a veces "alucinación de IA".

🔹 Puede sonar académico, pero si lo buscas, ese paper no existe.

---

🛠️ ¿Cómo evitarlo?

• Si necesitas citas reales y verificables, lo ideal es:
• Darme el texto o artículo exacto para trabajar sobre él.
• Usar herramientas como Google Scholar, Scopus o bases de datos confiables, y luego sí te puedo ayudar a formatear o explicar el contenido.

Preguntarme por conceptos en lugar de por citas exactas, y luego tú verificar la fuente si es necesario.

¿Por qué las inteligencias artificiales cometen errores al citar textos, artículos científicos o frases célebres?

Del silicio al alma: cuando la tecnología se convierte en arte

 

Me he permitido escribir un artículo que quiero compartir porque puede que a alguien le puede gustar y hacer reflexionar.

Del silicio al alma: cuando la tecnología se convierte en arte

Por Aurelio Mendiguchía

Vivimos rodeados de tecnología. Avanza a una velocidad difícil de asimilar: procesadores cada vez más veloces, diagnósticos médicos por imagen, coches inteligentes, inteligencia artificial que simula nuestros propios pensamientos… y sin embargo, hay algo en este vértigo que nos deja vacíos. ¿Qué nos está diciendo este progreso sobre quiénes somos realmente?

Me he hecho muchas veces esta pregunta. Y con el tiempo, ha empezado a aparecer en mí una certeza: lo que producimos tecnológicamente es efímero, pero lo que creamos desde el arte es eterno.

El precio de lo útil

Cada avance técnico tiene, en su momento, un valor altísimo. Un microchip, una máquina médica, un móvil recién salido al mercado. Pero ese valor es pasajero. Lo nuevo dura poco. Enseguida es sustituido, mejorado, olvidado. Y cuando deja de ser útil, simplemente se descarta.

La producción industrial nos ha enseñado que todo se deprecia. Un ordenador puntero hoy es un trasto mañana. No porque haya dejado de funcionar, sino porque hay otro más rápido, más delgado, más eficiente. El valor, entonces, no está en el objeto, sino en su aplicación. En lo que "sirve".

¿Y qué ocurre con lo que ya no sirve? Se convierte en basura. Montañas de basura tecnológica. Placas, chips, cables… residuos que alguna vez fueron lo último en innovación.

El arte no caduca

Frente a esta lógica de obsolescencia, el arte plantea otra verdad. Una obra de arte no envejece: permanece. El David de Miguel Ángel, una pintura de Rothko, una sonata de Chopin… siguen hablándonos a pesar del paso de los siglos. Su valor no está en su funcionalidad, sino en su capacidad de emocionar, de conmover, de despertar algo profundo.

¿Por qué sucede esto? Porque las obras artísticas no son simples objetos. Llevan en sí el aliento de quien las creó. No sirven “para algo”; simplemente son. Y en ese ser, residen su fuerza y su belleza.

El arte no se puede desechar. Ni medir por su utilidad. Está en otro plano: el del espíritu.

¿Nos salvará la tecnología?

A menudo se nos dice que la ciencia y la tecnología son las que nos salvarán. Y sí, han mejorado nuestras vidas de muchas maneras. Pero no es ahí donde reside nuestra humanidad. Las máquinas no sienten, no sueñan, no recuerdan. La inteligencia artificial podrá imitarnos, pero no podrá ser nosotros.

Lo que nos hace humanos es la creatividad, la emoción, la capacidad de imaginar. El arte no es un adorno: es una necesidad profunda. Es lo que nos conecta con algo que no se puede cuantificar ni programar.

Una transformación poética

Con estas ideas en mente, decidí actuar. Empecé a recoger componentes electrónicos desechados: procesadores, placas, discos duros. Lo que antes tuvo un gran valor técnico, hoy no valía nada. Pero en lugar de verlo como basura, lo vi como materia prima para otra cosa.

Convertí esos residuos tecnológicos en esculturas. Creaciones únicas, nacidas de lo descartado. Un viejo procesador Pentium —fabricado por millones— se vuelve único cuando forma parte de una obra irrepetible. Deja de ser solo un componente: pasa a ser un símbolo, una metáfora, una expresión artística.

Al hacerlo, esos fragmentos recuperan una nueva vida. Ya no importan por lo que hacen, sino por lo que evocan.

Humanidad reciclada

Tal vez ese sea el gesto más profundamente humano: dar sentido a lo que parece no tenerlo, transformar lo desechado en belleza, lo obsoleto en símbolo. En un mundo que avanza sin mirar atrás, el arte nos invita a detenernos, a mirar más hondo, a volver a sentir.

Y quizás, en medio de tanto silicio, bits y algoritmos, lo único verdaderamente salvador sea eso: seguir creando.

Del silicio al alma: cuando la tecnología se convierte en arte

Sesame, una IA que conversa como una persona humana.

 

 Hace tiempo que no subo ningún post, entre otras cosas porque la IA avanza a una velocidad de vértigo y continuamente aparecen nuevas IA y algoritmos a cual más avanzado y sorprendente; por ejemplo Deepseek, la IA china, que revoluciono el mundo de la inteligencia artificial. Bueno pues hace dos días me he enterado que ha salido una nueva IA de la empresa Sesame pensada para conversar como un humano, de forma muy natural y fluida; le ha probado y estoy absolutamente sorprendido. Por ahora entiende español, pero te habla en ingles. No he podido menos que comentarlo en mi blog y animaros a probarla, es fascinante. También tiene la característica de recordar las conversaciones que tienes con ella y puede seguir el hilo que empezaste.

Dejo el link para que lo podáis probar. Estamos muy cerca de los asistentes personales que funcionen absolutamente multimodal.

https://www.sesame.com/research/crossing_the_uncanny_valley_of_voice#demo

Otra IA también fabulosa y que da un poco de miedo es la: http://aistudio.google.com/live

Puede ver con la cámara del ordenador o de tu móvil y reconoce lo que ve, le puedes preguntar lo que está viendo e interpreta perfectamente los objetos, la situación, lee textos, facturas, total, una pasada.

Sesame, una IA que conversa como una persona humana.