Desde la popularización de ChatGPT y otros chatbots de inteligencia artificial , esta tecnología se ha masificado y evolucionado rápidamente. Sin embargo, pese a sus avances, aún no logra superar un problema clave: las alucinaciones, esos momentos en que la IA genera respuestas falsas con tal seguridad que podrían pasar por verdaderas.

Un reciente paper de OpenAI —desarrolladora de ChatGPT— sostiene que estas alucinaciones no pueden eliminarse por completo bajo los sistemas actuales. La razón está en los modelos de evaluación, que priorizan la precisión por encima del reconocimiento de la incertidumbre.

“Parte del problema está en que las metodologías de evaluación actuales crean el incentivo equivocado: los modelos, al ser evaluados únicamente por precisión, tienden a adivinar

See Full Page