La propuesta de OpenAI consiste en asignar una calificación negativa para respuestas incorrectas y otorgar crédito parcial por dejar preguntas en blanco

La incómoda solución de OpenAI para las alucinaciones de la IA – OpenAI, compañía creadora de ChatGPT, ha publicado un estudio que aborda uno de los problemas más polémicos de la inteligencia artificial: las alucinaciones, es decir, cuando un modelo genera información falsa con total seguridad.

Según la investigación, este fenómeno no es solo un defecto del entrenamiento, sino un resultado matemáticamente inevitable en los sistemas actuales de lenguaje. Incluso con datos perfectos, persistirán los errores debido al método de predicción palabra por palabra que emplean las IA.

El análisis advierte que las evaluaciones vigentes empeoran

See Full Page