Andrej Karpathy y el "problema de las alucinaciones" en los Modelos de Lenguaje
21 de febrero de 2025
Andrej Karpathy fue una de las figuras más influyentes en el campo de la inteligencia artificial y el aprendizaje profundo. Contribuyó significativamente al desarrollo y comprensión de los modelos de lenguaje. En una de sus reflexiones, abordó el llamado "problema de las alucinaciones" en los Modelos de Lenguaje de Gran Escala (LLMs, por sus siglas en inglés), explicando por qué esta característica no era un defecto, sino una propiedad fundamental de estos sistemas.
Cuando se hablaba del "problema de las alucinaciones" en los modelos de lenguaje, se hacía referencia a su tendencia a generar información incorrecta o ficticia que no se encontraba en sus datos de entrenamiento. Sin embargo, Karpathy argumentaba que, en esencia, alucinar era lo único que hacían los modelos de lenguaje. Su función era, en términos simples, soñar. Las entradas (prompts) que se les proporcionaban iniciaban estos sueños, y la información generada se basaba en la nebulosa recuperación de los documentos con los que fueron entrenados. El problema no residía en que los modelos alucinaran, sino en que, cuando estas alucinaciones eran inexactas o incorrectas, se percibían como un error. Esto resultaba particularmente relevante cuando los LLMs eran empleados como asistentes de inteligencia artificial en aplicaciones donde la precisión era clave, como la generación de contenido educativo o la asistencia médica.
