Large Language Models explained briefly

Imagina que encuentras un guión de un cortometraje que

describe una escena entre una persona y su asistente de inteligencia artificial.

El guión muestra la pregunta para la inteligencia artificial,

pero la respuesta despareció.

Supón que tienes esta máquina poderosa y mágica que puede tomar

cualquier texto y hacer una predicción sensata de cuál es la palabra siguiente.

Así, podrías completar el guión introduciendo el texto en la máquina

para predecir la primera palabra de la respuesta de la inteligencia artificial,

y luego repetir el proceso palabra por palabra hasta completar el diálogo.

Cuando interactúas con un chatbot, esto es exactamente lo que ocurre.

Un modelo extenso de lenguaje o LLM es una sofisticada función matemática

que predice qué palabra viene a continuación para cualquier texto.

Sin embargo, en lugar de predecir una palabra con certeza,

lo que hace es asignar una probabilidad a todas las posibles palabras.

Para construir un chatbot, preséntale un texto

que describe una interacción entre un usuario

y un hipotético asistente, añade lo que el usuario escriba como primera parte de

la interacción, y luego haz que el modelo prediga repetidamente la siguiente palabra que

la inteligencia artificial diría, hasta lograr una respuesta para el usuario real.

Al hacer esto, el resultado parece mucho más natural si

le permites a la función seleccionar, de forma aleatoria,

algunas palabras menos probables.

Lo que esto significa es que, aunque el modelo en sí sea determinista,

una misma pregunta suele dar una respuesta diferente cada vez que se ejecuta.

Los modelos aprenden a hacer estas predicciones procesando enormes cantidades de texto,

normalmente obtenido de internet.