Hace referencia a que los Modelos de Lenguaje se pueden representar básicamente como un ejército de genios clonados que tienen la misma “tábula rasa” después de su entrenamiento. Hacerles preguntas específicas sobre un problema propio va a desaprovechar radicalmente su potencialidad, ya que van a estar ciegos a todo el “mundo de la vida” que le da sentido al desafío que le planteo. Este contexto forma parte de un conjunto jerarquizado de supuestos implícitos que se comparten naturalmente en la interacción humana, pero que en el caso de los LLM hay que hacer explícito de manera pertinente y sistemática, lo cual ya es toda una skill en sí misma.
Un modelo de lenguaje no tiene perspectiva ni personalidad propia, sino que las enactúa de manera emergente en función de los sesgos de entrenamiento, los system prompts y, principalmente, en la interacción con el usuario. Es tremendamente inteligente —y puede trabajar de manera infatigable a condición de contar con las tokens requeridas—, pero suele pensar de maneras poco útiles.
Es un commodity al que se le debe dar forma, es como el petróleo, como el coeficiente g de la inteligencia.
Una de las principales causas que explican el workslop es que las personas interactúan con el modelo como si fuese una especie de daemon que puede leerles la mente. El resultado es un producto genérico que no responde a la tonelada de supuestos que forman parte de nuestras expectativas implícitas —el “mundo de la vida” que forma parte de las representaciones sociales en relación a nuestra vida privada y el trabajo— y que, por lo tanto, no está a la altura de nuestras expectativas.
Para combatir este problema es necesario “enraizar” el modelo lo más posible en nuestra posición. Hay que “corporeizarlo” alimentándolo con un contexto estructurado, jerarquizado, expresado en los términos que la máquina requiere para generar los resultados esperados, que incluya nuestras ideas y sea representativo de nuestro juicio.
Relaciones
Referencias
Muratcan-Koylan---the-file-system-is-the-new-database---how-i-built-a-personal-os-for-ai-agents#id992899389-los-modelos-producen-outputs-genéricos-si-no-existe-un-contexto-bien-trabajado
Julie-Zhuo---what-it-actually-takes-to-trust-ai-with-your-data#id1000593227-context-is-king
Vicky-Zhao---why-you-should-take-notes-if-you-use-ai#id995887178-el-valor-agregado-de-la-ia-depende-del-proveerle-de-contexto-propio