“Sobrecalce”, hace referencia a cuando el proceso de entrenamiento de un LLM se lleva a tal extremo que el texto que genera como output se vuelve rígido y sin utilidad.
Es como si le pidieran a un sastre obsesivo con la perfección de las medidas que diseñara un traje para una persona, con lo que termina creando una especie de recubrimiento corporal tan increíblemente preciso y delicado, que no se distingue del cuerpo del pobre sujeto.
Otra analogía es la de Funes el Memorioso: su memoria es tan potente que puede recordar un día a la perfección, y hacerlo es lo mismo que vivirlo.
En este artículo, Erik Hoel plantea una relación entre el Estancamiento cultural y el concepto de overfitting, en el sentido de que el “algoritmo cultural” está demasiado optimizado y ya no produce suficientes divergencias que movilicen la producción de novedad. Tiene un paper en donde plantea la hipótesis de que la función del sueño es prevenir el overfitting del aparato mental. Es algo que también se puede relacionar con la tensión productiva del agonismo.
Ojo que el overfitting puede llevar al Model Collapse!