El fine-tuning es el proceso de tomar un modelo de lenguaje pre-entrenado (como GPT-4 o Claude) y entrenarlo adicionalmente con un conjunto de datos específico para adaptar su comportamiento a un dominio o tarea particular. Es la diferencia entre un modelo generalista y uno especializado.

Los casos de uso más comunes para fine-tuning son: modelos que hablan siempre en el tono de marca de una empresa, modelos especializados en un dominio técnico específico (medicina, derecho, finanzas), y modelos entrenados para seguir un formato de respuesta muy específico de forma consistente.

Para la mayoría de los builders de SaaS, el fine-tuning no es la herramienta correcta. Es costoso en tiempo y dinero, requiere grandes cantidades de datos de entrenamiento de alta calidad, y los resultados son difíciles de depurar. En la mayoría de los casos, un buen prompt engineering o una arquitectura RAG logra los mismos resultados con mucho menos esfuerzo. El fine-tuning tiene sentido cuando el volumen de interacciones es muy alto y la consistencia en el comportamiento del modelo es crítica para el negocio.