Fine-tuning local LLM para clasificar preguntas: resultados prácticos

Un desarrollador compartió su experiencia ajustando Qwen 3.0.6B, un modelo de lenguaje pequeño, para categorizar preguntas técnicas. El objetivo era simple: en lugar de depender de APIs externas o modelos gigantes, quería algo que corriera localmente, rápido y sin costo por consulta. Los resultados son alentadores: con un dataset curado de unas pocas cien ejemplos, logró una precisión superior al 90% en la clasificación de preguntas en categorías como 'instalación', 'configuración' o 'error'. El truco estuvo en elegir un modelo base ya bastante capaz y aplicar fine-tuning con pocos recursos (una GPU de consumo). El artículo detalla el proceso: preparación de datos, elección de hiperparámetros y evaluación. Para profesionales de tecnología, esto confirma que los modelos pequeños, bien ajustados, pueden resolver tareas específicas sin necesidad de infraestructura costosa. Además, abre la puerta a aplicaciones donde la privacidad o la latencia son críticas. No es magia, es técnica: saber qué modelo usar y cómo entrenarlo marca la diferencia.