Corre modelos de IA local en tu Mac con una eGPU Nvidia

Si trabajas con inteligencia artificial y usas Mac, sabes que las limitaciones de hardware pueden frenar tus experimentos locales. Pero hay una opción que muchos ignoran: conectar una eGPU con una tarjeta Nvidia a tu Mac. Aunque Apple dejó de dar soporte oficial a eGPUs con los chips M, todavía es posible hacerlo funcionar con un poco de ingenio y software de código abierto.

La idea es usar una carcasa externa con una GPU Nvidia (como una RTX 3090 o 4090) conectada por Thunderbolt, y luego instalar controladores y frameworks como CUDA mediante parches. No es plug-and-play, pero para los que necesitan ejecutar modelos locales (LLaMA, Stable Diffusion, etc.) sin depender de la nube, el esfuerzo vale la pena. Los resultados varían según el modelo de Mac y la GPU, pero se reportan mejoras de hasta 10x en velocidad de inferencia comparado con solo CPU.

Esto no es para todos: requiere tiempo, paciencia y cierto nivel técnico. Pero si valoras la privacidad de tus datos, quieres evitar costos recurrentes de API o simplemente te gusta tener control total de tu stack, vale la pena considerar esta ruta. Además, al ser una solución local, puedes iterar más rápido y sin límites de tokens.

**¿Qué significa para ti?** Si eres knowledge worker y usas modelos de IA en tu día a día, evalúa si tu flujo de trabajo se beneficiaría de ejecutar inferencia local. Revisa si tu Mac es compatible, consigue una eGPU y dedica un fin de semana a configurarlo. No es trivial, pero puede ahorrarte dinero y darte más libertad.