DeepSeek V4.1 Flash
El modelo frontier abierto más reciente de DeepSeek, con licencia MIT, contexto de 1M de tokens y nivel de razonamiento ajustable. Un despliegue para varias GPUs.
Resumen
Según su ficha, DeepSeek V4.1 Flash es un modelo mixture-of-experts con una base de 552B parámetros y entre 8B y 16B parámetros activados por token. Admite una ventana de contexto de 1.048.576 tokens y un nivel de razonamiento de 1 a 100. La mayoría de los builds GGUF parten de la revisión 1017.
Requisitos de hardware
Es un modelo para varias GPUs. UD-IQ1_S necesita unos 233 GB solo para los pesos y UD-Q4_K_XL unos 500 GB, así que cuenta con un nodo completo de 8x H100 u 8x H200. Ejecútalo en su propio servidor y dirige el resto de tu flota a modelos más pequeños.
| Cuantización | Pesos |
|---|---|
| UD-IQ1_S | 233.0 GB |
| UD-Q2_K_XL | 334.8 GB |
| UD-Q4_K_XL | 500.7 GB |
Los tamaños son los de los archivos GGUF de unsloth/DeepSeek-V4.1-Flash-1017-GGUF. Reserva VRAM adicional para la caché KV, que crece con el tamaño del contexto y las peticiones en paralelo.
Despliegue en Loadcore
- En la consola, abre Modelos y busca
unsloth/DeepSeek-V4.1-Flash-1017-GGUF. - Elige la cuantización que quepa en el servidor de destino e inicia la descarga.
- Inicia una instancia con el tamaño de contexto que necesites y suficientes capas en GPU para descargar el modelo completo en ella.
- Apunta tus herramientas a
http://your-server:9090/v1con tu clave personal.
Ajustes recomendados
| Parámetro | Valor |
|---|---|
| temperature | 1.0 |
| top_p | 0.95 |
| top_k | 0 |
| repeat_penalty | 1.0 |
| min_p | 0.0 |
DeepSeek publica sus evaluaciones con temperature 1.0 y top_p 0.95. No indica top_k, así que abajo queda desactivado (0).
Fuente: deepseek-ai/DeepSeek-V4.1-Flash.