llama : bump max layers from 256 to 512

ggerganov · ggerganov · commit fac0355e406c · 2024-07-17T10:01:54.000+03:00
diff --git a/src/llama.cpp b/src/llama.cpp
@@ -112,7 +112,7 @@
 
 // bump if necessary
 #define LLAMA_MAX_NODES   8192
-#define LLAMA_MAX_LAYERS  256
+#define LLAMA_MAX_LAYERS  512
 #define LLAMA_MAX_EXPERTS 160  // DeepSeekV2
 
 //
