Ettore Di Giacinto
|
72111c597d
|
fix(gpu): do not assume gpu being returned has node and mem (#5310)
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
|
2025-05-03 19:00:24 +02:00 |
|
Ettore Di Giacinto
|
5c6cd50ed6
|
feat(llama.cpp): estimate vram usage (#5299)
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
|
2025-05-02 17:40:26 +02:00 |
|
Ettore Di Giacinto
|
9c74d74f7b
|
feat(gguf): guess default context size from file (#5089)
feat(gguf): guess default config file from files
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
|
2025-03-29 14:42:14 +01:00 |
|