5 commits

Author	SHA1	Message	Date
Ettore Di Giacinto	0c859addce	chore: memoize detected GPUs ... Signed-off-by: Ettore Di Giacinto <mudler@localai.io>	2025-05-17 22:10:10 +02:00
Ettore Di Giacinto	72111c597d	fix(gpu): do not assume gpu being returned has node and mem (#5310) ... Signed-off-by: Ettore Di Giacinto <mudler@localai.io>	2025-05-03 19:00:24 +02:00
Ettore Di Giacinto	5c6cd50ed6	feat(llama.cpp): estimate vram usage (#5299) ... Signed-off-by: Ettore Di Giacinto <mudler@localai.io>	2025-05-02 17:40:26 +02:00
Ettore Di Giacinto	9628860c0e	feat(llama.cpp/clip): inject gpu options if we detect GPUs (#5243) ... Signed-off-by: Ettore Di Giacinto <mudler@localai.io>	2025-04-26 00:04:47 +02:00
Ettore Di Giacinto	b69ff46c7e	feat(startup): show CPU/GPU information with --debug (#2241) ... Signed-off-by: mudler <mudler@localai.io>	2024-05-05 09:10:23 +02:00