ollama
This commit is contained in:
parent
b3d98b94e2
commit
a1502163f9
|
@ -20,6 +20,7 @@
|
|||
systemd.tmpfiles.rules = [
|
||||
"L+ /opt/rocm/hip - - - - ${pkgs.rocmPackages.clr}"
|
||||
];
|
||||
nixpkgs.config.rocmSupport = true;
|
||||
|
||||
# [BOOT]
|
||||
boot.loader.systemd-boot.enable = true;
|
||||
|
@ -81,5 +82,20 @@
|
|||
};
|
||||
};
|
||||
|
||||
# [GAME STREAMING]
|
||||
services.sunshine = {
|
||||
enable = true;
|
||||
openFirewall = true;
|
||||
};
|
||||
|
||||
# [LOCAL LLMs]
|
||||
services.ollama = {
|
||||
enable = true;
|
||||
acceleration = "rocm";
|
||||
rocmOverrideGfx = "10.3.0";
|
||||
};
|
||||
|
||||
services.nextjs-ollama-llm-ui.enable = true;
|
||||
|
||||
system.stateVersion = "24.11";
|
||||
}
|
||||
|
|
|
@ -94,6 +94,7 @@ system: config: { pkgs, ... }:
|
|||
"wheel"
|
||||
"networkmanager"
|
||||
"video"
|
||||
"render"
|
||||
"input"
|
||||
"audio"
|
||||
"docker"
|
||||
|
|
Loading…
Reference in New Issue
Block a user