ollama
This commit is contained in:
parent
b3d98b94e2
commit
a1502163f9
|
@ -20,6 +20,7 @@
|
||||||
systemd.tmpfiles.rules = [
|
systemd.tmpfiles.rules = [
|
||||||
"L+ /opt/rocm/hip - - - - ${pkgs.rocmPackages.clr}"
|
"L+ /opt/rocm/hip - - - - ${pkgs.rocmPackages.clr}"
|
||||||
];
|
];
|
||||||
|
nixpkgs.config.rocmSupport = true;
|
||||||
|
|
||||||
# [BOOT]
|
# [BOOT]
|
||||||
boot.loader.systemd-boot.enable = true;
|
boot.loader.systemd-boot.enable = true;
|
||||||
|
@ -81,5 +82,20 @@
|
||||||
};
|
};
|
||||||
};
|
};
|
||||||
|
|
||||||
|
# [GAME STREAMING]
|
||||||
|
services.sunshine = {
|
||||||
|
enable = true;
|
||||||
|
openFirewall = true;
|
||||||
|
};
|
||||||
|
|
||||||
|
# [LOCAL LLMs]
|
||||||
|
services.ollama = {
|
||||||
|
enable = true;
|
||||||
|
acceleration = "rocm";
|
||||||
|
rocmOverrideGfx = "10.3.0";
|
||||||
|
};
|
||||||
|
|
||||||
|
services.nextjs-ollama-llm-ui.enable = true;
|
||||||
|
|
||||||
system.stateVersion = "24.11";
|
system.stateVersion = "24.11";
|
||||||
}
|
}
|
||||||
|
|
|
@ -94,6 +94,7 @@ system: config: { pkgs, ... }:
|
||||||
"wheel"
|
"wheel"
|
||||||
"networkmanager"
|
"networkmanager"
|
||||||
"video"
|
"video"
|
||||||
|
"render"
|
||||||
"input"
|
"input"
|
||||||
"audio"
|
"audio"
|
||||||
"docker"
|
"docker"
|
||||||
|
|
Loading…
Reference in New Issue
Block a user