mirror of
https://github.com/alyraffauf/nixcfg.git
synced 2024-11-22 02:53:55 -05:00
nixosModules: remove ollama module
This commit is contained in:
parent
74157fbdc2
commit
931c929fe9
|
@ -20,6 +20,11 @@
|
|||
|
||||
networking.hostName = "mandarin";
|
||||
|
||||
services.ollama = {
|
||||
enable = true;
|
||||
acceleration = "rocm";
|
||||
};
|
||||
|
||||
system.stateVersion = "24.05";
|
||||
|
||||
ar = {
|
||||
|
@ -48,12 +53,6 @@
|
|||
|
||||
services = {
|
||||
flatpak.enable = true;
|
||||
|
||||
ollama = {
|
||||
enable = true;
|
||||
gpu = "amd";
|
||||
};
|
||||
|
||||
tailscale.enable = true;
|
||||
};
|
||||
|
||||
|
|
|
@ -167,6 +167,11 @@ in {
|
|||
secretKeyFile = "/var/cache-priv-key.pem";
|
||||
};
|
||||
|
||||
ollama = {
|
||||
enable = true;
|
||||
acceleration = "rocm";
|
||||
};
|
||||
|
||||
samba = {
|
||||
enable = true;
|
||||
openFirewall = true;
|
||||
|
@ -253,12 +258,6 @@ in {
|
|||
};
|
||||
|
||||
services = {
|
||||
ollama = {
|
||||
enable = true;
|
||||
gpu = "amd";
|
||||
listenAddress = "0.0.0.0:11434";
|
||||
};
|
||||
|
||||
syncthing = {
|
||||
enable = true;
|
||||
syncMusic = true;
|
||||
|
|
|
@ -189,22 +189,6 @@
|
|||
services = {
|
||||
flatpak.enable = lib.mkEnableOption "Flatpak support with GUI.";
|
||||
|
||||
ollama = {
|
||||
enable = lib.mkEnableOption "Ollama interface for LLMs.";
|
||||
|
||||
listenAddress = lib.mkOption {
|
||||
description = "Listen Address for Ollama.";
|
||||
default = "127.0.0.1:11434";
|
||||
type = lib.types.str;
|
||||
};
|
||||
|
||||
gpu = lib.mkOption {
|
||||
description = "Type of GPU for enabling GPU acceleration.";
|
||||
default = null;
|
||||
type = lib.types.str;
|
||||
};
|
||||
};
|
||||
|
||||
syncthing = {
|
||||
enable = lib.mkEnableOption "Syncthing sync service.";
|
||||
|
||||
|
|
|
@ -6,7 +6,6 @@
|
|||
}: {
|
||||
imports = [
|
||||
./flatpak
|
||||
./ollama
|
||||
./syncthing
|
||||
./tailscale
|
||||
];
|
||||
|
|
|
@ -1,19 +0,0 @@
|
|||
{
|
||||
pkgs,
|
||||
lib,
|
||||
config,
|
||||
...
|
||||
}: {
|
||||
config = lib.mkIf config.ar.services.ollama.enable {
|
||||
services.ollama = {
|
||||
enable = true;
|
||||
acceleration =
|
||||
if config.ar.services.ollama.gpu == "amd"
|
||||
then "rocm"
|
||||
else if config.ar.services.ollama.gpu == "nvidia"
|
||||
then "cuda"
|
||||
else null;
|
||||
listenAddress = config.ar.services.ollama.listenAddress;
|
||||
};
|
||||
};
|
||||
}
|
Loading…
Reference in a new issue