-
·
Del ett GPU til flere Proxmox-LXC-er uten VFIO
Slik deler du ett NVIDIA-GPU inn i flere uprivilegerte Proxmox-LXC-containere uten VFIO, med driver på verten og bind-mount pluss cgroup-regler i hver container.
-
·
Hva en lokal 70B-modell faktisk krever av maskinvare
En 70B-modell trenger rundt 40 GB VRAM på 4-bit og 140 GB i fp16, og valget står mellom ett proff-kort, ett consumer-kort eller to kort med tensor-parallell.
-
·
Industri-PC-en krasjer om natten når ingen rører den
En Windows-industri-PC krasjet på tomgang om natten, og årsaken var GPU-timeout og strømsparing, ikke CAM-programmet.