Outils pour utilisateurs

Outils du site


work_in_progress:installer-mistral-ai

Différences

Ci-dessous, les différences entre deux révisions de la page.

Lien vers cette vue comparative

Les deux révisions précédentesRévision précédente
work_in_progress:installer-mistral-ai [2025/12/18 15:13] yoannwork_in_progress:installer-mistral-ai [2025/12/19 11:32] (Version actuelle) yoann
Ligne 41: Ligne 41:
 Espace disque : ~ 5 GO disponible pour Mistral 7B via ollama Espace disque : ~ 5 GO disponible pour Mistral 7B via ollama
  
 +===== Installation =====
  
  
 +==== Création d'une VM (optionnel) ====
  
 +Il est possible d'installer le tout dans un environnement virtualisé mais dans ce cas il faudra pouvoir [[sysadmin:linux:virtualisation:kvm:configurer-gpu-passthrough|activer l'utilisation directe du GPU par la VM (GPU passthrough)]]. Pour une installation directe sur le système :TODO: sauter cette étape.
 +
 +Création d'un disque de 20 Go pour la VM
 +
 +<code bash>
 +mkdir -p ~/KVM/mistral-7b
 +qemu-img create -f qcow2 ~/KVM/mistral-7b/vda 20G
 +chown --recursive yoann:libvirt-qemu ~/KVM/mistral-7b/
 +chmod --recursive ug+rw,o-rwx ~/KVM/mistral-7b/
 +</code>
 +
 +Création de la VM via virt-install
 +
 +<file>
 +virt-install --name="mistral-7b" \
 +--metadata title="Test Mistral M8x7B",description="Mistral 8x7B / Ollama / Debian 13" \
 +--vcpus=8 \
 +--memory=16384 \
 +--osinfo=debian13 \
 +--features kvm_hidden=on \
 +--machine q35 \
 +--disk path=/home/yoann/KVM/mistral-7b/vda,bus=virtio,format=qcow2 \
 +--cdrom=/home/yoann/KVM/sysinstall/debian-13.2.0-amd64-netinst.iso \
 +--graphics spice \
 +--video virtio \
 +--network network=default,model=virtio \
 +--console pty,target_type=virtio \
 +--hostdev pci_0000_01_00_0 \
 +--hostdev pci_0000_01_00_1 \
 +--wait -1
 +</file>
 +
 +Installation des pilotes propriétaire CUDA
 +
 +
 +==== Installation Mistral M8x7b via ollama ====
 +
 +
 +Installer Ollama
 +
 +Déployer le 
  
 ===== Références ===== ===== Références =====
work_in_progress/installer-mistral-ai.1766070824.txt.gz · Dernière modification : 2025/12/18 15:13 de yoann