LLM tournant en consultation sur votre propre machine
Philippe Strauss via gull <gull-04vmY7CpswVinyhjFObuvR+/[email protected]>
| Newsgroups | gmane.org.user-groups.gull.general |
|---|---|
| Message-ID | <[email protected]> |
Ce site: https://replicate.com/blog/run-llama-locally donne des liens simples pour installer un LLM sur sa propre machine, je vous recommande d'installer la version "CPU only" afin de comparer la vitesse d'un LLM moyen à des tâches du quotidien, et ceci qu'en mode lecture, pas apprentissage, c'est déjà super gourmand en resrources les LLM. écologiquement parlant à utiliser avec modération, ces perroquets++ -- Philippe Strauss https://straussaudio.ch _______________________________________________ gull mailing list [email protected] https://forum.linux-gull.ch/mailman/listinfo/gull