Erste Eindrücke zu Llama-3.1 (8b:Q4)

  • Sehr effizient (fast so schnell wie phi3-mini)
  • Gute Qualität auf Deutsch.
  • Braucht etwas Liebe beim Prompting 😉
  • Für RAGs super geeignet
  • Leider typische Logik-Fehler* (9,11 > 9,9 😂)

Absolut brauchbares Open Source GPT, wenn nur Low Tec oder CPU-only zur Verfügung steht. Ich verwende es aktuell für mein Demo-KI-Dashboard.

*diesen Fehler macht auch GPT-4o-mini 🤦‍♂️KünstlicheIntelligenz

》Kommentare: @ Treads