Mit Ollama können Sprachmodelle lokal genutzt werden. In diesem Artikel habe ich erklärt, wie man dieses Tool auf einem Mac installiert und Sprachmodelle für die lokale Verwendung herunterlädt. Nun möchte ich ein neues Modell vorstellen: TranslateGemma. Wie der Name erahnen lässt, lassen sich damit Texte übersetzen. Dieses Sprachmodell wurde von Google veröffentlicht, es basiert auf Gemma 3. Das Sprachmodell ist in drei Parametergrößen verfügbar (4B, 12B, und 27B) und unterstützt derzeit 55 Sprachen.
Mit dem Befehl ollama run kann es heruntergeladen und ausgeführt werden:
ollama run translategemma:4bWenn ihr eine Version mit mehr Parametern verwenden möchtet, lauten die Befehle:
ollama run translategemma:12boder
ollama run translategemma:27bMit dem Befehl ollama run translategemma kann das Sprachmodell im Terminal verwendet werden. Ollama bietet darüber hinaus eine grafische Oberfläche, die ChatGPT ähnlich ist.
Zur Qualität der Übersetzung kann ich derzeit nicht allzu viel sagen, zumal ich bisher auch nur das kleinste Modell ausprobiert habe. Erste Tests zeigen bisher aber recht brauchbare Ergebnisse (zumindest für die Übersetzung in die englische Sprache). Wie so häufig gilt: Ladet euch das Modell herunter und probiert es aus.