Programmierung | macOS | Linux | Windows
Ollama und lokale Sprachmodelle können auch über das Netzwerk genutzt werden. Im nachfolgenen Beispiel wird Ollama auf einem Mac ausgeführt. Als Sprachmodell verwende ich gemma4. Dieses Modell soll von einem anderen Rechner, einem Linux-PC, verwendet werden. Vorausstzung ist, dass in den Einstellungen von Ollama der Zugriff über das Netzwerk gestattet wird. Diese Einstellung kann über aufgerufen werden. Dort ist die … Weiterlesen …
Für die Verwaltung lokaler Modelle kann Ollama genutzt werden, dass wohl am meisten verbreitete Programm für diese Aufgabe. Die Verwendung von Ollama wurde bereits in diesem Blogbeitrag erklärt. Nun geht es darum ein einfaches Shell-Skript zu erstellen, das es uns ermöglicht, eine Frage an ein lokales Sprachmodell zu übermitteln. Dafür werden wir Ollamas HTTP-Endpunkt und curl nutzen. Nach der Shebang-Zeile … Weiterlesen …
Dies ist der fünfte Artikel, in dem es um Ollama geht, das Programm für die Verwaltung lokaler Sprachmodelle. Bisher wurden folgende Beiträge veröffentlicht: Neben Ollama geht es in diesem Artikel auch um Python, denn ich möchte zeigen, wie man mit Python auf Ollama — genauer gesagt die Ollama-API — zugreifen kann. Das klingt wie eine Wiederholung des vierten Beitrags dieser … Weiterlesen …
In Python wird man hin und wieder mit Zugangsdaten — beispielsweise API-Schlüsseln oder Datenbank-Passwörtern — konfrontiert. Solche Daten kann man in den Code schreiben, eine gute Idee ist es jedoch nicht. Vielmehr sollte man stets darauf achten, Zugangsdaten und etwaige Konfigurationen vom Code zu trennen. In Python gibt es für diesen Zweck eine Bibliothek, die den Namen dotenv trägt und … Weiterlesen …