Programmierung | macOS | Linux | Windows
Ollama und lokale Sprachmodelle können auch über das Netzwerk genutzt werden. Im nachfolgenden Beispiel wird Ollama auf einem Mac ausgeführt. Als Sprachmodell verwende ich gemma4. Dieses Modell soll von einem anderen Rechner, einem Linux-PC, verwendet werden. Voraussetzung ist, dass in den Einstellungen von Ollama der Zugriff über das Netzwerk gestattet wird. Diese Einstellung kann über aufgerufen werden. Dort ist die … Weiterlesen …
Für die Verwaltung lokaler Modelle kann Ollama genutzt werden, dass wohl am meisten verbreitete Programm für diese Aufgabe. Die Verwendung von Ollama wurde bereits in diesem Blogbeitrag erklärt. Nun geht es darum ein einfaches Shell-Skript zu erstellen, das es uns ermöglicht, eine Frage an ein lokales Sprachmodell zu übermitteln. Dafür werden wir Ollamas HTTP-Endpunkt und curl nutzen. Nach der Shebang-Zeile … Weiterlesen …
Bei mdcat handelt es sich um ein in Rust geschriebenes Kommandozeilenprogramm, das standardmäßig nicht installiert ist. Dafür ist auf UNIX-ähnlichen Systemen das Programm cat vorhanden, mit dem sich unter anderem Dateien in der Kommandozeile anzeigen lassen. So könnte man sich beispielsweise den Inhalt einer Textdatei mit folgendem Befehl im Terminal ausgeben lassen: Auch der Inhalt von Markdown-Dateien läßt sich mit … Weiterlesen …
Für die Shell stehen zahlreiche Befehle zur Verfügung, zum Beispiel ls für das Anzeigen des Verzeichnisinhalts oder cp für das Kopieren von Dateien. Diese Befehle wurden in der Programmiersprache C geschrieben und sind Bestandteil UNIX-ähnlicher Systeme. Mittlerweile gibt es zu diesen Befehlen Alternativen, die in der modernen Sprache Rust geschrieben wurden. In diesem Blog möchte ich einige dieser Befehle vorstellen, … Weiterlesen …