Programmierung | macOS | Linux | Windows
Ollama und lokale Sprachmodelle können auch über das Netzwerk genutzt werden. Im nachfolgenen Beispiel wird Ollama auf einem Mac ausgeführt. Als Sprachmodell verwende ich gemma4. Dieses Modell soll von einem anderen Rechner, einem Linux-PC, verwendet werden. Vorausstzung ist, dass in den Einstellungen von Ollama der Zugriff über das Netzwerk gestattet wird. Diese Einstellung kann über aufgerufen werden. Dort ist die … Weiterlesen …
Für die Verwaltung lokaler Modelle kann Ollama genutzt werden, dass wohl am meisten verbreitete Programm für diese Aufgabe. Die Verwendung von Ollama wurde bereits in diesem Blogbeitrag erklärt. Nun geht es darum ein einfaches Shell-Skript zu erstellen, das es uns ermöglicht, eine Frage an ein lokales Sprachmodell zu übermitteln. Dafür werden wir Ollamas HTTP-Endpunkt und curl nutzen. Nach der Shebang-Zeile … Weiterlesen …
Dies ist der fünfte Artikel, in dem es um Ollama geht, das Programm für die Verwaltung lokaler Sprachmodelle. Bisher wurden folgende Beiträge veröffentlicht: Neben Ollama geht es in diesem Artikel auch um Python, denn ich möchte zeigen, wie man mit Python auf Ollama — genauer gesagt die Ollama-API — zugreifen kann. Das klingt wie eine Wiederholung des vierten Beitrags dieser … Weiterlesen …
In einem älteren Artikel wurde gezeigt, wie in der Shell mit dem Befehl curl eine Frage an ein vom Ollama verwaltetes Sprachmodell gesendet werden kann. Falls auf dem System als lokale KI das Sprachmodell gemma3 verwendet wird, könnte dies wie folgt aussehen: In diesem Tutorial wird gezeigt, wie dies mit Python umgesetzt werden kann. Dabei wird ebenfalls auf die Ollama-API … Weiterlesen …