Schlagwort-Archive: LLM

DeepSeek lokal auf dem Raspberry Pi 5 nutzen

Veröffentlicht am von — Keine Kommentare ↓

Heute zeige ich Euch, wie ihr DeepSeek R1 – ein leistungsstarkes KI-Sprachmodell – direkt auf eurem Raspberry Pi 5 installieren und nutzen könnt.

RaspberryPi
Raspberry Pi

Warum KI lokal auf dem Raspberry Pi nutzen?
Bevor es losgeht, möchte ich Euch die Vorteile einer lokalen Installation erklären:

  • Datenschutz: Alle Anfragen bleiben auf eurem Gerät – nichts wird in die Cloud übertragen.
  • Offline-Nutzung: Ihr braucht kein Internet, sobald alles installiert ist. Perfekt für unterwegs oder bei schlechter Verbindung.
  • Sofortige Antworten: Keine Wartezeit durch Server in weiter Ferne (abhängig von der Modellgröße).
DeepSeek lokal auf dem Raspberry Pi 5 nutzen weiterlesen→

OpenAI-kompatible APIs (LLMs) auf einer Synology DiskStation mit OpenWebUI

Veröffentlicht am von — Keine Kommentare ↓

Möchtest Du die Macht verschiedener Large Language Models (LLMs) direkt auf Deiner Synology DiskStation nutzen? Mit OpenWebUI kannst Du nicht nur eine, sondern gleich 8 OpenAI-kompatible APIs integrieren! In diesem Tutorial zeige ich Dir, wie Du OpenWebUI installierst und konfigurierst, um verschiedene LLMs über ihre APIs auf Deinem NAS verfügbar zu machen.

Warum OpenWebUI?

OpenWebUI ist eine vielseitige Plattform, die es Dir ermöglicht, mit verschiedenen LLMs zu interagieren. Anders als viele andere Lösungen, die auf ein bestimmtes Modell beschränkt sind, kannst Du mit OpenWebUI mehrere APIs einbinden und so verschiedene LLMs nach Bedarf nutzen.

OpenAI-kompatible APIs (LLMs) auf einer Synology DiskStation mit OpenWebUI weiterlesen→