Lokale KI auf Ubuntu 26.04: Tutorial für einen Clipboard-Rewriter mit Gemma 3

Ubuntu Symboldbild

Bild von erfouris studio auf Pixabay

Stell dir vor, du schreibst in Thunderbird eine E-Mail, merkst dass der Ton etwas zu grob geraten ist, markierst den Absatz, drückst Super+F und zack - der Text in deiner Zwischenablage ist freundlicher formuliert. Kein Tab-Wechsel, kein ChatGPT, keine Daten die irgendwohin gehen. Alles passiert auf deiner Maschine. Das gleiche Kürzel funktioniert in Signal, in VS Code, in LibreOffice, im Browser. Egal wo du Text hast, ein Druck und er wird umgeschrieben.

In diesem Artikel richten wir genau das ein. Wir nutzen dafür die neuen Inference Snaps aus Ubuntu 26.04, das Sprachmodell Gemma 3 von Google und etwa 60 Zeilen Bash. Das Ganze läuft auf deiner CPU, auf deiner integrierten Grafik, auf deiner NVIDIA-Karte oder auf der NPU in deinem neuen Intel-Laptop - der Snap entscheidet selber, was am schnellsten ist. Am Ende hast du einen Workflow, den du nie mehr hergeben willst. Versprochen.