{"id":402,"date":"2026-03-01T19:43:00","date_gmt":"2026-03-01T18:43:00","guid":{"rendered":"https:\/\/www.achtzigzehn.net\/blog\/?p=402"},"modified":"2026-03-01T19:43:16","modified_gmt":"2026-03-01T18:43:16","slug":"lokale-llm-steuert-remote-pc","status":"publish","type":"post","link":"https:\/\/www.achtzigzehn.net\/blog\/2026\/03\/01\/lokale-llm-steuert-remote-pc\/","title":{"rendered":"Lokale LLM steuert Remote-PC"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">J\u00fcngstes LLM-Anwendungsbeispiel meinerseits: eine mittels <a href=\"https:\/\/ollama.com\/\">ollama<\/a> lokal laufende <a href=\"https:\/\/ollama.com\/library\/llama3.2\">llama3.2:3b<\/a>-Instanz f\u00fchrt f\u00fcr mich wiederkehrende Kommandos auf meinem &#8222;Lass-mich-Dinge-ausprobieren&#8220;-Rechner im lokalen Netzwerk aus. Im Video sieht man eine Sequenz, wo gerade Updates eingespielt werden:<\/p>\n\n\n\n<figure class=\"wp-block-video\"><video height=\"1395\" style=\"aspect-ratio: 3525 \/ 1395;\" width=\"3525\" controls src=\"https:\/\/www.achtzigzehn.net\/blog\/wp-content\/uploads\/2026\/02\/1000007644.mp4\"><\/video><figcaption class=\"wp-element-caption\">LLM verbindet sich via SSH zu Remote-PC zum Update-Tango<\/figcaption><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Was man im Video sieht:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Prompt -> <code>Update the packages on the PC. It's a Fedora 43 Workstation.<\/code><\/li>\n\n\n\n<li>Im rechten Fenster l\u00e4uft im Terminal das Update via dnf.<\/li>\n\n\n\n<li>Links sieht man die Spikes auf meiner GPU, die via Vulkan bei der Inferenz unterst\u00fctzt.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">Was man im Video nicht sieht:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>llama3.2 durfte sich aus einem Satz Werkzeuge selbst aussuchen, was am besten f\u00fcr den Prompt funktioniert. Die Entscheidung fiel aufs Terminal. In der Konfiguration hatte ich vorgegeben, dass die Verwendung des Terminals immer eine SSH-Verbindung zu meinem lokalen &#8222;Lass-mich-Dinge-ausprobieren&#8220;-Rechner einschlie\u00dft (=fixe Vorgabe der Ziel-IP-Adresse, aber ohne Aush\u00e4ndigen der Credentials an llama3.2).<\/li>\n\n\n\n<li>Die Credentials habe ich SSH manuell \u00fcbergeben. Deswegen sieht man auch mehrere Prompts, die davor abgeschickt wurden, das l\u00e4uft noch nicht ganz stabil.<\/li>\n\n\n\n<li>Nach Abschluss des Updates hat llama3.2 die Terminal-Response ausgewertet und mir als Zusammenfassung pr\u00e4sentiert, was wie passiert ist.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">Was ist das Ergebnis f\u00fcr mich:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Ein Proof-of-Concept, den ich mal selbst durchspielen wollte.<\/li>\n\n\n\n<li>Lokale LLM(s) verwende ich schon l\u00e4nger f\u00fcr verschiedene Aufgaben, aber die Automatisierungsm\u00f6glichkeiten auf einem Rechner will ich noch mehr ausloten.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\"> Lessons Learned:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Trennung von lokaler Automatisierung und lokalem Berechtigungskonzept klappt gut, f\u00fcr mich wichtig, weil &#8222;meine&#8220; Credentials auch einer lokalen LLM nicht anvertrauen m\u00f6chte. Credentials, die der LLM zugeordnet sind, nat\u00fcrlich schon (z.B. eigener Benutzer mit eigener Berechtigungsstufe).<\/li>\n\n\n\n<li>Die LLM auf die GPU zu bekommen, war wenig Aufwand.<\/li>\n\n\n\n<li>Die LLM-Laufzeit f\u00fcr stupide Update-Tasks steht nat\u00fcrlich in keinem Verh\u00e4ltnis, aber das direkte Deployment eines gerade erst Vibe-gecodeten Web Services auf meinen &#8222;Lass-mich-Dinge-ausprobieren&#8220;-Rechner, etc. schon viel mehr. \ud83d\ude09<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n","protected":false},"excerpt":{"rendered":"<p>J\u00fcngstes LLM-Anwendungsbeispiel meinerseits: eine mittels ollama lokal laufende llama3.2:3b-Instanz f\u00fchrt f\u00fcr mich wiederkehrende Kommandos auf meinem &#8222;Lass-mich-Dinge-ausprobieren&#8220;-Rechner im lokalen Netzwerk aus. Im Video sieht man eine Sequenz, wo gerade Updates eingespielt werden: Was man im Video sieht: Was man im Video nicht sieht: Was ist das Ergebnis f\u00fcr mich: Lessons Learned:<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[31,15],"tags":[47,35,48,49,50],"class_list":["post-402","post","type-post","status-publish","format-standard","hentry","category-huschpfusch","category-scripting-coding","tag-llm","tag-network","tag-ollama","tag-remote","tag-ssh"],"_links":{"self":[{"href":"https:\/\/www.achtzigzehn.net\/blog\/wp-json\/wp\/v2\/posts\/402","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.achtzigzehn.net\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.achtzigzehn.net\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.achtzigzehn.net\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.achtzigzehn.net\/blog\/wp-json\/wp\/v2\/comments?post=402"}],"version-history":[{"count":5,"href":"https:\/\/www.achtzigzehn.net\/blog\/wp-json\/wp\/v2\/posts\/402\/revisions"}],"predecessor-version":[{"id":409,"href":"https:\/\/www.achtzigzehn.net\/blog\/wp-json\/wp\/v2\/posts\/402\/revisions\/409"}],"wp:attachment":[{"href":"https:\/\/www.achtzigzehn.net\/blog\/wp-json\/wp\/v2\/media?parent=402"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.achtzigzehn.net\/blog\/wp-json\/wp\/v2\/categories?post=402"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.achtzigzehn.net\/blog\/wp-json\/wp\/v2\/tags?post=402"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}