CLARYEL · Echter Einsatz

Wir nutzen es jeden Tag

Hier sehen Sie echte Arbeit für unser Unternehmen, erledigt vom CLARYEL-Agenten: Buchhaltung, Einrichtung der Maschinen, Infrastruktur. Echte Daten und echte Antworten des Systems.

CLARYEL arbeitet jeden Tag mit dem eigenen System.

Die Daten bleiben lokal, in der CLARYEL Box.

So funktioniert es

  1. Wir stellen die Aufgabe in einfachen Worten: per Sprache oder als Nachricht
  2. Der CLARYEL-Agent findet sich selbst zurecht und erledigt die ganze Arbeit
  3. Wir erhalten Ergebnis und Bericht, oft mehr als verlangt

Von uns: nur die Aufgabe und die Freigabe wichtiger Schritte.

Business

Alltägliche Aufgaben des Unternehmens, die wir per Sprache über das System erledigen.

Buchhaltung

Rechnungsprüfung: FAKE und Duplikate

Wir haben gefragt, wie viel wir in einem Jahr für IT ausgegeben haben. Das System fand selbst FAKE-Rechnungen und Duplikate, entfernte sie nach unserer Freigabe und korrigierte seine eigene Zahl.

  1. Die Frage
  2. Die Korrektur
  3. Korrigiertes Ergebnis
Was auf dem Screenshot ist

Die Frage: wie viel wir im letzten Jahr für IT ausgegeben haben. Der CLARYEL-Agent antwortet: etwa €54.691, und weist von sich aus darauf hin, dass unter den Dokumenten FAKE-Rechnungen und Duplikate sind.

Was auf dem Screenshot ist

Wir bitten, die FAKE-Daten und Duplikate zu entfernen. Der Agent findet 64 FAKE-Rechnungen, bittet vor dem erzwungenen Löschen um unsere Freigabe, bereinigt dann den Bestand und prüft das Ergebnis.

Was auf dem Screenshot ist

Der geprüfte Endstand: 188 gültige Rechnungen über €38.627,70. Der Agent korrigiert selbst seine frühere Antwort: Die IT-Ausgaben im letzten Jahr betrugen €36.993,58.

Die Screenshots sind in der Originalsprache; unter jedem steht eine Zusammenfassung.

Vorher → nachher (aus den Screenshots 1–3)

  • 64 FAKE-Rechnungen entfernt
  • 188 gültige Rechnungen · €38.627,70
  • IT, letztes Jahr: ≈€54.691 → €36.993,58

Alles echt: echtes System, echte Dokumente, echte Beträge. Direkt aus unserem Arbeitsalltag: Dokumente aus dem Amazon-Konto, mehreren E-Mail-Postfächern, Google Drive und dem physischen Archiv unseres Systems.

Buchhaltung

Buchhaltung schlüsselfertig: vom neuen Computer bis zum Finanzamt

Der ganze Prozess: einen Computer von Grund auf einrichten, Ubuntu, die nötige Software, Odoo und NextERP installieren, Rechnungen aus Amazon Business abrufen und an die Agenzia delle Entrate übermitteln. Aufgaben werden per Sprache vom Telefon gegeben; geprüft wird nur das Ergebnis.

Was auf dem Screenshot ist

Eine Illustration zum Beitrag, kein Screenshot: sieben Schritte (neuer Computer, Ubuntu 24.04, Docker/Python/Git und weitere Software, Odoo, NextERP, Rechnungen aus Amazon Business, Übermittlung an die Agenzia delle Entrate) und unten eine Sprachaufgabe vom Telefon.

Eine Illustration zum Beitrag, kein Screenshot.

ERP

Ein ERP, dessen Oberfläche wir nie geöffnet haben

Ein Geschäftsprozess läuft bereits vollständig über den Agenten: Rechnungen und Transportdokumente aus E-Mail, Google Drive und Amazon Business → ERP und Buchhaltung → Steuersystem → Übersichtsberichte → Abgleich mit Kontoauszügen.

Was auf dem Screenshot ist

Eine Illustration zum Beitrag, kein Screenshot: links ein Mensch zwischen Bergen von Fenstern und Einstellungen, rechts eine Sprachaufgabe an den Agenten, der selbst mit den Programmen arbeitet und ein fertiges Ergebnis liefert.

Eine Illustration zum Beitrag, kein Screenshot.

Konfiguration und Infrastruktur

Wie der CLARYEL-Agent unsere Maschinen selbst einrichtet und betreut: Hardware, Kühlung, KI-Modelle, Geschwindigkeit.

Kühlung

Steuerung des GPU-Lüfters

Wir haben in einfachen Worten gebeten: Der GPU-Lüfter soll der Temperatur der Grafikkarte folgen, und die Einstellungen sollen einen Neustart überstehen. Der CLARYEL-Agent fand selbst heraus, was zu steuern ist, ließ den Lüfter eine Minute auf voller Drehzahl laufen, stellte die Kurve ein und bestätigte alles mit einem echten Neustart, in etwa 30 Minuten.

  1. Bittenormaler Text, keine Befehle
  2. ErkundungZ10PA-U8 · Tesla P100 · NCT7904D
  3. Eine Minute auf voller Drehzahl1468 → 5294–5421 RPM in 5 s · GPU 37 → 31 °C
  4. Kurve≤35 °C 35% → ≥85 °C 100%
  5. Neustart1319 RPM, 35 °C: alles lief von selbst wieder an
0%25%50%75%100%3545607585~78%35%47%67%86%100%°C
Kurve: GPU-Temperatur → Lüfterdrehzahl~78 %: Notbetrieb, wenn der Temperatursensor nicht mehr antwortetSanft: höchstens ±15 % alle 5 s

Über die Aufgabe hinaus

  • Hat das Verfahren als Fähigkeit für künftige Maschinen gespeichert.
  • Hat ehrlich erklärt, worauf der Schluss beruht, dass fan5 der GPU-Lüfter ist.
  • Hat in derselben Sitzung die Maschine außerdem in P1005 umbenannt, wie wir es früher erbeten hatten.
  • Von uns: ein Befehl zur Vergabe von Administratorrechten, die Antwort «Ready» und eine Bestätigung unterwegs.
  • ≈ 30 Minuten (06:26–06:57 laut Screenshots)
Was auf dem Screenshot ist

Unsere Bitte (06:26) als normaler Text. Der Agent beginnt sofort mit der Erkundung ohne Administratorrechte: Platine Z10PA-U8, GPU Tesla P100; noch keine Schnittstelle zur Lüftersteuerung; GPU-Temperatur lesbar: 39 °C.

Was auf dem Screenshot ist

Der Agent bittet uns, einmal einen Befehl auszuführen, der ihm Administratorrechte auf P1005 gibt (jederzeit widerrufbar), und legt den Plan dar: den Chip finden, der den Lüfter steuert, einen kleinen Dienst nach GPU-Temperatur schreiben, eine Minute auf voller Drehzahl mit Kontrolle am Tacho. Die Adresse der Maschine ist abgedeckt.

Was auf dem Screenshot ist

Ende des Plans: Dienst mit Autostart, Umbenennung des Hosts in P1005; sollte die Steuerung unmöglich sein, sagt der Agent das ehrlich. Unsere Antwort «Ready» (06:29), dann der Fortschritt: Steuerdienst, eine Bestätigung (06:43), «alles hat den Neustart überstanden» (06:49) und der Beginn des Berichts.

Was auf dem Screenshot ist

Bericht, Punkte 1–3: Chip Nuvoton NCT7904D, Kanalzuordnung (pwm2 → fan5, bis ~5300 RPM: das Gebläse der P100), eine Minute auf voller Drehzahl (1468 → 5294–5421 RPM in 5 s, GPU 37 → 31 °C) und die laufende Kurve.

Was auf dem Screenshot ist

Bericht, Punkt 4 und Fazit: Treiber und Dienst starten automatisch, echter Neustart (fan5 bei 1319 RPM, GPU bei 35 °C, Strata lief von selbst wieder an, Port 8080 lauscht), Hostname P1005, ein ehrlicher Hinweis, wie der GPU-Lüfter erkannt wurde, und das als Fähigkeit gespeicherte Verfahren.

Die Screenshots sind in der Originalsprache; unter jedem steht eine Zusammenfassung.

Konfiguration

Technische Frage, per Sprache

Eine praktische Aufgabe: Per Sprachnachricht haben wir gefragt, wie das System aufgebaut ist. Es antwortete mit realen Daten unserer Maschinen: Hardware, Laufwerke, KI-Modell und Geschwindigkeit. Ist ein Punkt unklar, fragt man einfach sofort, was er bedeutet.

Was auf dem Screenshot ist

Die Antwort auf die Sprachfrage zur Konfiguration: zwei Maschinen, claryel01 und P2002, mit Prozessor, Speicher, GPU, Laufwerken, Softwareversionen, KI-Modell und gemessener Geschwindigkeit (~44–48 tok/s). Ganz unten die Zeile zum Ausweichmodell (Cloud fallback: xAI Grok 4.7).

Bei diesem Auftrag war das Ersatzmodell extern (Grok) und ohne Filter. Für unser lokales System ist das nicht akzeptabel, deshalb wurde das Ersatzmodell durch ein zweites lokales ersetzt. Heute werden Cloud-Modelle nur über den Filter aufgerufen und, wenn nötig, nach ausdrücklicher Bestätigung durch den Nutzer.

Maschinenpark

Drei Maschinen, ein Agent

Wir haben um ein kurzes Profil aller unserer Maschinen mit Strata gebeten. Der CLARYEL-Agent prüfte selbst das Netz, fand drei Maschinen und sammelte für jede Speicher, Laufwerk, GPU, Strata- und Modellversion sowie Geschwindigkeit. Alle drei steuert ein einziger Agent.

Generierungsgeschwindigkeit

  • P2002Haupt62 GiB DDR5 · AMD RDNA4 16 GiB46.8 tok/s
  • Mac Studiodie schnellste256 GB LPDDR5X · M3 Ultra60.0 tok/s
  • P1005für Hintergrundaufgaben31 GiB DDR4 · Tesla P100 16 GB16.2 tok/s

Auf allen dreien: Strata v0.1.45 · Qwen3.8-Flash-Next IQ3_S · Kontext 262 144

Was auf dem Screenshot ist

Unsere Anfrage (07:47) und der Beginn der Antwort: Netz geprüft, es sind drei Maschinen. Die erste ist P2002: 62 GiB DDR5, Lexar NM1090 PRO 2 TB, AMD RDNA4 mit 16 GiB, Strata v0.1.45, Qwen3.8-Flash-Next IQ3_S, 46.8 tok/s. Die Adresse ist abgedeckt.

Was auf dem Screenshot ist

Mac Studio: 256 GB LPDDR5X (M3 Ultra), SSD 2 TB, 60.0 tok/s, die schnellste. P1005: 31 GiB DDR4, Tesla P100 16 GB, 16.2 tok/s, für Hintergrundaufgaben. Fazit: Ein Agent auf claryel01 steuert alle drei, überall dasselbe Modell; Reserve P2002 → Mac Studio → Grok. Die Adressen sind abgedeckt.

Bei diesem Auftrag war das Ersatzmodell extern (Grok) und ohne Filter. Für unser lokales System ist das nicht akzeptabel, deshalb wurde das Ersatzmodell durch ein zweites lokales ersetzt. Heute werden Cloud-Modelle nur über den Filter aufgerufen und, wenn nötig, nach ausdrücklicher Bestätigung durch den Nutzer.

Installation

Strata auf einer neuen Maschine: Der Agent hat alle Stolpersteine selbst gemeistert

Wir haben gefragt, welche Schwierigkeiten beim Start von Strata v0.1.45 auf einem Mac Studio (M3 Ultra, 256 GB) auftraten. Der CLARYEL-Agent hat die Engine aus dem Quellcode gebaut, eine Korrektur gefunden und angewendet, das 79-GB-Modell übertragen und einen Engine-Fehler selbst umgangen.

Was auf dem Screenshot ist

Unsere Frage (05:16) zu den Schwierigkeiten mit Strata auf dem Mac Studio. Die Antwort, Punkte 1–3: kein fertiger Mac-Build, der defekte 0.1.45-Build und die Korrektur aus PR #2895, Beginn des Berichts über die Übertragung des 79-GB-Modells.

Was auf dem Screenshot ist

Punkte 3–6: Übertragung des Modells (Starlink ~6,5 MB/s, Netzwerk ~11 MB/s, rsync von P2002 in 2 h 05 min), ein Groß-/Kleinschreibungsfehler im Modellnamen, der Engine-Fehler „jede Anfrage 400“ und der Workaround --no-prefill-borrow, Verwechslung mit einem alten Prozess auf Port 8080.

Was auf dem Screenshot ist

Punkte 6–7 und Ergebnis: „Hänger“ beim ersten Start (~10 Minuten zum Lesen von 55 GB von der Festplatte), Mac ≈ P2002 bei der Generierung (~58 gegenüber ~57 tok/s), Prefill +36 %, alles im Skill strata-mac-deploy gespeichert.

Die Screenshots sind in der Originalsprache; unter jedem steht eine Zusammenfassung.

Update

Der Agent hat die Engine seines eigenen „Gehirns“ aktualisiert

In Telegram baten wir den CLARYEL-Agenten, Strata auf P2002 zu aktualisieren, der Maschine, auf der er selbst läuft. Der Agent startete das Update mit Absicherung, behob einen Fehler im letzten Schritt selbst und verglich ehrlich die Geschwindigkeit vorher und nachher.

Was auf dem Screenshot ist

Die Versionsfrage (04:30), die Antwort (v0.1.43.1 auf P2002, v0.1.45 auf GitHub) und der Befehl „aktualisiere dich“ (04:31). Der Agent beschreibt den Plan: Update getrennt von sich selbst und ein Wächter mit automatischem Rollback auf 0.1.43.1.

Was auf dem Screenshot ist

Die Zeile über den Wechsel zum Ersatzmodell (grok-4.7) um 04:46; der Bericht: Code auf v0.1.45, Engine gebaut (34 MB, 0 Fehler), Dateiersatz fehlgeschlagen („Text file busy“), der Agent repariert selbst. Darunter: der Hinweis zum Skill-Update und unsere Frage nach der aktuellen Version (04:50).

Was auf dem Screenshot ist

Die Antwort: Auf P2002 läuft Strata v0.1.45, die alte 0.1.43.1 ist als Reserve gesichert, Modell Qwen3.8-Flash-Next IQ3_S, Kontext 262.144; Geschwindigkeitsmessungen vor und nach dem Update.

Was auf dem Screenshot ist

Einschätzung des Agenten: Prefill deutlich verbessert (bis +80 % in einer Messung), Generierung in zwei neuen Messungen ~10–20 % niedriger; der Agent schlägt 3–4 weitere Läufe und ein Rollback vor, falls sich die Verlangsamung bestätigt.

Die Screenshots sind in der Originalsprache; unter jedem steht eine Zusammenfassung.

Bei diesem Auftrag war das Ersatzmodell extern (Grok) und ohne Filter. Für unser lokales System ist das nicht akzeptabel, deshalb wurde das Ersatzmodell durch ein zweites lokales ersetzt. Heute werden Cloud-Modelle nur über den Filter aufgerufen und, wenn nötig, nach ausdrücklicher Bestätigung durch den Nutzer.

Überwachung

Morgendliche Prüfung von Haus und Computern

Morgens prüft der CLARYEL-Agent selbst die Smart-Home-Sensoren von Home Assistant, die Backups, den Zustand der Festplatten und die Temperatur der angeschlossenen Computer und meldet nur, was Aufmerksamkeit braucht.

Was auf dem Screenshot ist

Eine Illustration zum Beitrag, kein Screenshot: das Ergebnis der Morgenprüfung — Raum mit den Computern bei 28,8 °C, Sensorbatterien bei 20 % (Büro) und 30 % (Terrasse), Türsensor „Leo“ im Zustand ON, der geprüft werden sollte.

Was auf dem Screenshot ist

Eine Illustration zum Beitrag, kein Screenshot: die Kette Strata v0.1.43 → Qwen3.8-Flash-Next (IQ3_S) → Agent → Home-Assistant-Sensoren, Backups, Festplatten, Computertemperaturen; unten die Hilfswerkzeuge (Telegram, ChatGPT, ChatGPT Go + Codex, Grok 4.7).

Eine Illustration zum Beitrag, kein Screenshot.

Bei diesem Auftrag war das Ersatzmodell extern (Grok) und ohne Filter. Für unser lokales System ist das nicht akzeptabel, deshalb wurde das Ersatzmodell durch ein zweites lokales ersetzt. Heute werden Cloud-Modelle nur über den Filter aufgerufen und, wenn nötig, nach ausdrücklicher Bestätigung durch den Nutzer.

Hardware und Modellgeschwindigkeit

Wie dasselbe Modell auf unterschiedlicher Hardware läuft, von einer alten Tesla P100 bis zu einer neuen Radeon. Die Zahlen stammen nur von den Bildschirmen.

Modellgeschwindigkeit

31 tok/s bei fast freiem RAM: Das Modell wird von der SSD gelesen

Strata v0.1.41, Qwen3.8-Flash-Next IQ3_XXS, eine Radeon mit 16 GB und 31 GB RAM. Eine Antwort mit 12.136 Token bei 31 tok/s, und nur 3,2 GB RAM sind belegt.

Was auf dem Screenshot ist

Strata-Monitor: Generierung 31,0 tok/s, Prefill 43 tok/s, VRAM 15,7/16 GB, GPU 45 °C, Kontext zu 19 % gefüllt (12k von 64k), eine Anfrage: 12.136 Token in 396,3 s; RAM 3,2/31 GB.

Was auf dem Screenshot ist

Modell und Engine: qwen3.8-flash-next-iq3_xxs, v0.1.41, Kontext 65.536 Token, 8-Bit-KV-Cache im VRAM, 5.681 Experten im VRAM (9,2 GB). Computer: AMD Radeon 16 GB, Intel Core Ultra 7 270K Plus (24 Threads), 31 GB RAM.

Was auf dem Screenshot ist

Gewählte Strata-Einstellungen: Qwen3.8-Flash-Next, IQ3_XXS, Kontext 64K, 8-Bit-KV-Cache, Bilder aus, Low-RAM-Modus (31 GB RAM, Experten teilweise von der SSD gelesen), AMD Radeon RX 9070 (~16 GB VRAM); Modelldatei ~47 GB.

Die Screenshots sind in der Originalsprache; unter jedem steht eine Zusammenfassung.

Modellgeschwindigkeit

256K-Kontext: 26 Anfragen auf einer einzigen 16-GB-Grafikkarte

Wir haben Strata v0.1.41 mit Qwen3.8-Flash-Next IQ3_S auf einem Kontext von 262.144 Token gestartet. Antworten bis 14.829 Token, belegt sind 3,3 von 31 GB RAM: Das Modell arbeitet fast nur im Videospeicher.

Was auf dem Screenshot ist

Ein Standbild aus dem Video: Das Modell schreibt eine lange technische Antwort darüber, wie Mixture-of-Experts-Modelle funktionieren (Experten-Routing, KV-Cache, Speicherhierarchie). Das ganze Video ist im Originalbeitrag.

Was auf dem Screenshot ist

Strata-Monitor: Generierung der letzten Anfrage 14,8 tok/s, Prefill 112 tok/s, VRAM 15,8/16 GB, Kontext 62 % (162k/256k), RAM 3,3/31 GB; in der Anfragetabelle Generierung von 13,0 bis 19,6 tok/s und Antworten bis 14.829 Token; insgesamt 26 Anfragen.

Was auf dem Screenshot ist

Modell und Engine: qwen3.8-flash-next-iq3_s, v0.1.41, Kontext 262.144 Token, 8-Bit-KV-Cache im VRAM, 3.114 Experten im VRAM (6,0 GB). Computer: AMD Radeon 16 GB, Intel Core Ultra 7 270K Plus (24 Threads), 31 GB RAM.

Die Screenshots sind in der Originalsprache; unter jedem steht eine Zusammenfassung.

Das Video ist im Originalbeitrag; hier ein Standbild daraus.

Modellgeschwindigkeit

Mehr RAM: 45 tok/s bei einem Kontext von 164.000 Token

Dieselbe Maschine mit mehr RAM (62 GB im System). Strata v0.1.43 mit Qwen3.8-Flash-Next IQ3_S: Generierung mit 45,2 tok/s bei zu 63 % gefülltem Kontext.

Was auf dem Screenshot ist

Strata-Monitor: Generierung 45,2 tok/s, Prefill 94 tok/s, VRAM 15,9/16 GB, GPU 44 °C, Kontext 63 % (164k/256k), RAM 53,5/62 GB; zwei Anfragen mit je etwa 162.000 Token, Prefill 1.176 tok/s, Generierung 48,3 und 45,2 tok/s.

Was auf dem Screenshot ist

Modell und Engine: qwen3.8-flash-next-iq3_s, v0.1.43, Kontext 262.144 Token, 8-Bit-KV-Cache im VRAM, 3.114 Experten im VRAM (6,0 GB). Computer: AMD Radeon 16 GB, Intel Core Ultra 7 270K Plus (24 Threads), 62 GB RAM.

Die Screenshots sind in der Originalsprache; unter jedem steht eine Zusammenfassung.

Modellgeschwindigkeit

Ein alter Xeon und eine Tesla P100: 19–27 tok/s

Die bescheidenste Konfiguration: Intel Xeon E5-2690 v4, 31 GB RAM und eine Tesla P100 mit 16 GB. Strata v0.1.45 mit Qwen3.8-Flash-Next IQ3_S liefert 19–27 tok/s, und nur 2,2 GB RAM sind belegt.

Was auf dem Screenshot ist

Strata-Monitor und htop: Generierung 26,9 tok/s, Auslastung Tesla P100 100 %, VRAM 15,7/16 GB, 97 W, PCIe Gen3 x16, CPU 45 %, Lesen von der Festplatte 164 MB/s, RAM 2,2/31 GB; Anfragen: 19,3 tok/s (253 Token) und 25,3 tok/s (12.686 Token in 504,1 s).

Was auf dem Screenshot ist

Modell und Engine: qwen3.8-flash-next-iq3_s, v0.1.45, Kontext 262.144 Token, 8-Bit-KV-Cache im VRAM, 3.051 Experten im VRAM (5,8 GB). Computer: Tesla P100 16 GB, Intel Xeon E5-2690 v4 (28 Threads), 31 GB RAM.

Die Screenshots sind in der Originalsprache; unter jedem steht eine Zusammenfassung.

Buchhaltung

Rechnungsprüfung: FAKE und Duplikate

Ein echtes Szenario aus unserem ERP, in drei Schritten.

  1. Die Frage

    Wir fragen, wie viel wir im letzten Jahr für IT ausgegeben haben. Das System antwortet (≈ €54.691) und meldet von sich aus FAKE-Rechnungen und Duplikate.

  2. Die Korrektur

    Wir bitten es, die FAKE-Daten und die Duplikate zu entfernen. Vor dem erzwungenen Löschen bittet es um unsere Freigabe, dann bereinigt und prüft es.

  3. Korrigiertes Ergebnis

    188 gültige Rechnungen über €38.627,70. Korrigierter Betrag: €36.993,58: Das System korrigiert seine eigene frühere Antwort selbst und bestätigt den Endzustand.

Vorher → nachher (aus den Screenshots 1–3)

  • 64 FAKE-Rechnungen entfernt
  • 188 gültige Rechnungen · €38.627,70
  • IT, letztes Jahr: ≈€54.691 → €36.993,58

Ein reales Szenario aus unserem ERP: Auf die Frage nach den IT-Ausgaben findet das System selbst FAKE-Rechnungen und Duplikate, entfernt sie nach unserer Freigabe, prüft das Ergebnis und korrigiert seinen eigenen früheren Betrag.

Das Löschen von Dokumenten ist sicher: Die Daten werden gesichert, es gibt einen Änderungsverlauf mit Rücksetzmöglichkeit und einen ständigen Abgleich, zum Beispiel mit Kontoauszügen.

Kühlung

Steuerung des GPU-Lüfters

Die Aufgabe auf Screenshot 1: Der GPU-Lüfter hängt an der Hauptplatine; er soll der GPU-Temperatur folgen, eine Minute auf voller Drehzahl laufen, um zu bestätigen, dass die Steuerung funktioniert, dann optimale Stufen erhalten, und nach einem Neustart soll alles automatisch funktionieren.

  1. Bitte

    Eine gewöhnliche Telegram-Nachricht ohne technische Befehle.

  2. Erkundung

    Zuerst, ohne Administratorrechte, stellte der Agent fest: Platine Z10PA-U8, GPU Tesla P100, GPU-Temperatur lesbar (39 °C), aber noch nichts, womit sich der Lüfter steuern ließe. Er bat mit einem einzigen Befehl um Administratorrechte und legte den Plan dar. Mit Zugriff fand er den Chip Nuvoton NCT7904D (9 Tachoeingänge, 4 PWM-Kanäle) und ordnete zu, indem er jeden Kanal von 0 bis 255 durchfuhr: pwm2 → fan5, bis ~5300 RPM, das ist das Gebläse der P100. Die drei anderen Kanäle blieben in der BIOS-Automatik.

  3. Eine Minute auf voller Drehzahl

    pwm2 = 255 für 60 Sekunden: fan5 stieg in 5 Sekunden von 1468 auf 5294–5421 RPM, die GPU kühlte von 37 auf 31 °C ab. Danach ging die Steuerung zurück an die Kurve (255 → 195 → 90); die Tachowerte bestätigen, dass es funktioniert.

  4. Kurve

    ≤35 °C → 35 %, 45 °C → 47 %, 60 °C → 67 %, 75 °C → 86 %, ≥85 °C → 100 % (die P100 drosselt bei 91 °C, also bleibt Reserve). Die Drehzahl ändert sich sanft, um höchstens ±15 % alle 5 Sekunden; antwortet nvidia-smi nicht mehr, geht der Lüfter in den Notbetrieb mit ~78 %.

  5. Neustart

    Der Treiber lädt automatisch, die Steuerung läuft als Dienst mit Autostart. Der Agent hat die Maschine wirklich neu gestartet und alles von Grund auf geprüft: Modul geladen, Dienst aktiv, fan5 bei 1319 RPM, GPU bei 35 °C.

Über die Aufgabe hinaus

  • Hat das Verfahren als Fähigkeit für künftige Maschinen gespeichert.
  • Hat ehrlich erklärt, worauf der Schluss beruht, dass fan5 der GPU-Lüfter ist.
  • Hat in derselben Sitzung die Maschine außerdem in P1005 umbenannt, wie wir es früher erbeten hatten.
  • Von uns: ein Befehl zur Vergabe von Administratorrechten, die Antwort «Ready» und eine Bestätigung unterwegs.
  • ≈ 30 Minuten (06:26–06:57 laut Screenshots)

Konfiguration

Technische Frage, per Sprache

Eine praktische Aufgabe: Per Sprachnachricht haben wir gefragt, wie das System aufgebaut ist. Es antwortete mit realen Daten unserer Maschinen: Hardware, Laufwerke, KI-Modell und Geschwindigkeit. Ist ein Punkt unklar, fragt man einfach sofort, was er bedeutet.

Was die Antwort zeigt: zwei Maschinen, claryel01 und P2002; Prozessor, Speicher, GPU und Laufwerke; Softwareversionen; KI-Modell; gemessene Geschwindigkeit.

Bei diesem Auftrag war das Ersatzmodell extern (Grok) und ohne Filter. Für unser lokales System ist das nicht akzeptabel, deshalb wurde das Ersatzmodell durch ein zweites lokales ersetzt. Heute werden Cloud-Modelle nur über den Filter aufgerufen und, wenn nötig, nach ausdrücklicher Bestätigung durch den Nutzer.

Ein Fachbegriff ist unklar? Fragen Sie das System sofort, direkt im Dialog: Es erklärt ihn in einfachen Worten.

Maschinenpark

Drei Maschinen, ein Agent

Die Anfrage auf Screenshot 1 (07:47): für jede Maschine mit Strata Größe und Typ des Speichers, NVMe, GPU und Grafikspeicher, Strata-Version, Modell, Agentenversion und die Geschwindigkeit des Modells auf dieser Maschine; kurze Antwort auf Englisch.

Der Agent scannte selbst das Netz und bestätigte, dass es drei Maschinen sind (die übrigen Adressen sind ein Drucker und der WLAN-Port des Mac). Alle drei laufen mit Strata v0.1.45 und demselben Modell Qwen3.8-Flash-Next IQ3_S (Kontext 262 144), daher sind die Antworten gleich, egal welche Maschine antwortet.

Generierungsgeschwindigkeit

  • P2002Haupt62 GiB DDR5 · AMD RDNA4 16 GiB46.8 tok/s
  • Mac Studiodie schnellste256 GB LPDDR5X · M3 Ultra60.0 tok/s
  • P1005für Hintergrundaufgaben31 GiB DDR4 · Tesla P100 16 GB16.2 tok/s

Auf allen dreien: Strata v0.1.45 · Qwen3.8-Flash-Next IQ3_S · Kontext 262 144

Generierungsgeschwindigkeit: P2002 46.8 tok/s, Mac Studio 60.0 tok/s (die schnellste), P1005 16.2 tok/s: ein 78-GB-Modell bei 31 GB Speicher, daher übernimmt diese Maschine Hintergrundaufgaben. Alle drei steuert eine einzige Agenteninstanz auf claryel01; die Reserve folgt der Kette P2002 → Mac Studio → Grok.

Bei diesem Auftrag war das Ersatzmodell extern (Grok) und ohne Filter. Für unser lokales System ist das nicht akzeptabel, deshalb wurde das Ersatzmodell durch ein zweites lokales ersetzt. Heute werden Cloud-Modelle nur über den Filter aufgerufen und, wenn nötig, nach ausdrücklicher Bestätigung durch den Nutzer.

Buchhaltung

Buchhaltung schlüsselfertig: vom neuen Computer bis zum Finanzamt

Viktor hat diesen Prozess bereits mit Cloud-Agenten durchlaufen und dabei die Programmoberflächen kaum berührt: Aufgaben per Sprache, Prüfung des Ergebnisses. Jetzt übertragen wir solche realen Prozesse auf die lokale KI von CLARYEL.

Schritte: neuer Computer von Grund auf → Ubuntu und Einrichtung → nötige Software → Buchhaltung Odoo → ERP NextERP → Import der Rechnungen aus Amazon Business → Übermittlung an die Agenzia delle Entrate.

Erste Beobachtung: Lokal dauern solche Aufgaben noch länger als in der Cloud. Zuerst schauen wir, was ohne Anpassungen funktioniert, und erst dann optimieren wir.

Eine Illustration zum Beitrag, kein Screenshot.

ERP

Ein ERP, dessen Oberfläche wir nie geöffnet haben

Wir lernen keine Schaltflächen und Menüs: Wir bitten den Agenten, das Programm zu installieren und die nötigen Funktionen auszuführen, per API, MCP oder über den eigenen Computer des Agenten. Wir brauchen das Ergebnis, nicht die Oberfläche.

Der Prozess Schritt für Schritt: Rechnungen und Transportdokumente aus E-Mail, Google Drive und dem Amazon-Business-Konto sammeln; sie ins ERP und in die Buchhaltung eintragen; die Daten an das Steuersystem übermitteln; Übersichtsberichte erstellen; alles mit den Kontoauszügen abgleichen, die ebenfalls auf Google Drive liegen.

Mit Einstellungen genauso: Statt jede einzeln zu verstehen, sagen wir dem Agenten „es soll so funktionieren: mach es, prüf es und sag mir das Ergebnis“. Wir stellen die Aufgabe und prüfen das Ergebnis. Noch nicht mit jedem Programm klappt das vollständig.

Eine Illustration zum Beitrag, kein Screenshot.

Installation

Strata auf einer neuen Maschine: Der Agent hat alle Stolpersteine selbst gemeistert

Für den Mac gibt es keinen fertigen Build: Die Metal-Engine wird aus dem Quellcode kompiliert (~5–15 Min.). Der Mac-Build von 0.1.45 war defekt; der Agent fand den offenen PR #2895, wendete ihn auf das Release an, und der Neubau lief durch.

Das 79-GB-Modell: Über HuggingFace via Starlink wären es ~6,5 MB/s (~3,4 h) gewesen, deshalb kopierte der Agent es per rsync von P2002 mit SSH-Agent-Weiterleitung, in 2 h 05 min. Danach lieferte jede Anfrage an die Engine 400; der Agent fand im Quellcode den Workaround --no-prefill-borrow.

Ergebnis: Mac ≈ P2002 bei der Generierung (~58 gegenüber ~57 tok/s) und deutlich schneller beim Prefill (+36 %). Alle Stolpersteine hat der Agent im Skill strata-mac-deploy gespeichert, eine Wiederholung ist fast eine Kopie.

Update

Der Agent hat die Engine seines eigenen „Gehirns“ aktualisiert

Frage (04:30): Welche Strata-Version nutzt das „Gehirn“ und welche ist die neueste auf GitHub? Antwort: Auf P2002 läuft v0.1.43.1, die neueste ist v0.1.45 (erschienen am 17. Oktober 2026). Der Agent warnte, dass das Update die Engine neu startet, auf der er selbst läuft: ein paar Minuten Ausfall, mit Rollback als Absicherung.

Auf den Befehl „aktualisiere dich“ (04:31) startete der Agent das Update getrennt von sich selbst: git pull → Build der HIP-Engine 0.1.45 → Neustart des Dienstes, während ein Wächter die Engine 5 Minuten lang prüft und auf 0.1.43.1 zurückrollt, falls sie nicht hochkommt. Der Build lief sauber (34 MB, 0 Fehler), aber das Ersetzen der laufenden Datei schlug fehl („Text file busy“) und die Engine stoppte. Der Agent bewahrte die alte Datei als Reserve auf, installierte die neue manuell und startete den Dienst neu.

Prüfung (04:50): v0.1.45 läuft, Modell Qwen3.8-Flash-Next IQ3_S, Kontext 262.144. Geschwindigkeit mit demselben Skript: kurze Antwort 31,0 (vorher 33,5–33,7), Generierung von 1024 Token 47,7 / 44,4 (vorher 53,0–60,1), Prefill 1,5K 874 / 531 (vorher 488–490). Einschätzung des Agenten: Prefill deutlich besser, Generierung in zwei Messungen ~10–20 % niedriger; bei nur zwei Läufen nennt er das keine Regression und schlägt 3–4 weitere Messungen und ein Rollback auf 0.1.43.1 vor, falls sich die Verlangsamung bestätigt.

Bei diesem Auftrag war das Ersatzmodell extern (Grok) und ohne Filter. Für unser lokales System ist das nicht akzeptabel, deshalb wurde das Ersatzmodell durch ein zweites lokales ersetzt. Heute werden Cloud-Modelle nur über den Filter aufgerufen und, wenn nötig, nach ausdrücklicher Bestätigung durch den Nutzer.

Überwachung

Morgendliche Prüfung von Haus und Computern

Die Kombination im Bild: Strata v0.1.43 + Qwen3.8-Flash-Next (IQ3_S) + der Agent. Der Agent liest die Home-Assistant-Sensoren (Temperatur, Feuchtigkeit, Bewegung, Licht, Energie) und prüft Backups, Festplatten und Computertemperaturen. Wir sprechen mit ihm über Telegram.

Was die Prüfung fand: Im Raum mit den Computern sind es 28,8 °C, deutlich wärmer als in anderen Räumen, Lüftung und Kühlung sollten geprüft werden; die Sensorbatterien im Büro (20 %) und auf der Terrasse (30 %) müssen ersetzt werden; der Türsensor „Leo“ zeigt ON, der Wert kann aber veraltet sein und sollte vor Ort geprüft werden.

Viktor hat die Oberfläche von Home Assistant dabei nicht einmal geöffnet. Hilfswerkzeuge an diesem Tag: ChatGPT hat das Bild für den Beitrag gezeichnet, ChatGPT Go + Codex halfen bei der Einrichtung, und der Agent wandte sich ab und zu an Grok 4.7 als zusätzliches Modell für komplexes Denken.

Bei diesem Auftrag war das Ersatzmodell extern (Grok) und ohne Filter. Für unser lokales System ist das nicht akzeptabel, deshalb wurde das Ersatzmodell durch ein zweites lokales ersetzt. Heute werden Cloud-Modelle nur über den Filter aufgerufen und, wenn nötig, nach ausdrücklicher Bestätigung durch den Nutzer.

Eine Illustration zum Beitrag, kein Screenshot.

Modellgeschwindigkeit

31 tok/s bei fast freiem RAM: Das Modell wird von der SSD gelesen

Einstellungen: Modell Qwen3.8-Flash-Next IQ3_XXS (~47 GB), Kontext 64K (65.536 Token), 8-Bit-KV-Cache, Low-RAM-Modus: Ein Teil der „Experten“ des Modells wird von der SSD gelesen. Grafikkarte AMD Radeon RX 9070, ~16 GB.

Das Ergebnis im Strata-Monitor: 12.136 Token in 396,3 s, Generierung 31,0 tok/s, VRAM 15,7 von 16 GB, RAM 3,2 von 31 GB, GPU 45 °C. Im Videospeicher liegen 5.681 „Experten“ (9,2 GB), der Rest wird von der Festplatte gelesen.

Fazit: Ein großes Modell läuft ohne riesige RAM-Mengen, weil die Engine das Wichtigste im Videospeicher hält und den Rest von einer schnellen SSD nachliest. Das ist ein Weg zu deutlich günstigeren Computern für lokale KI.

Modellgeschwindigkeit

256K-Kontext: 26 Anfragen auf einer einzigen 16-GB-Grafikkarte

Das Ziel war einfach: zu verstehen, wie man solche Läufe später auf unterschiedlicher Hardware automatisiert und die Ergebnisse für den Vergleich aufbereitet. Maschine: Intel Core Ultra 7 270K Plus, 31 GB RAM, AMD Radeon 16 GB.

Die Bilanz seit Sonntagmorgen (09:44): 26 Anfragen, 169.326 Prompt-Token mit 108 tok/s gelesen (weitere 1.923.247 aus dem Gesprächscache), 166.539 Token mit durchschnittlich 20,5 tok/s geschrieben. Der Kontext ist zu 62 % gefüllt (162k von 256k).

Nicht alles lief glatt: In der Liste stehen eine Anfrage „Closed“ und eine „Stopped“. Das Video im Originalbeitrag zeigt, wie das Modell eine lange technische Antwort schreibt; dort erklärt Viktor auch, was schiefging.

Modellgeschwindigkeit

Mehr RAM: 45 tok/s bei einem Kontext von 164.000 Token

Computer: Intel Core Ultra 7 270K Plus (24 Threads), AMD Radeon 16 GB, 62 GB RAM, Kontext 262.144 Token. Jetzt nutzt die Engine auch den RAM: 53,5 von 62 GB belegt.

Zwei Anfragen mit je etwa 162.000 Token: Die erste wurde mit 1.176 tok/s gelesen, Generierung 48,3 tok/s; die zweite kam fast vollständig aus dem Gesprächscache (162.199 Token), Generierung 45,2 tok/s.

Der Kompromiss ist klar: Mit mehr RAM ist die Generierung deutlich schneller, aber es bleibt weniger Speicher für andere Aufgaben. Mit 31 GB rührte die Engine den RAM kaum an, und der Computer blieb für andere Arbeit frei.

Modellgeschwindigkeit

Ein alter Xeon und eine Tesla P100: 19–27 tok/s

Das Modell passt nicht in den RAM und läuft aus dem Videospeicher (15,7 von 16 GB) und von einer NVMe-SSD über PCIe 3.0. Die CPU ist zu etwa 45 % ausgelastet, der RAM fast frei, der Computer kann also auch für andere Arbeit genutzt werden.

Auf dem Monitor: Generierung aktuell 26,9 tok/s; in der Anfragehistorie 19,3 tok/s bei einer kurzen Antwort (253 Token) und 25,3 tok/s bei einer langen (12.686 Token in 504,1 s). Grafikkarte bei 36 °C, 97 W von 250.

Für uns ist das der wichtigste Preis-Orientierungspunkt: Selbst alte, günstige Hardware ist mit richtig eingestellter Engine bereits für echte Arbeit geeignet.

Was die Cloud gefährlich macht

Alle Firmendokumente in der Cloud eines anderen? Das ist ein Risiko, keine Bequemlichkeit

Wenn Verträge, Angebote, E-Mails und Know-how in einer Cloud-KI oder einem SaaS landen, hängt das Unternehmen von fremden Regeln ab: Der Anbieter verarbeitet die Daten auf seinen eigenen Servern, kann Nutzungsbedingungen, Preise und Limits ändern, und seine Infrastruktur und Zulieferer können ausfallen oder angegriffen werden. Für US-Anbieter gilt der CLOUD Act, und die Rechtsgrundlage für Übermittlungen zwischen EU und USA steht erneut infrage. Mit CLARYEL bleiben Dokumente und KI auf der Hardware des Kunden: verschlüsselte Festplatte, Backups, verschlüsselter Fernzugriff und eine Datenbank, die sich jederzeit abschalten lässt. Auf Basiskonfigurationen ist das langsamer als die Cloud, dafür ohne Token-Limits und ohne Überraschungen auf der Rechnung.1,3–5,7,9–15

Für ein italienisches Unternehmen geht es auch um Geschäftsgeheimnisse: Art. 98 des Gesetzbuchs über gewerbliches Eigentum schützt Informationen nur, wenn sie durch „angemessene Geheimhaltungsmaßnahmen“ geschützt werden. Die Preisgabe von Geschäftsgeheimnissen wird mit bis zu 2 Jahren Freiheitsstrafe bestraft (Art. 623 ital. StGB), mit Strafschärfung bei Einsatz von IT-Mitteln.17,18

Schnelle externe Modelle: nur über einen Filter

Bei Bedarf kann das CLARYEL-System schnelle, hochmoderne externe Modelle aufrufen. Vor dem Senden entfernt es personenbezogene Daten und Geschäftsgeheimnisse aus der Anfrage und bewahrt dabei ihren Sinn. Bei Bedarf zeigt es Ihnen die gefilterte Anfrage und sendet sie erst nach Ihrer ausdrücklichen Bestätigung in die Cloud.

Der Filter hilft, Risiken zu verringern; er verspricht keine 100-prozentige Anonymisierung.

Ehrlich gesagt: Der Befehlskanal (Telegram) ist ein externer Dienst, Nachrichten und Sprachnachrichten laufen also über die Server von Telegram. Dokumente, Wissensbasis und KI-Verarbeitung bleiben lokal.

Quellen

  1. BSI / Allianz für Cybersicherheit — Local AI and further alternatives (2026)
  2. CNIL — Comment déployer une IA générative ? (2024)
  3. Anthropic — Updates to Consumer Terms and Privacy Policy
  4. OpenAI — Mixpanel security incident (2025)
  5. Google Threat Intelligence — Salesloft Drift data theft (2025)
  6. Malwarebytes — AI chat app leak (2026)
  7. 18 U.S.C. § 2713 (CLOUD Act) — govinfo.gov
  8. Sénat (France) — commission d’enquête, 9 June 2025
  9. CJEU C-311/18 (Schrems II) — EUR-Lex
  10. IAPP — EDPB requests review of the EU-US Data Privacy Framework (2026)
  11. CJEU C-703/25 P (Latombe) — EUR-Lex
  12. Microsoft Licensing — Microsoft 365 pricing and packaging updates (2026)
  13. TechCrunch — new weekly rate limits (2025)
  14. AWS — US-EAST-1 service disruption summary (Oct 2025)
  15. Cloudflare — outage on 18 November 2025
  16. The Register — unauthorized API usage bills (2026)
  17. D.Lgs. 30/2005 (Codice della proprietà industriale), artt. 98–99 — Normattiva
  18. Codice penale, art. 623 — Normattiva

Allgemeine Information, keine Rechtsberatung. Ein lokales System hilft, Risiken zu verringern; die Verantwortung für die Einhaltung der Vorschriften bleibt beim Unternehmen.

Was die Cloud gefährlich macht

Wer einem Cloud-Agenten die Schlüssel zur Infrastruktur gibt, öffnet die Tür zu den wertvollsten Daten

Jeder API-Schlüssel, jedes OAuth-Token oder jeder Tunnel für einen Cloud-Agenten ist eine weitere Tür für Angreifer. Gestohlene Zugangsdaten sind der häufigste Einstiegsweg; eine einzige kompromittierte Integration führte zu Datendiebstahl bei vielen Unternehmen; Prompt Injection kann Daten ohne Klick abfließen lassen; infizierte Pakete nutzen bereits KI-Agenten, um nach Geheimnissen zu suchen. Ein Cloud-Agent mit Zugriff auf Ihre Maschinen und Schlüssel ist eine Leckstelle und ein Weg in das lokale System, in dem alle oder die sensibelsten Daten liegen. Die lokale Architektur von CLARYEL verringert externe Zugangspunkte und lässt riskante Aktionen von einem Menschen bestätigen, im Einklang mit OWASP und den NIS2-Anforderungen an die Lieferkette.1–7

Quellen

  1. Verizon — 2025 Data Breach Investigations Report
  2. OWASP — Top 10 for LLM Applications 2025 (LLM01, LLM06)
  3. NIST NVD — CVE-2025-32711
  4. GitHub Security Advisory — malicious Nx versions (GHSA-cxm3-wv7p-598c)
  5. CISA — supply chain compromise in the npm ecosystem (2025)
  6. Hunt.io — CVE-2026-25253 in internet-facing AI agent gateways (2026)
  7. Directive (EU) 2022/2555 (NIS2), art. 21 — EUR-Lex
  8. BSI / Allianz für Cybersicherheit — Local AI and further alternatives (2026)
  9. EDPB — AI Privacy Risks & Mitigations: Large Language Models (2025)

Allgemeine Information, keine Rechtsberatung. Ein lokales System hilft, Risiken zu verringern; die Verantwortung für die Einhaltung der Vorschriften bleibt beim Unternehmen.

Was die Cloud gefährlich macht

Die Abstimmung von Hardware und Modellen bleibt intern: kein Cloud-Agent in der Nähe Ihrer Maschinen

Die Messungen auf dieser Seite hat der CLARYEL-Agent auf unseren eigenen Maschinen durchgeführt, ohne einem Cloud-Dienst Zugriff darauf zu geben. Gestohlene Zugangsdaten und offen erreichbare Agenten-Panels zeigen, warum: Wer die Schlüssel hat, hat das System. Die lokale Geschwindigkeit hängt von der Hardware ab und ist auf kleinen Konfigurationen geringer als in der Cloud; dafür ist das Arbeitsvolumen nicht durch Tarife, Kontingente oder eine Token-Rechnung begrenzt.1,2

Quellen

  1. Verizon — 2025 Data Breach Investigations Report
  2. Hunt.io — CVE-2026-25253 in internet-facing AI agent gateways (2026)
  3. TechCrunch — new weekly rate limits (2025)
  4. The Register — unauthorized API usage bills (2026)
  5. Stanford HAI — AI Index 2025, Technical Performance

Allgemeine Information, keine Rechtsberatung. Ein lokales System hilft, Risiken zu verringern; die Verantwortung für die Einhaltung der Vorschriften bleibt beim Unternehmen.