CLARYEL CLARYEL Box
Ζητήστε διαμόρφωση

CLARYEL · Πραγματική χρήση

Το χρησιμοποιούμε κάθε μέρα

Εδώ είναι πραγματική δουλειά για την εταιρεία μας από τον πράκτορα CLARYEL: λογιστήριο, ρύθμιση μηχανημάτων, υποδομή. Πραγματικά δεδομένα και πραγματικές απαντήσεις του συστήματος.

Η CLARYEL δουλεύει κάθε μέρα με το δικό της σύστημα.

Τα δεδομένα μένουν τοπικά, μέσα στο CLARYEL Box.

Πώς λειτουργεί

  1. Δίνουμε την εργασία με απλά λόγια: με τη φωνή ή με μήνυμα
  2. Ο πράκτορας CLARYEL βρίσκει μόνος του τον δρόμο και κάνει όλη τη δουλειά
  3. Παίρνουμε το αποτέλεσμα και μια αναφορά, συχνά περισσότερα από όσα ζητήσαμε

Από εμάς: μόνο η εργασία και η έγκριση για σημαντικές ενέργειες.

Business

Καθημερινές εργασίες της εταιρείας που λύνουμε με τη φωνή μέσω του συστήματος.

Λογιστήριο

Έλεγχος τιμολογίων: FAKE και διπλότυπα

Ρωτήσαμε πόσα ξοδέψαμε για IT μέσα σε έναν χρόνο. Το σύστημα βρήκε μόνο του τιμολόγια FAKE και διπλότυπα, τα αφαίρεσε μετά την έγκρισή μας και διόρθωσε το δικό του νούμερο.

  1. Η ερώτηση
  2. Η διόρθωση
  3. Διορθωμένο αποτέλεσμα
Τι δείχνει το στιγμιότυπο

Η ερώτηση: πόσα ξοδέψαμε για IT τον τελευταίο χρόνο. Ο πράκτορας CLARYEL απαντά: περίπου €54.691, και επισημαίνει μόνος του ότι ανάμεσα στα έγγραφα υπάρχουν τιμολόγια FAKE και διπλότυπα.

Τι δείχνει το στιγμιότυπο

Ζητάμε να αφαιρεθούν τα δεδομένα FAKE και τα διπλότυπα. Ο πράκτορας βρίσκει 64 τιμολόγια FAKE, ζητά την έγκρισή μας πριν από την αναγκαστική διαγραφή, έπειτα καθαρίζει τα δεδομένα και ελέγχει το αποτέλεσμα.

Τι δείχνει το στιγμιότυπο

Η επαληθευμένη τελική κατάσταση: 188 έγκυρα τιμολόγια ύψους €38.627,70. Ο πράκτορας διορθώνει μόνος του την προηγούμενη απάντησή του: τα έξοδα IT του τελευταίου χρόνου ήταν €36.993,58.

Τα στιγμιότυπα είναι στην αρχική γλώσσα· κάτω από το καθένα υπάρχει περίληψη.

Πριν → μετά (από τα στιγμιότυπα 1–3)

  • 64 τιμολόγια FAKE αφαιρέθηκαν
  • 188 έγκυρα τιμολόγια · €38.627,70
  • Πληροφορική, τελευταίος χρόνος: ≈€54.691 → €36.993,58

Όλα αληθινά: αληθινό σύστημα, αληθινά έγγραφα, αληθινά ποσά. Απευθείας από την καθημερινή μας χρήση: έγγραφα που συλλέχθηκαν από τον λογαριασμό Amazon, από διάφορα γραμματοκιβώτια email, από το Google Drive και από το φυσικό αρχείο του συστήματός μας.

Η αρχική ανάρτηση στο X

Λογιστήριο

Λογιστική με το κλειδί στο χέρι: από τον νέο υπολογιστή ως την εφορία

Ολόκληρη η διαδικασία: ρύθμιση υπολογιστή από το μηδέν, εγκατάσταση Ubuntu, των απαραίτητων προγραμμάτων, Odoo και NextERP, λήψη τιμολογίων από το Amazon Business και υποβολή τους στην Agenzia delle Entrate. Οι εργασίες δίνονται φωνητικά από το τηλέφωνο· ελέγχεται μόνο το αποτέλεσμα.

Τι δείχνει το στιγμιότυπο

Εικονογράφηση της ανάρτησης, όχι στιγμιότυπο οθόνης: επτά βήματα (νέος υπολογιστής, Ubuntu 24.04, Docker/Python/Git και άλλα προγράμματα, Odoo, NextERP, τιμολόγια Amazon Business, υποβολή στην Agenzia delle Entrate) και κάτω μια φωνητική εργασία από το τηλέφωνο.

Εικονογράφηση της ανάρτησης, όχι στιγμιότυπο οθόνης.

Η αρχική ανάρτηση στο X

ERP

Ένα ERP του οποίου τη διεπαφή δεν έχουμε ανοίξει ποτέ

Μια επιχειρηματική διαδικασία λειτουργεί ήδη εξ ολοκλήρου μέσω του πράκτορα: τιμολόγια και έγγραφα μεταφοράς από email, Google Drive και Amazon Business → ERP και λογιστική → φορολογικό σύστημα → συγκεντρωτικές αναφορές → συμφωνία με τα αντίγραφα κίνησης τραπεζικών λογαριασμών.

Τι δείχνει το στιγμιότυπο

Εικονογράφηση της ανάρτησης, όχι στιγμιότυπο οθόνης: αριστερά ένας άνθρωπος ανάμεσα σε βουνά από παράθυρα και ρυθμίσεις, δεξιά μια φωνητική εργασία προς τον πράκτορα, που δουλεύει μόνος με τα προγράμματα και παραδίδει έτοιμο αποτέλεσμα.

Εικονογράφηση της ανάρτησης, όχι στιγμιότυπο οθόνης.

Η αρχική ανάρτηση στο X

Ρύθμιση και υποδομή

Πώς ο πράκτορας CLARYEL ρυθμίζει και συντηρεί μόνος του τα μηχανήματά μας: υλικό, ψύξη, μοντέλα AI, ταχύτητα.

Ψύξη

Έλεγχος του ανεμιστήρα της GPU

Ζητήσαμε με απλά λόγια: ο ανεμιστήρας της GPU να ακολουθεί τη θερμοκρασία της κάρτας γραφικών και οι ρυθμίσεις να αντέχουν την επανεκκίνηση. Ο πράκτορας CLARYEL βρήκε μόνος του τι πρέπει να ελέγξει, γύρισε τον ανεμιστήρα στο μέγιστο για ένα λεπτό, ρύθμισε την καμπύλη και επιβεβαίωσε τα πάντα με πραγματική επανεκκίνηση, σε περίπου 30 λεπτά.

  1. Αίτημααπλό κείμενο, χωρίς εντολές
  2. ΑναγνώρισηZ10PA-U8 · Tesla P100 · NCT7904D
  3. Ένα λεπτό στο μέγιστο1468 → 5294–5421 RPM σε 5 s · GPU 37 → 31 °C
  4. Καμπύλη≤35 °C 35% → ≥85 °C 100%
  5. Επανεκκίνηση1319 RPM, 35 °C: όλα ξεκίνησαν μόνα τους
0%25%50%75%100%3545607585~78%35%47%67%86%100%°C
Καμπύλη: θερμοκρασία GPU → στροφές ανεμιστήρα~78%: λειτουργία ασφαλείας αν ο αισθητήρας θερμοκρασίας πάψει να απαντάΟμαλά: το πολύ ±15% ανά 5 s

Πέρα από την εργασία

  • Αποθήκευσε τη διαδικασία ως δεξιότητα για τα επόμενα μηχανήματα.
  • Εξήγησε ειλικρινά σε τι βασίζεται το συμπέρασμα ότι ο fan5 είναι ο ανεμιστήρας της GPU.
  • Στην ίδια συνεδρία μετονόμασε επίσης το μηχάνημα σε P1005, όπως είχαμε ζητήσει νωρίτερα.
  • Από εμάς: μία εντολή για δικαιώματα διαχειριστή, η απάντηση «Ready» και μία επιβεβαίωση στην πορεία.
  • ≈ 30 λεπτά (06:26–06:57 σύμφωνα με τα στιγμιότυπα)
Τι δείχνει το στιγμιότυπο

Το αίτημά μας (06:26) σε απλό κείμενο. Ο πράκτορας αρχίζει αμέσως την αναγνώριση χωρίς δικαιώματα διαχειριστή: μητρική Z10PA-U8, GPU Tesla P100· δεν υπάρχει ακόμη διεπαφή ελέγχου ανεμιστήρα· θερμοκρασία GPU αναγνώσιμη: 39 °C.

Τι δείχνει το στιγμιότυπο

Ο πράκτορας μας ζητά να εκτελέσουμε μία φορά μια εντολή που του δίνει δικαιώματα διαχειριστή στο P1005 (ανακλήσιμα ανά πάσα στιγμή) και παρουσιάζει το σχέδιο: εύρεση του τσιπ που ελέγχει τον ανεμιστήρα, μια μικρή υπηρεσία βάσει της θερμοκρασίας GPU, ένα λεπτό στο μέγιστο με έλεγχο στροφόμετρου. Η διεύθυνση του μηχανήματος είναι καλυμμένη.

Τι δείχνει το στιγμιότυπο

Τέλος του σχεδίου: υπηρεσία με αυτόματη εκκίνηση, μετονομασία του host σε P1005· αν ο έλεγχος αποδειχθεί αδύνατος, ο πράκτορας θα το πει ειλικρινά. Η απάντησή μας «Ready» (06:29), μετά η πρόοδος: υπηρεσία ελέγχου, μία επιβεβαίωση (06:43), «όλα άντεξαν την επανεκκίνηση» (06:49) και η αρχή της αναφοράς.

Τι δείχνει το στιγμιότυπο

Αναφορά, σημεία 1–3: τσιπ Nuvoton NCT7904D, αντιστοίχιση καναλιών (pwm2 → fan5, έως ~5300 RPM: η φυσούνα της P100), ένα λεπτό στο μέγιστο (1468 → 5294–5421 RPM σε 5 s, GPU 37 → 31 °C) και η καμπύλη σε λειτουργία.

Τι δείχνει το στιγμιότυπο

Αναφορά, σημείο 4 και σύνοψη: αυτόματη εκκίνηση οδηγού και υπηρεσίας, πραγματική επανεκκίνηση (fan5 στις 1319 RPM, GPU 35 °C, η Strata ξεκίνησε μόνη της, η θύρα 8080 ακούει), όνομα host P1005, μια ειλικρινής σημείωση για το πώς εντοπίστηκε ο ανεμιστήρας της GPU και η διαδικασία αποθηκευμένη ως δεξιότητα.

Τα στιγμιότυπα είναι στην αρχική γλώσσα· κάτω από το καθένα υπάρχει περίληψη.

Η αρχική ανάρτηση στο X

Ρύθμιση

Τεχνική ερώτηση, με φωνή

Μια πρακτική εργασία: με φωνητικό μήνυμα ρωτήσαμε πώς είναι στημένο το σύστημα. Απάντησε με πραγματικά δεδομένα των μηχανημάτων μας: υλικό, δίσκοι, μοντέλο AI και ταχύτητα. Αν κάποιο σημείο δεν είναι σαφές, αρκεί να ρωτήσετε αμέσως τι σημαίνει.

Τι δείχνει το στιγμιότυπο

Η απάντηση στη φωνητική ερώτηση για τη ρύθμιση: δύο μηχανήματα, claryel01 και P2002, με επεξεργαστή, μνήμη, GPU, δίσκους, εκδόσεις λογισμικού, μοντέλο AI και μετρημένη ταχύτητα (~44–48 tok/s). Κάτω, η γραμμή για το εφεδρικό μοντέλο (Cloud fallback: xAI Grok 4.7).

Σε αυτή την εργασία το εφεδρικό μοντέλο ήταν εξωτερικό (Grok) και χωρίς φίλτρο. Για το τοπικό μας σύστημα αυτό δεν είναι αποδεκτό, γι’ αυτό το εφεδρικό μοντέλο αντικαταστάθηκε από ένα δεύτερο τοπικό. Σήμερα τα μοντέλα cloud καλούνται μόνο μέσω του φίλτρου και, όταν χρειάζεται, μετά από ρητή επιβεβαίωση του χρήστη.

Ο στόλος μηχανημάτων

Τρία μηχανήματα, ένας πράκτορας

Ζητήσαμε ένα σύντομο προφίλ όλων των μηχανημάτων μας με Strata. Ο πράκτορας CLARYEL έλεγξε μόνος του το δίκτυο, βρήκε τρία μηχανήματα και συγκέντρωσε για το καθένα μνήμη, δίσκο, GPU, εκδόσεις Strata και μοντέλου και ταχύτητα. Και τα τρία τα ελέγχει ένας μόνο πράκτορας.

ταχύτητα παραγωγής

  • P2002κύριο62 GiB DDR5 · AMD RDNA4 16 GiB46.8 tok/s
  • Mac Studioτο ταχύτερο256 GB LPDDR5X · M3 Ultra60.0 tok/s
  • P1005για εργασίες παρασκηνίου31 GiB DDR4 · Tesla P100 16 GB16.2 tok/s

Και στα τρία: Strata v0.1.45 · Qwen3.8-Flash-Next IQ3_S · context 262 144

Τι δείχνει το στιγμιότυπο

Το αίτημά μας (07:47) και η αρχή της απάντησης: δίκτυο ελεγμένο, τα μηχανήματα είναι τρία. Το πρώτο είναι το P2002: 62 GiB DDR5, Lexar NM1090 PRO 2 TB, AMD RDNA4 με 16 GiB, Strata v0.1.45, Qwen3.8-Flash-Next IQ3_S, 46.8 tok/s. Η διεύθυνση είναι καλυμμένη.

Τι δείχνει το στιγμιότυπο

Mac Studio: 256 GB LPDDR5X (M3 Ultra), SSD 2 TB, 60.0 tok/s, το ταχύτερο. P1005: 31 GiB DDR4, Tesla P100 16 GB, 16.2 tok/s, για εργασίες παρασκηνίου. Σύνοψη: ένας πράκτορας στο claryel01 ελέγχει και τα τρία, παντού το ίδιο μοντέλο· εφεδρεία P2002 → Mac Studio → Grok. Οι διευθύνσεις είναι καλυμμένες.

Σε αυτή την εργασία το εφεδρικό μοντέλο ήταν εξωτερικό (Grok) και χωρίς φίλτρο. Για το τοπικό μας σύστημα αυτό δεν είναι αποδεκτό, γι’ αυτό το εφεδρικό μοντέλο αντικαταστάθηκε από ένα δεύτερο τοπικό. Σήμερα τα μοντέλα cloud καλούνται μόνο μέσω του φίλτρου και, όταν χρειάζεται, μετά από ρητή επιβεβαίωση του χρήστη.

Η αρχική ανάρτηση στο X

Εγκατάσταση

Strata σε νέο μηχάνημα: ο πράκτορας ξεπέρασε μόνος του κάθε εμπόδιο

Ρωτήσαμε ποιες δυσκολίες προέκυψαν κατά την εκκίνηση του Strata v0.1.45 σε Mac Studio (M3 Ultra, 256 GB). Ο πράκτορας CLARYEL μεταγλώττισε μόνος του τη μηχανή από τον πηγαίο κώδικα, βρήκε και εφάρμοσε μια διόρθωση, μετέφερε το μοντέλο των 79 GB και παρέκαμψε ένα σφάλμα της μηχανής.

Τι δείχνει το στιγμιότυπο

Η ερώτησή μας (05:16) για τις δυσκολίες με το Strata στο Mac Studio. Η απάντηση, σημεία 1–3: καμία έτοιμη έκδοση για Mac, η χαλασμένη έκδοση 0.1.45 και η διόρθωση από το PR #2895, η αρχή της αφήγησης για τη μεταφορά του μοντέλου των 79 GB.

Τι δείχνει το στιγμιότυπο

Σημεία 3–6: μεταφορά του μοντέλου (Starlink ~6,5 MB/s, δίκτυο ~11 MB/s, rsync από το P2002 σε 2 ώρες 05 λεπτά), λάθος κεφαλαίων-πεζών στο όνομα του μοντέλου, το σφάλμα της μηχανής «κάθε αίτημα 400» και η παράκαμψη --no-prefill-borrow, σύγχυση με μια παλιά διεργασία στη θύρα 8080.

Τι δείχνει το στιγμιότυπο

Σημεία 6–7 και αποτέλεσμα: το «κόλλημα» στην πρώτη εκκίνηση (~10 λεπτά για ανάγνωση 55 GB από τον δίσκο), Mac ≈ P2002 στην παραγωγή (~58 έναντι ~57 tok/s), prefill +36%, όλα αποθηκευμένα στη δεξιότητα strata-mac-deploy.

Τα στιγμιότυπα είναι στην αρχική γλώσσα· κάτω από το καθένα υπάρχει περίληψη.

Η αρχική ανάρτηση στο X

Ενημέρωση

Ο πράκτορας ενημέρωσε τη μηχανή του δικού του «εγκεφάλου»

Στο Telegram ζητήσαμε από τον πράκτορα CLARYEL να ενημερώσει το Strata στο P2002, το μηχάνημα στο οποίο λειτουργεί ο ίδιος. Ο πράκτορας ξεκίνησε την ενημέρωση με δίχτυ ασφαλείας, διόρθωσε μόνος του μια αποτυχία στο τελευταίο βήμα και σύγκρινε τίμια την ταχύτητα πριν και μετά.

Τι δείχνει το στιγμιότυπο

Η ερώτηση για τις εκδόσεις (04:30), η απάντηση (v0.1.43.1 στο P2002, v0.1.45 στο GitHub) και η εντολή «ενημέρωσε τον εαυτό σου» (04:31). Ο πράκτορας περιγράφει το σχέδιο: ενημέρωση ξεχωριστά από τον εαυτό του και φύλακας με αυτόματη επιστροφή στην 0.1.43.1.

Τι δείχνει το στιγμιότυπο

Η γραμμή για τη μετάβαση στο εφεδρικό μοντέλο (grok-4.7) στις 04:46· η αναφορά: κώδικας στην v0.1.45, μηχανή μεταγλωττισμένη (34 MB, 0 σφάλματα), η αντικατάσταση του αρχείου απέτυχε («Text file busy»), ο πράκτορας το διορθώνει μόνος του. Από κάτω: η σημείωση για την ενημέρωση της δεξιότητας και η ερώτησή μας για την τρέχουσα έκδοση (04:50).

Τι δείχνει το στιγμιότυπο

Η απάντηση: στο P2002 τρέχει το Strata v0.1.45, η παλιά 0.1.43.1 φυλάσσεται ως εφεδρική, μοντέλο Qwen3.8-Flash-Next IQ3_S, πλαίσιο 262.144· μετρήσεις ταχύτητας πριν και μετά την ενημέρωση.

Τι δείχνει το στιγμιότυπο

Η εκτίμηση του πράκτορα: το prefill σαφώς βελτιωμένο (έως +80% σε μία μέτρηση), η παραγωγή ~10–20% χαμηλότερη σε δύο νέες μετρήσεις· ο πράκτορας προτείνει άλλες 3–4 εκτελέσεις και επαναφορά αν επιβεβαιωθεί η επιβράδυνση.

Τα στιγμιότυπα είναι στην αρχική γλώσσα· κάτω από το καθένα υπάρχει περίληψη.

Σε αυτή την εργασία το εφεδρικό μοντέλο ήταν εξωτερικό (Grok) και χωρίς φίλτρο. Για το τοπικό μας σύστημα αυτό δεν είναι αποδεκτό, γι’ αυτό το εφεδρικό μοντέλο αντικαταστάθηκε από ένα δεύτερο τοπικό. Σήμερα τα μοντέλα cloud καλούνται μόνο μέσω του φίλτρου και, όταν χρειάζεται, μετά από ρητή επιβεβαίωση του χρήστη.

Η αρχική ανάρτηση στο X

Παρακολούθηση

Πρωινός έλεγχος του σπιτιού και των υπολογιστών

Το πρωί ο πράκτορας CLARYEL ελέγχει μόνος του τους αισθητήρες του έξυπνου σπιτιού Home Assistant, τα αντίγραφα ασφαλείας, την κατάσταση των δίσκων και τη θερμοκρασία των συνδεδεμένων υπολογιστών, και αναφέρει μόνο ό,τι χρειάζεται προσοχή.

Τι δείχνει το στιγμιότυπο

Εικονογράφηση της ανάρτησης, όχι στιγμιότυπο οθόνης: το αποτέλεσμα του πρωινού ελέγχου — δωμάτιο υπολογιστών στους 28,8 °C, μπαταρίες αισθητήρων στο 20% (γραφείο) και 30% (βεράντα), αισθητήρας πόρτας «Leo» σε κατάσταση ON που αξίζει έλεγχο.

Τι δείχνει το στιγμιότυπο

Εικονογράφηση της ανάρτησης, όχι στιγμιότυπο οθόνης: η αλυσίδα Strata v0.1.43 → Qwen3.8-Flash-Next (IQ3_S) → πράκτορας → αισθητήρες Home Assistant, αντίγραφα ασφαλείας, δίσκοι, θερμοκρασία υπολογιστών· κάτω τα βοηθητικά εργαλεία (Telegram, ChatGPT, ChatGPT Go + Codex, Grok 4.7).

Εικονογράφηση της ανάρτησης, όχι στιγμιότυπο οθόνης.

Σε αυτή την εργασία το εφεδρικό μοντέλο ήταν εξωτερικό (Grok) και χωρίς φίλτρο. Για το τοπικό μας σύστημα αυτό δεν είναι αποδεκτό, γι’ αυτό το εφεδρικό μοντέλο αντικαταστάθηκε από ένα δεύτερο τοπικό. Σήμερα τα μοντέλα cloud καλούνται μόνο μέσω του φίλτρου και, όταν χρειάζεται, μετά από ρητή επιβεβαίωση του χρήστη.

Η αρχική ανάρτηση στο X

Υλικό και ταχύτητα μοντέλων

Πώς το ίδιο μοντέλο τρέχει σε διαφορετικό υλικό, από μια παλιά Tesla P100 ως μια νέα Radeon. Οι αριθμοί προέρχονται μόνο από τις οθόνες.

Ταχύτητα μοντέλου

31 tok/s με τη RAM σχεδόν ελεύθερη: το μοντέλο διαβάζεται από τον SSD

Strata v0.1.41, Qwen3.8-Flash-Next IQ3_XXS, μια Radeon 16 GB και 31 GB RAM. Απάντηση 12.136 tokens με 31 tok/s, ενώ είναι κατειλημμένα μόνο 3,2 GB RAM.

Τι δείχνει το στιγμιότυπο

Monitor του Strata: παραγωγή 31,0 tok/s, prefill 43 tok/s, VRAM 15,7/16 GB, GPU 45 °C, πλαίσιο γεμάτο κατά 19% (12k από 64k), ένα αίτημα: 12.136 tokens σε 396,3 s· RAM 3,2/31 GB.

Τι δείχνει το στιγμιότυπο

Μοντέλο και μηχανή: qwen3.8-flash-next-iq3_xxs, v0.1.41, πλαίσιο 65.536 tokens, KV cache 8 bit στη VRAM, 5.681 ειδικοί στη VRAM (9,2 GB). Υπολογιστής: AMD Radeon 16 GB, Intel Core Ultra 7 270K Plus (24 νήματα), 31 GB RAM.

Τι δείχνει το στιγμιότυπο

Επιλεγμένες ρυθμίσεις του Strata: Qwen3.8-Flash-Next, IQ3_XXS, πλαίσιο 64K, KV cache 8 bit, εικόνες απενεργοποιημένες, λειτουργία low-RAM (31 GB RAM, ειδικοί εν μέρει από τον SSD), AMD Radeon RX 9070 (~16 GB VRAM)· αρχείο μοντέλου ~47 GB.

Τα στιγμιότυπα είναι στην αρχική γλώσσα· κάτω από το καθένα υπάρχει περίληψη.

Η αρχική ανάρτηση στο X

Ταχύτητα μοντέλου

Πλαίσιο 256K: 26 αιτήματα σε μία κάρτα γραφικών 16 GB

Τρέξαμε το Strata v0.1.41 με το Qwen3.8-Flash-Next IQ3_S σε πλαίσιο 262.144 tokens. Απαντήσεις έως 14.829 tokens, με 3,3 από 31 GB RAM κατειλημμένα: το μοντέλο δουλεύει σχεδόν μόνο στη μνήμη βίντεο.

Τι δείχνει το στιγμιότυπο

Καρέ από το βίντεο: το μοντέλο γράφει μακροσκελή τεχνική απάντηση για το πώς λειτουργούν τα μοντέλα Mixture-of-Experts (δρομολόγηση ειδικών, KV cache, ιεραρχία μνήμης). Ολόκληρο το βίντεο βρίσκεται στην αρχική ανάρτηση.

Τι δείχνει το στιγμιότυπο

Monitor του Strata: παραγωγή τελευταίου αιτήματος 14,8 tok/s, prefill 112 tok/s, VRAM 15,8/16 GB, πλαίσιο 62% (162k/256k), RAM 3,3/31 GB· στον πίνακα αιτημάτων παραγωγή από 13,0 έως 19,6 tok/s και απαντήσεις έως 14.829 tokens· σύνολο 26 αιτήματα.

Τι δείχνει το στιγμιότυπο

Μοντέλο και μηχανή: qwen3.8-flash-next-iq3_s, v0.1.41, πλαίσιο 262.144 tokens, KV cache 8 bit στη VRAM, 3.114 ειδικοί στη VRAM (6,0 GB). Υπολογιστής: AMD Radeon 16 GB, Intel Core Ultra 7 270K Plus (24 νήματα), 31 GB RAM.

Τα στιγμιότυπα είναι στην αρχική γλώσσα· κάτω από το καθένα υπάρχει περίληψη.

Το βίντεο βρίσκεται στην αρχική ανάρτηση· εδώ ένα καρέ του.

Η αρχική ανάρτηση στο X

Ταχύτητα μοντέλου

Περισσότερη RAM: 45 tok/s σε πλαίσιο 164.000 tokens

Το ίδιο μηχάνημα με περισσότερη RAM (62 GB στο σύστημα). Strata v0.1.43 με Qwen3.8-Flash-Next IQ3_S: παραγωγή 45,2 tok/s με το πλαίσιο γεμάτο κατά 63%.

Τι δείχνει το στιγμιότυπο

Monitor του Strata: παραγωγή 45,2 tok/s, prefill 94 tok/s, VRAM 15,9/16 GB, GPU 44 °C, πλαίσιο 63% (164k/256k), RAM 53,5/62 GB· δύο αιτήματα των περίπου 162.000 tokens, prefill 1.176 tok/s, παραγωγή 48,3 και 45,2 tok/s.

Τι δείχνει το στιγμιότυπο

Μοντέλο και μηχανή: qwen3.8-flash-next-iq3_s, v0.1.43, πλαίσιο 262.144 tokens, KV cache 8 bit στη VRAM, 3.114 ειδικοί στη VRAM (6,0 GB). Υπολογιστής: AMD Radeon 16 GB, Intel Core Ultra 7 270K Plus (24 νήματα), 62 GB RAM.

Τα στιγμιότυπα είναι στην αρχική γλώσσα· κάτω από το καθένα υπάρχει περίληψη.

Η αρχική ανάρτηση στο X

Ταχύτητα μοντέλου

Ένας παλιός Xeon και μια Tesla P100: 19–27 tok/s

Η πιο λιτή διαμόρφωση: Intel Xeon E5-2690 v4, 31 GB RAM και κάρτα Tesla P100 16 GB. Το Strata v0.1.45 με Qwen3.8-Flash-Next IQ3_S δίνει 19–27 tok/s, με μόνο 2,2 GB RAM κατειλημμένα.

Τι δείχνει το στιγμιότυπο

Monitor του Strata και htop: παραγωγή 26,9 tok/s, φόρτος Tesla P100 100%, VRAM 15,7/16 GB, 97 W, PCIe Gen3 x16, CPU 45%, ανάγνωση δίσκου 164 MB/s, RAM 2,2/31 GB· αιτήματα: 19,3 tok/s (253 tokens) και 25,3 tok/s (12.686 tokens σε 504,1 s).

Τι δείχνει το στιγμιότυπο

Μοντέλο και μηχανή: qwen3.8-flash-next-iq3_s, v0.1.45, πλαίσιο 262.144 tokens, KV cache 8 bit στη VRAM, 3.051 ειδικοί στη VRAM (5,8 GB). Υπολογιστής: Tesla P100 16 GB, Intel Xeon E5-2690 v4 (28 νήματα), 31 GB RAM.

Τα στιγμιότυπα είναι στην αρχική γλώσσα· κάτω από το καθένα υπάρχει περίληψη.

Η αρχική ανάρτηση στο X

Λογιστήριο

Έλεγχος τιμολογίων: FAKE και διπλότυπα

Ένα πραγματικό σενάριο από το ERP μας, σε τρία βήματα.

  1. Η ερώτηση

    Ρωτάμε πόσα ξοδέψαμε σε πληροφορική τον τελευταίο χρόνο. Το σύστημα απαντά (≈ €54.691) και επισημαίνει μόνο του τιμολόγια FAKE και διπλότυπα.

  2. Η διόρθωση

    Του ζητάμε να αφαιρέσει τα δεδομένα FAKE και τα διπλότυπα. Πριν από την αναγκαστική διαγραφή ζητά την έγκρισή μας, έπειτα καθαρίζει και ελέγχει.

  3. Διορθωμένο αποτέλεσμα

    188 έγκυρα τιμολόγια για €38.627,70. Διορθωμένο ποσό: €36.993,58: το σύστημα διορθώνει μόνο του την προηγούμενη απάντησή του και επιβεβαιώνει την τελική κατάσταση.

Πριν → μετά (από τα στιγμιότυπα 1–3)

  • 64 τιμολόγια FAKE αφαιρέθηκαν
  • 188 έγκυρα τιμολόγια · €38.627,70
  • Πληροφορική, τελευταίος χρόνος: ≈€54.691 → €36.993,58

Ένα πραγματικό σενάριο από το ERP μας: όταν ερωτάται για τις δαπάνες πληροφορικής, το σύστημα βρίσκει μόνο του τιμολόγια FAKE και διπλότυπα, τα αφαιρεί μετά την έγκρισή μας, ελέγχει το αποτέλεσμα και διορθώνει το δικό του προηγούμενο ποσό.

Η διαγραφή εγγράφων είναι ασφαλής: τα δεδομένα έχουν αντίγραφα ασφαλείας, υπάρχει ιστορικό αλλαγών με δυνατότητα επαναφοράς και συνεχής συμφωνία, για παράδειγμα με τα αντίγραφα κίνησης τραπεζικών λογαριασμών.

Ψύξη

Έλεγχος του ανεμιστήρα της GPU

Η εργασία, στο στιγμιότυπο 1: ο ανεμιστήρας της GPU είναι συνδεδεμένος στη μητρική· πρέπει να ακολουθεί τη θερμοκρασία της GPU, να δουλέψει ένα λεπτό στο μέγιστο για να επιβεβαιωθεί ότι ο έλεγχος λειτουργεί, μετά να πάρει βέλτιστα επίπεδα, και μετά την επανεκκίνηση όλα να λειτουργούν αυτόματα.

  1. Αίτημα

    Ένα συνηθισμένο μήνυμα στο Telegram, χωρίς τεχνικές εντολές.

  2. Αναγνώριση

    Πρώτα, χωρίς δικαιώματα διαχειριστή, ο πράκτορας διαπίστωσε: μητρική Z10PA-U8, GPU Tesla P100, η θερμοκρασία GPU αναγνώσιμη (39 °C), αλλά ακόμη τίποτα για τον έλεγχο του ανεμιστήρα. Ζήτησε δικαιώματα διαχειριστή με μία μόνο εντολή και παρουσίασε το σχέδιο. Με πρόσβαση βρήκε το τσιπ Nuvoton NCT7904D (9 είσοδοι στροφόμετρου, 4 κανάλια PWM) και, περνώντας κάθε κανάλι από 0 έως 255, αντιστοίχισε: pwm2 → fan5, έως ~5300 RPM, δηλαδή η φυσούνα της P100. Τα άλλα τρία κανάλια έμειναν στον αυτόματο έλεγχο του BIOS.

  3. Ένα λεπτό στο μέγιστο

    pwm2 = 255 για 60 δευτερόλεπτα: σε 5 δευτερόλεπτα ο fan5 ανέβηκε από 1468 σε 5294–5421 RPM και η GPU κρύωσε από 37 σε 31 °C. Μετά ο έλεγχος επέστρεψε στην καμπύλη (255 → 195 → 90)· οι ενδείξεις του στροφόμετρου επιβεβαιώνουν ότι λειτουργεί.

  4. Καμπύλη

    ≤35 °C → 35%, 45 °C → 47%, 60 °C → 67%, 75 °C → 86%, ≥85 °C → 100% (η P100 μειώνει συχνότητες στους 91 °C, άρα μένει περιθώριο). Οι στροφές αλλάζουν ομαλά, το πολύ ±15% ανά 5 δευτερόλεπτα· αν το nvidia-smi πάψει να απαντά, ο ανεμιστήρας περνά σε λειτουργία ασφαλείας ~78%.

  5. Επανεκκίνηση

    Ο οδηγός φορτώνεται αυτόματα και ο έλεγχος τρέχει ως υπηρεσία με αυτόματη εκκίνηση. Ο πράκτορας επανεκκίνησε πραγματικά το μηχάνημα και έλεγξε τα πάντα από την αρχή: μονάδα φορτωμένη, υπηρεσία ενεργή, fan5 στις 1319 RPM, GPU 35 °C.

Πέρα από την εργασία

  • Αποθήκευσε τη διαδικασία ως δεξιότητα για τα επόμενα μηχανήματα.
  • Εξήγησε ειλικρινά σε τι βασίζεται το συμπέρασμα ότι ο fan5 είναι ο ανεμιστήρας της GPU.
  • Στην ίδια συνεδρία μετονόμασε επίσης το μηχάνημα σε P1005, όπως είχαμε ζητήσει νωρίτερα.
  • Από εμάς: μία εντολή για δικαιώματα διαχειριστή, η απάντηση «Ready» και μία επιβεβαίωση στην πορεία.
  • ≈ 30 λεπτά (06:26–06:57 σύμφωνα με τα στιγμιότυπα)

Ρύθμιση

Τεχνική ερώτηση, με φωνή

Μια πρακτική εργασία: με φωνητικό μήνυμα ρωτήσαμε πώς είναι στημένο το σύστημα. Απάντησε με πραγματικά δεδομένα των μηχανημάτων μας: υλικό, δίσκοι, μοντέλο AI και ταχύτητα. Αν κάποιο σημείο δεν είναι σαφές, αρκεί να ρωτήσετε αμέσως τι σημαίνει.

Τι δείχνει η απάντηση: δύο μηχανήματα, claryel01 και P2002· επεξεργαστής, μνήμη, GPU και δίσκοι· εκδόσεις λογισμικού· μοντέλο AI· μετρημένη ταχύτητα.

Σε αυτή την εργασία το εφεδρικό μοντέλο ήταν εξωτερικό (Grok) και χωρίς φίλτρο. Για το τοπικό μας σύστημα αυτό δεν είναι αποδεκτό, γι’ αυτό το εφεδρικό μοντέλο αντικαταστάθηκε από ένα δεύτερο τοπικό. Σήμερα τα μοντέλα cloud καλούνται μόνο μέσω του φίλτρου και, όταν χρειάζεται, μετά από ρητή επιβεβαίωση του χρήστη.

Δεν είναι σαφής ένας τεχνικός όρος; Ρωτήστε αμέσως το σύστημα, μέσα στη συνομιλία: σας τον εξηγεί με απλά λόγια.

Ο στόλος μηχανημάτων

Τρία μηχανήματα, ένας πράκτορας

Το αίτημα, στο στιγμιότυπο 1 (07:47): για κάθε μηχάνημα με Strata μέγεθος και τύπος μνήμης, NVMe, GPU και μνήμη βίντεο, έκδοση Strata, μοντέλο, έκδοση πράκτορα και ταχύτητα του μοντέλου σε εκείνο το μηχάνημα· απάντηση σύντομη και στα αγγλικά.

Ο πράκτορας σάρωσε μόνος του το δίκτυο και επιβεβαίωσε ότι τα μηχανήματα είναι τρία (οι άλλες διευθύνσεις είναι ένας εκτυπωτής και η θύρα Wi-Fi του Mac). Και τα τρία τρέχουν Strata v0.1.45 με το ίδιο μοντέλο Qwen3.8-Flash-Next IQ3_S (context 262 144), άρα οι απαντήσεις είναι συνεπείς όποιο μηχάνημα κι αν απαντά.

ταχύτητα παραγωγής

  • P2002κύριο62 GiB DDR5 · AMD RDNA4 16 GiB46.8 tok/s
  • Mac Studioτο ταχύτερο256 GB LPDDR5X · M3 Ultra60.0 tok/s
  • P1005για εργασίες παρασκηνίου31 GiB DDR4 · Tesla P100 16 GB16.2 tok/s

Και στα τρία: Strata v0.1.45 · Qwen3.8-Flash-Next IQ3_S · context 262 144

Ταχύτητα παραγωγής: P2002 46.8 tok/s, Mac Studio 60.0 tok/s (το ταχύτερο), P1005 16.2 tok/s: μοντέλο 78 GB με 31 GB μνήμης, γι' αυτό αυτό το μηχάνημα αναλαμβάνει τις εργασίες παρασκηνίου. Και τα τρία ελέγχονται από μία μόνο εγκατάσταση του πράκτορα στο claryel01· η εφεδρεία ακολουθεί την αλυσίδα P2002 → Mac Studio → Grok.

Σε αυτή την εργασία το εφεδρικό μοντέλο ήταν εξωτερικό (Grok) και χωρίς φίλτρο. Για το τοπικό μας σύστημα αυτό δεν είναι αποδεκτό, γι’ αυτό το εφεδρικό μοντέλο αντικαταστάθηκε από ένα δεύτερο τοπικό. Σήμερα τα μοντέλα cloud καλούνται μόνο μέσω του φίλτρου και, όταν χρειάζεται, μετά από ρητή επιβεβαίωση του χρήστη.

Λογιστήριο

Λογιστική με το κλειδί στο χέρι: από τον νέο υπολογιστή ως την εφορία

Ο Viktor έχει ήδη περάσει αυτή τη διαδικασία με πράκτορες στο cloud, σχεδόν χωρίς να αγγίξει τις διεπαφές των προγραμμάτων: εργασίες φωνητικά, έλεγχος του αποτελέσματος. Τώρα μεταφέρουμε τέτοιες πραγματικές διαδικασίες στην τοπική AI της CLARYEL.

Βήματα: νέος υπολογιστής από το μηδέν → Ubuntu και ρύθμιση → απαραίτητα προγράμματα → λογιστική Odoo → ERP NextERP → εισαγωγή τιμολογίων από το Amazon Business → υποβολή στην Agenzia delle Entrate.

Πρώτη παρατήρηση: τοπικά τέτοιες εργασίες διαρκούν ακόμη περισσότερο από ό,τι στο cloud. Πρώτα βλέπουμε τι λειτουργεί χωρίς ρυθμίσεις και μόνο μετά βελτιστοποιούμε.

Εικονογράφηση της ανάρτησης, όχι στιγμιότυπο οθόνης.

ERP

Ένα ERP του οποίου τη διεπαφή δεν έχουμε ανοίξει ποτέ

Δεν μαθαίνουμε κουμπιά και μενού: ζητάμε από τον πράκτορα να εγκαταστήσει το πρόγραμμα και να εκτελέσει τις απαραίτητες λειτουργίες, μέσω API, MCP ή χειριζόμενος τον δικό του υπολογιστή. Χρειαζόμαστε το αποτέλεσμα, όχι τη διεπαφή.

Η διαδικασία βήμα προς βήμα: συλλογή τιμολογίων και εγγράφων μεταφοράς από email, Google Drive και τον λογαριασμό Amazon Business· καταχώριση στο ERP και στη λογιστική· διαβίβαση των δεδομένων στο φορολογικό σύστημα· σύνταξη συγκεντρωτικών αναφορών· συμφωνία όλων με τα τραπεζικά αντίγραφα, που βρίσκονται επίσης στο Google Drive.

Με τις ρυθμίσεις το ίδιο: αντί να μελετάμε την καθεμία, λέμε στον πράκτορα «πρέπει να λειτουργεί έτσι: κάν’ το, έλεγξέ το και πες μου το αποτέλεσμα». Εμείς δίνουμε την εργασία και ελέγχουμε το αποτέλεσμα. Δεν γίνεται ακόμη πλήρως με όλα τα προγράμματα.

Εικονογράφηση της ανάρτησης, όχι στιγμιότυπο οθόνης.

Εγκατάσταση

Strata σε νέο μηχάνημα: ο πράκτορας ξεπέρασε μόνος του κάθε εμπόδιο

Δεν υπάρχει έτοιμη έκδοση για Mac: η μηχανή Metal μεταγλωττίζεται από τον πηγαίο κώδικα (~5–15 λεπτά). Η έκδοση 0.1.45 για Mac ήταν χαλασμένη· ο πράκτορας βρήκε το ανοιχτό PR #2895, το εφάρμοσε στην έκδοση και η νέα μεταγλώττιση πέτυχε.

Το μοντέλο των 79 GB: μέσω HuggingFace με Starlink θα ήταν ~6,5 MB/s (~3,4 ώρες), γι’ αυτό ο πράκτορας το αντέγραψε με rsync από το P2002 μέσω προώθησης του πράκτορα SSH, σε 2 ώρες 05 λεπτά. Μετά κάθε αίτημα προς τη μηχανή επέστρεφε 400· ο πράκτορας βρήκε στον πηγαίο κώδικα την παράκαμψη --no-prefill-borrow.

Αποτέλεσμα: Mac ≈ P2002 στην παραγωγή (~58 έναντι ~57 tok/s) και σαφώς ταχύτερο στο prefill (+36%). Ο πράκτορας αποθήκευσε όλα τα εμπόδια στη δεξιότητα strata-mac-deploy, οπότε η επανάληψη είναι σχεδόν αντιγραφή.

Ενημέρωση

Ο πράκτορας ενημέρωσε τη μηχανή του δικού του «εγκεφάλου»

Ερώτηση (04:30): ποια έκδοση Strata έχει ο «εγκέφαλος» και ποια είναι η πιο πρόσφατη στο GitHub. Απάντηση: στο P2002 τρέχει η v0.1.43.1, η πιο πρόσφατη είναι η v0.1.45 (κυκλοφόρησε 17 Οκτωβρίου 2026). Ο πράκτορας προειδοποίησε ότι η ενημέρωση θα επανεκκινούσε τη μηχανή στην οποία λειτουργεί ο ίδιος: λίγα λεπτά διακοπής, με επαναφορά ως εγγύηση.

Με την εντολή «ενημέρωσε τον εαυτό σου» (04:31) ο πράκτορας ξεκίνησε την ενημέρωση ξεχωριστά από τον εαυτό του: git pull → μεταγλώττιση της μηχανής HIP 0.1.45 → επανεκκίνηση της υπηρεσίας, ενώ ένας φύλακας ελέγχει τη μηχανή για 5 λεπτά και επιστρέφει στην 0.1.43.1 αν δεν ξεκινήσει. Η μεταγλώττιση ήταν καθαρή (34 MB, 0 σφάλματα), αλλά η αντικατάσταση του αρχείου σε χρήση απέτυχε («Text file busy») και η μηχανή σταμάτησε. Ο πράκτορας κράτησε το παλιό αρχείο ως εφεδρικό, εγκατέστησε χειροκίνητα το νέο και επανεκκίνησε την υπηρεσία.

Έλεγχος (04:50): τρέχει η v0.1.45, μοντέλο Qwen3.8-Flash-Next IQ3_S, πλαίσιο 262.144. Ταχύτητα με το ίδιο σενάριο: σύντομη απάντηση 31,0 (πριν 33,5–33,7), παραγωγή 1024 tokens 47,7 / 44,4 (πριν 53,0–60,1), prefill 1,5K 874 / 531 (πριν 488–490). Η εκτίμηση του πράκτορα: το prefill σαφώς καλύτερο, η παραγωγή ~10–20% χαμηλότερη σε δύο μετρήσεις· με μόνο δύο εκτελέσεις δεν το ονομάζει υποχώρηση και προτείνει άλλες 3–4 μετρήσεις και επιστροφή στην 0.1.43.1 αν επιβεβαιωθεί η επιβράδυνση.

Σε αυτή την εργασία το εφεδρικό μοντέλο ήταν εξωτερικό (Grok) και χωρίς φίλτρο. Για το τοπικό μας σύστημα αυτό δεν είναι αποδεκτό, γι’ αυτό το εφεδρικό μοντέλο αντικαταστάθηκε από ένα δεύτερο τοπικό. Σήμερα τα μοντέλα cloud καλούνται μόνο μέσω του φίλτρου και, όταν χρειάζεται, μετά από ρητή επιβεβαίωση του χρήστη.

Παρακολούθηση

Πρωινός έλεγχος του σπιτιού και των υπολογιστών

Ο συνδυασμός στην εικόνα: Strata v0.1.43 + Qwen3.8-Flash-Next (IQ3_S) + ο πράκτορας. Ο πράκτορας διαβάζει τους αισθητήρες του Home Assistant (θερμοκρασία, υγρασία, κίνηση, φως, ενέργεια) και ελέγχει αντίγραφα ασφαλείας, δίσκους και θερμοκρασία υπολογιστών. Μιλάμε μαζί του μέσω Telegram.

Τι βρήκε ο έλεγχος: στο δωμάτιο με τους υπολογιστές η θερμοκρασία είναι 28,8 °C, αισθητά υψηλότερη από τους άλλους χώρους, οπότε πρέπει να ελεγχθούν ο αερισμός και η ψύξη· οι μπαταρίες των αισθητήρων στο γραφείο (20%) και στη βεράντα (30%) πρέπει να αλλαχτούν· ο αισθητήρας της πόρτας «Leo» δείχνει ON, αλλά η ένδειξη μπορεί να είναι παλιά και πρέπει να ελεγχθεί επί τόπου.

Ο Viktor δεν άνοιξε καν τη διεπαφή του Home Assistant. Βοηθητικά εργαλεία εκείνη την ημέρα: το ChatGPT σχεδίασε την εικόνα της ανάρτησης, τα ChatGPT Go + Codex βοήθησαν στη ρύθμιση, και ο πράκτορας κατά διαστήματα απευθυνόταν στο Grok 4.7 ως πρόσθετο μοντέλο για σύνθετους συλλογισμούς.

Σε αυτή την εργασία το εφεδρικό μοντέλο ήταν εξωτερικό (Grok) και χωρίς φίλτρο. Για το τοπικό μας σύστημα αυτό δεν είναι αποδεκτό, γι’ αυτό το εφεδρικό μοντέλο αντικαταστάθηκε από ένα δεύτερο τοπικό. Σήμερα τα μοντέλα cloud καλούνται μόνο μέσω του φίλτρου και, όταν χρειάζεται, μετά από ρητή επιβεβαίωση του χρήστη.

Εικονογράφηση της ανάρτησης, όχι στιγμιότυπο οθόνης.

Ταχύτητα μοντέλου

31 tok/s με τη RAM σχεδόν ελεύθερη: το μοντέλο διαβάζεται από τον SSD

Ρυθμίσεις: μοντέλο Qwen3.8-Flash-Next IQ3_XXS (~47 GB), πλαίσιο 64K (65.536 tokens), KV cache 8 bit, λειτουργία low-RAM: μέρος των «ειδικών» του μοντέλου διαβάζεται από τον SSD. Κάρτα γραφικών AMD Radeon RX 9070, ~16 GB.

Το αποτέλεσμα στο monitor του Strata: 12.136 tokens σε 396,3 s, παραγωγή 31,0 tok/s, VRAM 15,7 από 16 GB, RAM 3,2 από 31 GB, GPU 45 °C. Στη μνήμη βίντεο βρίσκονται 5.681 «ειδικοί» (9,2 GB)· τα υπόλοιπα διαβάζονται από τον δίσκο.

Συμπέρασμα: ένα μεγάλο μοντέλο τρέχει χωρίς τεράστια ποσότητα RAM, επειδή η μηχανή κρατά στη μνήμη βίντεο τα πιο αναγκαία και διαβάζει τα υπόλοιπα από γρήγορο SSD. Είναι ένας δρόμος προς πολύ πιο προσιτούς υπολογιστές για τοπική AI.

Ταχύτητα μοντέλου

Πλαίσιο 256K: 26 αιτήματα σε μία κάρτα γραφικών 16 GB

Ο στόχος ήταν απλός: να καταλάβουμε πώς θα αυτοματοποιήσουμε αργότερα τέτοιες εκτελέσεις σε διαφορετικό υλικό και πώς θα παρουσιάζουμε τα αποτελέσματα για σύγκριση. Μηχάνημα: Intel Core Ultra 7 270K Plus, 31 GB RAM, AMD Radeon 16 GB.

Ο απολογισμός από το πρωί της Κυριακής (09:44): 26 αιτήματα, 169.326 tokens αιτημάτων διαβάστηκαν με 108 tok/s (άλλα 1.923.247 πάρθηκαν από την cache της συνομιλίας), 166.539 tokens γράφτηκαν με μέση ταχύτητα 20,5 tok/s. Το πλαίσιο είναι γεμάτο κατά 62% (162k από 256k).

Δεν πήγαν όλα ομαλά: στη λίστα υπάρχει ένα αίτημα «Closed» και ένα «Stopped». Το βίντεο στην αρχική ανάρτηση δείχνει το μοντέλο να γράφει μια μακροσκελή τεχνική απάντηση· εκεί ο Viktor εξηγεί και τι πήγε στραβά.

Ταχύτητα μοντέλου

Περισσότερη RAM: 45 tok/s σε πλαίσιο 164.000 tokens

Υπολογιστής: Intel Core Ultra 7 270K Plus (24 νήματα), AMD Radeon 16 GB, 62 GB RAM, πλαίσιο 262.144 tokens. Τώρα η μηχανή χρησιμοποιεί και τη RAM: 53,5 από 62 GB κατειλημμένα.

Δύο αιτήματα των περίπου 162.000 tokens: το πρώτο διαβάστηκε με 1.176 tok/s, παραγωγή 48,3 tok/s· το δεύτερο πάρθηκε σχεδόν ολόκληρο από την cache της συνομιλίας (162.199 tokens), παραγωγή 45,2 tok/s.

Ο συμβιβασμός είναι σαφής: με περισσότερη RAM η παραγωγή είναι αισθητά ταχύτερη, αλλά μένει λιγότερη μνήμη για άλλες εργασίες. Με 31 GB η μηχανή σχεδόν δεν άγγιζε τη RAM και ο υπολογιστής έμενε ελεύθερος για άλλη δουλειά.

Ταχύτητα μοντέλου

Ένας παλιός Xeon και μια Tesla P100: 19–27 tok/s

Το μοντέλο δεν χωρά στη RAM και τρέχει από τη μνήμη βίντεο (15,7 από 16 GB) και από δίσκο NVMe μέσω PCIe 3.0. Ο επεξεργαστής είναι περίπου στο 45%, η RAM σχεδόν ελεύθερη: ο υπολογιστής μπορεί να χρησιμοποιείται και για άλλη δουλειά.

Στο monitor: παραγωγή τώρα 26,9 tok/s· στο ιστορικό αιτημάτων 19,3 tok/s σε σύντομη απάντηση (253 tokens) και 25,3 tok/s σε μεγάλη (12.686 tokens σε 504,1 s). Κάρτα γραφικών στους 36 °C, 97 W από 250.

Για εμάς αυτό είναι το βασικό σημείο αναφοράς για την τιμή: ακόμη και παλιό και φθηνό υλικό, με σωστά ρυθμισμένη μηχανή, είναι ήδη κατάλληλο για πραγματική δουλειά.

Γιατί το cloud είναι επικίνδυνο

Όλα τα έγγραφα της εταιρείας στο cloud κάποιου άλλου; Είναι κίνδυνος, όχι ευκολία

Όταν συμβάσεις, προσφορές, email και τεχνογνωσία καταλήγουν σε ΤΝ στο cloud ή σε SaaS, η εταιρεία εξαρτάται από κανόνες άλλων: ο πάροχος επεξεργάζεται τα δεδομένα στους δικούς του διακομιστές, μπορεί να αλλάξει όρους χρήσης δεδομένων, τιμές και όρια, ενώ η υποδομή και οι προμηθευτές του μπορεί να πέσουν ή να παραβιαστούν. Στους αμερικανικούς παρόχους εφαρμόζεται ο CLOUD Act, και η νομική βάση των διαβιβάσεων ΕΕ–ΗΠΑ αμφισβητείται ξανά. Με το CLARYEL τα έγγραφα και η ΤΝ μένουν στο υλικό του πελάτη: κρυπτογραφημένος δίσκος, αντίγραφα ασφαλείας, κρυπτογραφημένη απομακρυσμένη πρόσβαση και βάση που μπορεί να απενεργοποιηθεί ανά πάσα στιγμή. Στις βασικές διαμορφώσεις είναι πιο αργό από το cloud, αλλά χωρίς όρια tokens και χωρίς εκπλήξεις στον λογαριασμό.1,3–5,7,9–15

Για μια ιταλική εταιρεία είναι επίσης ζήτημα εμπορικού απορρήτου: το άρθ. 98 του Κώδικα Βιομηχανικής Ιδιοκτησίας προστατεύει πληροφορίες μόνο εφόσον τηρούνται απόρρητες με «εύλογα επαρκή μέτρα». Η αποκάλυψη εμπορικού απορρήτου τιμωρείται με φυλάκιση έως 2 ετών (άρθ. 623 ιταλικού Ποινικού Κώδικα), με επιβάρυνση αν χρησιμοποιηθούν μέσα πληροφορικής.17,18

Γρήγορα εξωτερικά μοντέλα: μόνο μέσω φίλτρου

Όταν χρειάζεται, το σύστημα CLARYEL μπορεί να καλεί γρήγορα, κορυφαία εξωτερικά μοντέλα. Πριν από την αποστολή αφαιρεί από το αίτημα προσωπικά δεδομένα και εμπορικά απόρρητα, διατηρώντας το νόημα του αιτήματος. Όταν χρειάζεται, σας δείχνει το φιλτραρισμένο αίτημα και το στέλνει στο cloud μόνο μετά τη ρητή επιβεβαίωσή σας.

Το φίλτρο βοηθά στη μείωση των κινδύνων· δεν υπόσχεται 100% ανωνυμοποίηση.

Ειλικρινά: το κανάλι εντολών (Telegram) είναι εξωτερική υπηρεσία, άρα τα μηνύματα και τα φωνητικά περνούν από τους διακομιστές του Telegram. Τα έγγραφα, η βάση γνώσεων και η επεξεργασία ΤΝ μένουν τοπικά.

Πηγές

  1. BSI / Allianz für Cybersicherheit — Local AI and further alternatives (2026)
  2. CNIL — Comment déployer une IA générative ? (2024)
  3. Anthropic — Updates to Consumer Terms and Privacy Policy
  4. OpenAI — Mixpanel security incident (2025)
  5. Google Threat Intelligence — Salesloft Drift data theft (2025)
  6. Malwarebytes — AI chat app leak (2026)
  7. 18 U.S.C. § 2713 (CLOUD Act) — govinfo.gov
  8. Sénat (France) — commission d’enquête, 9 June 2025
  9. CJEU C-311/18 (Schrems II) — EUR-Lex
  10. IAPP — EDPB requests review of the EU-US Data Privacy Framework (2026)
  11. CJEU C-703/25 P (Latombe) — EUR-Lex
  12. Microsoft Licensing — Microsoft 365 pricing and packaging updates (2026)
  13. TechCrunch — new weekly rate limits (2025)
  14. AWS — US-EAST-1 service disruption summary (Oct 2025)
  15. Cloudflare — outage on 18 November 2025
  16. The Register — unauthorized API usage bills (2026)
  17. D.Lgs. 30/2005 (Codice della proprietà industriale), artt. 98–99 — Normattiva
  18. Codice penale, art. 623 — Normattiva

Γενική ενημέρωση, όχι νομική συμβουλή. Ένα τοπικό σύστημα βοηθά στη μείωση των κινδύνων· η ευθύνη για τη συμμόρφωση παραμένει στην εταιρεία.

Γιατί το cloud είναι επικίνδυνο

Δίνοντας σε έναν πράκτορα cloud τα κλειδιά της υποδομής σας, ανοίγετε την πόρτα στα πιο πολύτιμα δεδομένα

Κάθε κλειδί API, token OAuth ή tunnel που δίνεται σε πράκτορα cloud είναι μια ακόμη πόρτα για έναν επιτιθέμενο. Τα κλεμμένα διαπιστευτήρια είναι ο συχνότερος δρόμος εισόδου· μία μόνο παραβιασμένη ενοποίηση οδήγησε σε κλοπή δεδομένων σε πολλές εταιρείες· η έγχυση εντολών μπορεί να διαρρεύσει δεδομένα χωρίς κλικ· μολυσμένα πακέτα χρησιμοποιούν ήδη πράκτορες ΤΝ για να αναζητούν μυστικά. Ένας πράκτορας cloud με πρόσβαση στα μηχανήματα και τα κλειδιά σας είναι σημείο διαρροής και δρόμος προς το τοπικό σύστημα, όπου βρίσκονται όλα ή τα πιο ευαίσθητα δεδομένα. Η τοπική αρχιτεκτονική του CLARYEL μειώνει τα εξωτερικά σημεία πρόσβασης και ζητά από άνθρωπο να επιβεβαιώνει τις επικίνδυνες ενέργειες, σύμφωνα με το OWASP και τις απαιτήσεις της NIS2 για την εφοδιαστική αλυσίδα.1–7

Πηγές

  1. Verizon — 2025 Data Breach Investigations Report
  2. OWASP — Top 10 for LLM Applications 2025 (LLM01, LLM06)
  3. NIST NVD — CVE-2025-32711
  4. GitHub Security Advisory — malicious Nx versions (GHSA-cxm3-wv7p-598c)
  5. CISA — supply chain compromise in the npm ecosystem (2025)
  6. Hunt.io — CVE-2026-25253 in internet-facing AI agent gateways (2026)
  7. Directive (EU) 2022/2555 (NIS2), art. 21 — EUR-Lex
  8. BSI / Allianz für Cybersicherheit — Local AI and further alternatives (2026)
  9. EDPB — AI Privacy Risks & Mitigations: Large Language Models (2025)

Γενική ενημέρωση, όχι νομική συμβουλή. Ένα τοπικό σύστημα βοηθά στη μείωση των κινδύνων· η ευθύνη για τη συμμόρφωση παραμένει στην εταιρεία.

Γιατί το cloud είναι επικίνδυνο

Η ρύθμιση υλικού και μοντέλων μένει εσωτερικά: κανένας πράκτορας cloud κοντά στα μηχανήματά σας

Οι μετρήσεις αυτής της σελίδας έγιναν από τον πράκτορα CLARYEL στα δικά μας μηχανήματα, χωρίς να δοθεί πρόσβαση σε υπηρεσία cloud. Τα κλεμμένα διαπιστευτήρια και οι εκτεθειμένοι πίνακες πρακτόρων δείχνουν γιατί: όποιος έχει τα κλειδιά έχει το σύστημα. Η τοπική ταχύτητα εξαρτάται από το υλικό και στις μικρές διαμορφώσεις είναι χαμηλότερη από το cloud· σε αντάλλαγμα, ο όγκος εργασίας δεν περιορίζεται από τιμολόγια, ποσοστώσεις ή λογαριασμό ανά token.1,2

Πηγές

  1. Verizon — 2025 Data Breach Investigations Report
  2. Hunt.io — CVE-2026-25253 in internet-facing AI agent gateways (2026)
  3. TechCrunch — new weekly rate limits (2025)
  4. The Register — unauthorized API usage bills (2026)
  5. Stanford HAI — AI Index 2025, Technical Performance

Γενική ενημέρωση, όχι νομική συμβουλή. Ένα τοπικό σύστημα βοηθά στη μείωση των κινδύνων· η ευθύνη για τη συμμόρφωση παραμένει στην εταιρεία.