CLARYEL・実用

私たちは毎日それを使用しています

CLARYELエージェントによる当社の実際の作業は次のとおりです。会計、マシンセットアップ、インフラストラクチャ。本当のデータと星系の本当の答え。

CLARYELは毎日独自のシステムで動作します。

データはCLARYEL Box内でローカルに保管されます。

詳しい流れ

  1. 私たちはタスクを単純な言葉で設定します:音声またはメッセージで
  2. CLARYELエージェントはそれを解決し、すべての仕事を自分で行います
  3. 私たちは結果とレポートを受け取りますが、多くの場合、私たちが要求したよりも多くの結果とレポートを受け取ります

私たちから:重要なアクションのタスクと承認のみ。

Business

システムを介して音声で解決する日々の会社のタスク。

会計

請求書の確認:偽造と重複

私たちは、1年間にITにどれくらい費やしたかを尋ねました。システムは偽の請求書と重複を独自に発見し、当社の承認後に削除し、独自の数字を修正しました。

  1. 質問
  2. 修正点
  3. 修正結果
スクリーンショットの内容

問題は、昨年のITにどれくらい費やしたかということです。CLARYELのエージェントは、約€54.691と回答し、書類には偽の請求書と重複が含まれていることを独自に指摘しています。

スクリーンショットの内容

偽のデータと重複データの削除をお願いしています。エージェントは64件の偽の請求書を見つけ、強制削除の前に承認を求め、記録をクリーンアップして結果を確認します。

スクリーンショットの内容

確認された最終状態:188件の有効な請求書、€38.627,70。エージェントは以前の回答を修正しました。昨年のIT支出は€36.993,58でした。

スクリーンショットは元の言語で表示され、それぞれの下に概要が表示されます。

Before → after(スクリーンショット1~3より)

  • 64件の偽の請求書が削除されました
  • 188件の有効な請求書· €38.627,70
  • IT、昨年:≈ €54.691 → €36.993,58

本物のシステム、本物の文書、本物の金額など、すべてが本物です。私たちの日常的な使用から直接:Amazonアカウントから収集された文書、いくつかの電子メール受信トレイ、Google Drive、およびシステムの物理アーカイブ。

会計

ターンキーアカウンティング:新しいコンピュータから税務署まで

プロセス全体:コンピュータを最初からセットアップし、必要なソフトウェアであるUbuntu、Odoo、NextERPをインストールし、Amazon Businessから請求書を取得してAgenzia delle Entrateに送信します。タスクは電話から音声で与えられ、結果のみがチェックされます。

スクリーンショットの内容

スクリーンショットではなく、投稿のイラスト:7つのステップ(新しいコンピューター、Ubuntu 24.04、Docker/Python/Gitなどのソフトウェア、Odoo、NextERP、Amazon Businessの請求書、Agenzia delle Entrateへの提出)と、下部にある電話からの音声タスク。

スクリーンショットではなく、投稿のイラストです。

ERP

インターフェースを開いたことがないERP

1つのビジネスプロセスはすでに完全にエージェントを介して実行されています。電子メール、Googleドライブ、Amazonビジネス→ERPからの請求書と輸送書類、会計→税務システムの→要約レポートと銀行取引明細書の→照合です。

スクリーンショットの内容

スクリーンショットではなく、投稿のイラスト。左側には、ウィンドウと設定の山の中の人。右側には、プログラム自体と連携して完成した結果を提供するエージェントへの音声タスク。

スクリーンショットではなく、投稿のイラストです。

構成とインフラストラクチャ

ハードウェア、冷却、AIモデル、速度など、CLARYELエージェントがマシン自体をどのようにセットアップして管理するか。

冷却

GPUファン制御

私たちは簡単な言葉で尋ねました。GPUファンはグラフィックスカードの温度に従う必要があり、設定は再起動後も存続する必要があります。CLARYELエージェントは、何を制御すべきかを独自に発見し、ファンをフルスピードで1分間稼働させ、カーブを設定し、約30分で実際の再起動ですべてを確認しました。

  1. 要求プレーンテキスト、コマンドなし
  2. 偵察Z10PA-U8 · Tesla P100 · NCT7904D
  3. フルスピードで1分1468 → 5294–5421 RPM in 5 s · GPU 37 → 31 °C
  4. 曲線≤35 °C 35% → ≥85 °C 100%
  5. リブート1319 RPM、35°C:すべてが単独で戻ってきました
0%25%50%75%100%3545607585~78%35%47%67%86%100%°C
カーブ:GPU温度→ファン速度〜78%:温度センサーが応答を停止した場合のフェイルセーフモードスムーズ:5秒ごとに最大± 15%

タスクを超えて

  • 将来のマシンのスキルとして手順を保存しました。
  • fan5がGPUファンであるという結論が何に基づいているかを正直に説明しました。
  • 同じセッションでは、先ほどお尋ねしたように、マシンの名前もP1005に変更されました。
  • 私たちから:管理者権限を付与するための1つのコマンド、「準備完了」の返信、および途中の1つの確認。
  • ≈ 30分(スクリーンショットから06:26 – 06:57)
スクリーンショットの内容

リクエスト(06:26)をプレーンテキストで。エージェントは管理者権限なしで即座に偵察を開始します:Z10PA-U8ボード、Tesla P100 GPU。ファン制御インターフェースはまだありません。GPU温度読み取り可能:39°C。

スクリーンショットの内容

エージェントは、P1005の管理者権限(いつでも取り消し可能)を付与するコマンドを一度実行し、ファンを駆動するチップを見つけ、GPU温度に基づいて小さなサービスを書き込み、回転速度計に対してフルスピードで1分間チェックする計画を示します。マシンのアドレスが隠されています。

スクリーンショットの内容

計画の終了:起動時に開始され、ホストの名前をP1005に変更するサービス。制御が不可能であることが判明した場合、エージェントは正直に言います。私たちの返信«準備完了»(06:29)、次に進捗状況:制御サービス、1回の確認(06:43)、«再起動後もすべてが生き残りました»(06:49)、レポートの開始。

スクリーンショットの内容

レポート、ポイント1–3:Nuvoton NCT7904Dチップ、チャンネルマッピング(pwm2→fan5、最大約5300 RPM:P100ブロワー)、フルスピードで1分(1468 → 5294–5421 RPM in 5 s、GPU 37 → 31 °C)、および走行曲線。

スクリーンショットの内容

レポート、ポイント4とまとめ:ドライバとサービスが自動的に開始され、実際の再起動(fan5は1319 RPM、GPUは35°C、Strataは単独で戻ってきました、ポート8080リスニング)、ホスト名P1005、GPUファンがどのように識別されたかについての正直なメモ、および手順がスキルとして保存されました。

スクリーンショットは元の言語で表示され、それぞれの下に概要が表示されます。

設定

音声による技術的な質問

実用的なタスク:ボイスメッセージで、システムがどのように設定されているかを尋ねました。ハードウェア、ディスク、AIモデル、スピードなど、当社のマシンからの実際のデータで回答しました。アイテムがはっきりしていない場合は、すぐにそれが何を意味するのかを尋ねてください。

スクリーンショットの内容

構成に関する音声質問への回答:プロセッサ、メモリ、GPU、ディスク、ソフトウェアバージョン、AIモデル、測定速度(〜44–48トークン/秒)を備えた2台のマシン、claryel01とP2002。下部には、フォールバックモデルに関する行があります(クラウドフォールバック:xAI Grok 4.7)。

このジョブでは、バックアップモデルは外部(Grok)であり、フィルターはありませんでした。当社のローカルシステムではこれは許容できないため、バックアップモデルは2つ目のローカルモデルに置き換えられました。今日、クラウドモデルはフィルタを介してのみ呼び出され、必要に応じて、ユーザーの明示的な確認後に呼び出されます。

機械フリート

3台のマシン、1人のエージェント

Strataを実行しているすべてのマシンの短いプロファイルを要求しました。CLARYELエージェントはネットワーク自体をチェックし、3台のマシンを見つけ、それぞれが収集したメモリ、ディスク、GPU、Strataとモデルのバージョン、および速度を確認しました。3つすべてが1人のエージェントによって駆動されます。

生成速度

  • P2002main62 GiB DDR5 · AMD RDNA4 16 GiB46.8 tok/s
  • Mac Studio最速256 GB LPDDR5X · M3 Ultra60.0 tok/s
  • P1005バックグラウンドジョブ用31 GiB DDR4 · Tesla P100 16 GB16.2 tok/s

3つすべてについて:Strata v0.1.45 · Qwen3.8-Flash-Next IQ3_S · context 262 144

スクリーンショットの内容

私たちの要求(07:47)と答えの始まり:ネットワークがチェックされました。3台のマシンがあります。1つ目はP2002:62 GiB DDR5、Lexar NM1090 PRO 2 TB、16 GiBのAMD RDNA4、Strata v0.1.45、Qwen3.8-Flash-Next IQ3_S、46.8 tok/sです。住所は隠されています。

スクリーンショットの内容

Mac Studio:256 GB LPDDR5X(M3 Ultra)、2 TB SSD、60.0 tok/s、最速。P1005:バックグラウンドジョブの場合、31 GiB DDR4、Tesla P 100 16 GB、16.2 tok/s。概要:claryel01の1人のエージェントが3つすべてを駆動し、どこでも同じモデル。フォールバックP2002 → Mac Studio → Grok。住所は網羅されています。

このジョブでは、バックアップモデルは外部(Grok)であり、フィルターはありませんでした。当社のローカルシステムではこれは許容できないため、バックアップモデルは2つ目のローカルモデルに置き換えられました。今日、クラウドモデルはフィルタを介してのみ呼び出され、必要に応じて、ユーザーの明示的な確認後に呼び出されます。

インストール

新しいマシン上の階層:エージェントはすべての落とし穴自体を処理しました

Mac Studio(M3 Ultra、256 GB)でStrata v0.1.45を実行したときに何が問題だったのかを尋ねました。CLARYELエージェントは、ソースからエンジンを構築し、修正を見つけて適用し、79 GBモデルを移動し、エンジンのバグを独自に回避しました。

スクリーンショットの内容

Mac StudioでのStrataの難しさについての質問(05:16)。答え、ポイント1–3:既製のMacビルド、壊れた0.1.45ビルド、およびPR # 2895からの修正は、79 GBモデルの移動に関するストーリーの始まりです。

スクリーンショットの内容

ポイント3–6:モデルの移動(Starlink〜6.5 MB/s、ネットワーク〜11 MB/s、2時間05分でP2002からrsync)、モデル名の文字大文字小文字の間違い、エンジンのバグ「every request 400」、および--no - prefill - borrow回避策、ポート8080の古いプロセスとの混同。

スクリーンショットの内容

ポイント6–7とその結果:最初の起動時に「ハングアップ」(ディスクから55 GBを読み取る約10分)、世代別にMac ≈ P2002(約58対約57トークン/秒)、プリフィル+36%、strata - mac - deployスキルに保存されたすべて。

スクリーンショットは元の言語で表示され、それぞれの下に概要が表示されます。

更新

エージェントは自身の「脳」のエンジンを更新しました

Telegramでは、CLARYELエージェントに、それ自体で動作するマシンであるP2002のStrataを更新するよう依頼しました。エージェントはセーフティネットでアップデートを開始し、最後のステップで障害を修正し、前後の速度を正直に比較しました。

スクリーンショットの内容

バージョンの質問(04:30)、回答(P2002のv0.1.43.1、GitHubのv0.1.45)、および「自分自身を更新する」コマンド(04:31)。エージェントは、計画を説明します。アップデートはそれ自体とは別に実行され、ウォッチドッグは0.1.43.1に自動ロールバックされます。

スクリーンショットの内容

04:46にフォールバックモデル(grok-4.7)への切り替えに関する行。レポート:v0.1.45のコード、エンジン構築(34 MB、0エラー)、ファイル置換失敗(「テキストファイルビジー」)、エージェントはそれ自体を修正します。以下:スキルのアップデートノートと現在のバージョン(04:50)に関する質問。

スクリーンショットの内容

答え:P2002はStrata v0.1.45を実行し、古い0.1.43.1はバックアップとして保持され、モデルQwen3.8-Flash-Next IQ3_S、コンテキスト262,144。更新前後の速度測定。

スクリーンショットの内容

エージェントの読み:プリフィルが明確に改善され(1回の実行で最大+80%)、2回の新規実行で生成が約10〜20%低下します。エージェントはさらに3〜4回の実行を提供し、減速が確認された場合はロールバックを提供します。

スクリーンショットは元の言語で表示され、それぞれの下に概要が表示されます。

このジョブでは、バックアップモデルは外部(Grok)であり、フィルターはありませんでした。当社のローカルシステムではこれは許容できないため、バックアップモデルは2つ目のローカルモデルに置き換えられました。今日、クラウドモデルはフィルタを介してのみ呼び出され、必要に応じて、ユーザーの明示的な確認後に呼び出されます。

モニタリング

自宅とコンピューターの朝のチェック

午前中、CLARYELエージェントはHome Assistantスマートホームセンサー、バックアップ、ディスクの状態、接続されているコンピュータの温度を単独でチェックし、注意が必要なことのみを報告します。

スクリーンショットの内容

スクリーンショットではなく、投稿のイラスト:モーニングチェックの結果—コンピューターが28.8°Cの部屋、20%(オフィス)と30%(テラス)のセンサーバッテリー、チェックする価値のあるオン状態の「LEO」ドアセンサー。

スクリーンショットの内容

スクリーンショットではなく、投稿のイラスト:チェーンStrata v0.1.43 → Qwen3.8-Flash-Next(IQ3_S)→エージェント→Home Assistantセンサー、バックアップ、ディスク、コンピュータ温度。下部にはサポートツール(Telegram、ChatGPT、ChatGPT Go + Codex、Grok 4.7)。

スクリーンショットではなく、投稿のイラストです。

このジョブでは、バックアップモデルは外部(Grok)であり、フィルターはありませんでした。当社のローカルシステムではこれは許容できないため、バックアップモデルは2つ目のローカルモデルに置き換えられました。今日、クラウドモデルはフィルタを介してのみ呼び出され、必要に応じて、ユーザーの明示的な確認後に呼び出されます。

ハードウェアとモデルの速度

古いTesla P100から新しいRadeonまで、同じモデルが異なるハードウェアでどのように動作するか。数値は画面からのみ表示されます。

モデル速度

RAMがほぼ空いている31トークン/秒:モデルはSSDから読み取られます

Strata v0.1.41、Qwen3.8-Flash-Next IQ3_XXS、16 GB Radeon、31 GBのRAM。12,136トークンの応答は31トークン/秒で、使用中のRAMはわずか3.2 GBです。

スクリーンショットの内容

Strataモニター:世代31.0 tok/s、プレフィル43 tok/s、VRAM 15.7/16 GB、GPU 45°C、コンテキスト19%フル(64kの12k)、1つの要求:396.3秒で12,136トークン。RAM 3.2/31 GB。

スクリーンショットの内容

モデルとエンジン:qwen3.8-flash-next-iq3_xxs、v0.1.41、コンテキスト65,536トークン、VRAMの8ビットKVキャッシュ、VRAMの専門家5,681人(9.2 GB)。コンピュータ:AMD Radeon 16 GB、Intel Core Ultra 7 270K Plus(24スレッド)、31 GB RAM。

スクリーンショットの内容

選択されたStrata設定:Qwen3.8-Flash-Next、IQ3_XXS、コンテキスト64K、8ビットKVキャッシュ、イメージオフ、低RAMモード(31 GB RAM、エキスパートはSSDから部分的に読み取り)、AMD Radeon RX 9070(〜16 GB VRAM)、モデルファイル〜47 GB。

スクリーンショットは元の言語で表示され、それぞれの下に概要が表示されます。

モデル速度

256Kコンテキスト:1つの16 GB GPUで26件のリクエスト

262,144トークンコンテキストで、Qwen3.8-Flash-Next IQ3_SでStrata v0.1.41を実行しました。最大14,829トークンに対応し、31 GBのRAMのうち3.3が使用されています。このモデルはほぼすべてビデオメモリで動作します。

スクリーンショットの内容

ビデオからのフレーム:モデルは、Mixture - of - Expertモデルがどのように機能するか(エキスパートルーティング、KVキャッシュ、メモリ階層)についての長い技術的な回答を書きます。動画全文は元の投稿にあります。

スクリーンショットの内容

Strataモニター:最後のリクエスト生成14.8 tok/s、プリフィル112 tok/s、VRAM 15.8/16 GB、コンテキスト62%(162k/256k)、RAM 3.3/31 GB。リクエストテーブルでは、13.0 to 19.6 tok/sから生成され、最大14,829トークンに応答します。合計:26リクエスト。

スクリーンショットの内容

モデルとエンジン:qwen3.8-flash-next-iq3_s、v0.1.41、コンテキスト262,144トークン、VRAMの8ビットKVキャッシュ、VRAMの専門家3,114人(6.0 GB)。コンピュータ:AMD Radeon 16 GB、Intel Core Ultra 7 270K Plus(24スレッド)、31 GB RAM。

スクリーンショットは元の言語で表示され、それぞれの下に概要が表示されます。

動画は元の投稿にあります。これはそのフレームです。

モデル速度

より多くのRAM:164,000トークンコンテキストで45トークン/秒

より多くのRAM(システム内の62 GB)を備えた同じマシン。Qwen3.8-Flash-Next IQ3_Sを使用したStrata v0.1.43:コンテキスト63%が満たされた状態で45.2トークン/秒で生成。

スクリーンショットの内容

Strataモニター:ジェネレーション45.2トークン/秒、プレフィル94トークン/秒、VRAM 15.9/16 GB、GPU 44°C、コンテキスト63%(164k/256k)、RAM 53.5/62 GB。約162,000トークンの2つのリクエスト、プレフィル1,176トークン/秒、ジェネレーション48.3および45.2トークン/秒。

スクリーンショットの内容

モデルとエンジン:qwen3.8-flash-next-iq3_s、v0.1.43、コンテキスト262,144トークン、VRAMの8ビットKVキャッシュ、VRAMの専門家3,114人(6.0 GB)。コンピュータ:AMD Radeon 16 GB、Intel Core Ultra 7 270K Plus(24スレッド)、62 GB RAM。

スクリーンショットは元の言語で表示され、それぞれの下に概要が表示されます。

モデル速度

古いXeonとTesla P100:19–27トークン/秒

最も控えめな構成:Intel Xeon E5–2690 v4、31 GB RAM、Tesla P100 16 GB GPU。Qwen3.8-Flash-Next IQ3_Sを搭載したStrata v0.1.45は、わずか2.2 GBのRAMで19–27トークン/秒を提供します。

スクリーンショットの内容

Strataモニターとhtop:世代26.9トークン/秒、Tesla P100ロード100%、VRAM 15.7/16 GB、97 W、PCIe Gen3 x16、CPU 45%、ディスク読み取り164 MB/秒、RAM 2.2/31 GB。リクエスト:19.3トークン/秒(253トークン)および25.3トークン/秒(12,686トークン、504.1秒)。

スクリーンショットの内容

モデルとエンジン:qwen3.8-flash-next-iq3_s、v0.1.45、コンテキスト262,144トークン、VRAMの8ビットKVキャッシュ、VRAMの専門家3,051人(5.8 GB)。コンピュータ:Tesla P100 16 GB、Intel Xeon E5-2690 v4(28スレッド)、31 GB RAM。

スクリーンショットは元の言語で表示され、それぞれの下に概要が表示されます。

会計

請求書の確認:偽造と重複

3つのステップで、ERPの実際のシナリオをご紹介します。

  1. 質問

    過去1年間にITに費やした金額をお尋ねします。システムは(≈ €54.691)に応答し、単独で偽の請求書と重複のフラグを立てます。

  2. 修正点

    偽のデータと重複データの削除をお願いしています。強制的に削除する前に、当社の承認を求め、クリーンアップして検証します。

  3. 修正結果

    €38.627,70の188の有効な請求書。修正図:€36.993,58:システムはそれ自体で以前の回答を修正し、最終的な状態を確認します。

Before → after(スクリーンショット1~3より)

  • 64件の偽の請求書が削除されました
  • 188件の有効な請求書· €38.627,70
  • IT、昨年:≈ €54.691 → €36.993,58

ERPからの実際のシナリオ:IT支出について尋ねると、システムは偽の請求書と重複を独自に見つけ、承認後に削除し、結果を検証し、以前の数字を修正します。

ドキュメントの削除は安全です。データはバックアップされ、ロールバックを伴う変更履歴があり、銀行取引明細書などの恒常的な照合が行われます。

冷却

GPUファン制御

スクリーンショット1のタスク:GPUファンはマザーボードに接続されています。GPUの温度に従い、フルスピードで1分間実行して制御が動作することを確認し、最適なレベルを取得し、再起動後にすべてが自動的に動作する必要があります。

  1. 要求

    通常のTelegramメッセージで、技術的なコマンドはありません。

  2. 偵察

    まず、管理者権限なしで、エージェントはZ10PA-U8ボード、Tesla P100 GPU、GPU温度読み取り可能(39°C)を確立しましたが、ファンを駆動するものはまだありません。単一のコマンドで管理者権限を要求し、計画をレイアウトしました。アクセスすると、Nuvoton NCT7904Dチップ(9つのタコメーター入力、4つのPWMチャンネル)が見つかり、各チャンネルを0から255まで掃引して、それらを一致させました:pwm2 fan → 5、最大約5300 RPM、これはP 100ブロワーです。他の3つのチャンネルはBIOS自動制御のままでした。

  3. フルスピードで1分

    pwm2 = 255 60秒間:5秒以内に、fan5は1468から5294–5421 RPMになり、GPUは37から31 °Cに低下しました。その後、制御は曲線(255 → 195 → 90)に戻り、タコメーターの測定値はそれが機能することを確認します。

  4. 曲線

    ≦ 35 ℃ → 35%、45 ℃ → 47%、60 ℃ → 67%、75 ℃ → 86%、85 ℃以上→100%(P100は91 ℃でスロットルするため、ヘッドルームがあります)。速度は5秒ごとに最大± 15%スムーズに変化します。nvidia - smiが応答を停止すると、ファンは約78%のフェイルセーフになります。

  5. リブート

    ドライバは自動的にロードされ、コントロールはブート時に開始されるサービスとして実行されます。エージェントは実際にマシンを再起動し、モジュールがロードされ、サービスがアクティブ、fan5が1319 RPM、GPUが35 ℃であることを最初から確認しました。

タスクを超えて

  • 将来のマシンのスキルとして手順を保存しました。
  • fan5がGPUファンであるという結論が何に基づいているかを正直に説明しました。
  • 同じセッションでは、先ほどお尋ねしたように、マシンの名前もP1005に変更されました。
  • 私たちから:管理者権限を付与するための1つのコマンド、「準備完了」の返信、および途中の1つの確認。
  • ≈ 30分(スクリーンショットから06:26 – 06:57)

設定

音声による技術的な質問

実用的なタスク:ボイスメッセージで、システムがどのように設定されているかを尋ねました。ハードウェア、ディスク、AIモデル、スピードなど、当社のマシンからの実際のデータで回答しました。アイテムがはっきりしていない場合は、すぐにそれが何を意味するのかを尋ねてください。

答えは次のとおりです。claryel01とP2002の2台のマシン、プロセッサ、メモリ、GPU、ディスク、ソフトウェアバージョン、AIモデル、測定速度。

このジョブでは、バックアップモデルは外部(Grok)であり、フィルターはありませんでした。当社のローカルシステムではこれは許容できないため、バックアップモデルは2つ目のローカルモデルに置き換えられました。今日、クラウドモデルはフィルタを介してのみ呼び出され、必要に応じて、ユーザーの明示的な確認後に呼び出されます。

専門用語が明確ではありませんか?会話の中ですぐにシステムに尋ねてください。わかりやすい言葉で説明されています。

機械フリート

3台のマシン、1人のエージェント

スクリーンショット1(07:47)のリクエスト:Strataを実行している各マシンについて、メモリサイズとタイプ、NVMe、GPU、ビデオメモリ、Strataのバージョン、モデル、エージェントのバージョン、およびそのマシン上のモデルの速度。英語での短い回答。

エージェントはネットワーク自体をスキャンし、3台のマシンがあることを確認しました(他のアドレスはプリンタとMacのWi - Fiポートです)。すべての3つは、同じQwen3.8-Flash-Next IQ3_Sモデル(コンテキスト262 144)でStrata v0.1.45を実行するため、どのマシンがそれらを提供しても答えは一貫しています。

生成速度

  • P2002main62 GiB DDR5 · AMD RDNA4 16 GiB46.8 tok/s
  • Mac Studio最速256 GB LPDDR5X · M3 Ultra60.0 tok/s
  • P1005バックグラウンドジョブ用31 GiB DDR4 · Tesla P100 16 GB16.2 tok/s

3つすべてについて:Strata v0.1.45 · Qwen3.8-Flash-Next IQ3_S · context 262 144

生成速度:P2002 46.8 tok/s、Mac Studio 60.0 tok/s(最速)、P1005 16.2 tok/s:メモリ31 GBの78 GBモデルなので、このマシンはバックグラウンドジョブを処理します。3つすべてがclaryel01の1つのエージェントインスタンスによって駆動され、フォールバックはチェーンP 2002 → Mac Studio → Grokに従います。

このジョブでは、バックアップモデルは外部(Grok)であり、フィルターはありませんでした。当社のローカルシステムではこれは許容できないため、バックアップモデルは2つ目のローカルモデルに置き換えられました。今日、クラウドモデルはフィルタを介してのみ呼び出され、必要に応じて、ユーザーの明示的な確認後に呼び出されます。

会計

ターンキーアカウンティング:新しいコンピュータから税務署まで

Viktorはすでにクラウドエージェントでこのプロセスを経ており、ソフトウェアインターフェイスにはほとんど触れていません。音声でタスクを実行し、結果を確認しています。現在、このような実際のプロセスをCLARYELローカルAIに移行しています。

手順:→ Ubuntuから新しいコンピューターを一から作成し、→必要なソフトウェアをセットアップします。→ →OdooアカウンティングNextERP Amazon Businessの→送信からAgenzia delle Entrateに請求書を→インポートします。

最初の観察:ローカルでは、このようなタスクはクラウドよりも時間がかかります。最初に箱から出して何がうまくいくかを見て、次に最適化します。

スクリーンショットではなく、投稿のイラストです。

ERP

インターフェースを開いたことがないERP

私たちはボタンやメニューを研究しません。API、MCPを介して、またはエージェント自身のコンピュータを操作することによって、エージェントにソフトウェアをインストールし、必要な機能を実行するよう依頼します。インターフェースではなく、結果が必要です。

プロセスは、電子メール、Googleドライブ、Amazonビジネスアカウントから請求書と輸送書類を収集し、ERPと会計に入力し、データを税務システムに渡し、サマリーレポートを作成し、すべてをGoogleドライブにもある銀行の明細書と照合します。

設定は同じように機能します。それぞれを把握するのではなく、エージェントに「このように機能する必要があります。実行し、確認し、結果を教えてください」と伝えます。タスクを設定し、結果を確認します。これはまだすべてのプログラムで完全に機能するわけではありません。

スクリーンショットではなく、投稿のイラストです。

インストール

新しいマシン上の階層:エージェントはすべての落とし穴自体を処理しました

既製のMacビルドはありません。Metalエンジンはソースからコンパイルされます(約5〜15分)。0.1.45 MACビルドが壊れていることが判明しました。エージェントは開いているPR # 2895を見つけ、リリースに適用し、再構築が完了しました。

79 GBモデル:Starlink経由のHuggingFaceを介して約6.5 MB/s(約3.4時間)で実行されていたため、エージェントは2時間05分でSSHエージェント転送を使用してP2002からrsyncでコピーしました。その後、エンジンへのすべての要求が400を返しました。エージェントはソースコードで--no - prefill - borrow回避策を見つけました。

結果:生成時にMAC ≈ P2002(〜58対〜57トークン/秒)、プリフィル時に明らかに高速(+36%)。エージェントは、strata - mac - deployスキルのすべての落とし穴を保存したため、繰り返しはほぼコピーになります。

更新

エージェントは自身の「脳」のエンジンを更新しました

質問(04:30):「脳」が実行するStrataバージョンと、GitHubの最新バージョン。解答:P2002はv0.1.43.1を実行し、最新版はv0.1.45(2026年10月17日リリース)です。エージェントは、アップデートがそれ自身で動作するエンジンを再起動すると警告しました。数分間のダウンタイムで、セーフティネットとしてロールバックされます。

「自分自身を更新する」(04:31)コマンドで、エージェントはそれ自体とは別に更新→を開始しました。HIP 0.1.45エンジン→サービスの再起動のgitプルビルド、ウォッチドッグはエンジンを5分間チェックし、起動しない場合は0.1.43.1にロールバックします。ビルドはクリーンでした(34 MB、0エラー)が、実行中のファイルの交換に失敗し(「テキストファイルビジー」)、エンジンが停止しました。エージェントは古いファイルをバックアップとして保持し、新しいファイルを手動でインストールしてサービスを再起動しました。

確認(04:50):v0.1.45が稼働中、モデルQwen3.8-Flash-Next IQ3_S、コンテキスト262,144。同じスクリプトでの速度:短い回答31.0(以前は33.5–33.7)、1024トークン生成47.7 / 44.4(以前は53.0–60.1)、1.5Kプリフィル874 / 531(以前は488–490)。エージェントの判断:プリフィルは明らかに改善、生成は2回の実行で約10–20%低下。2回だけでは回帰とは判断せず、さらに3–4回の実行と、低下が確認された場合の0.1.43.1へのロールバックを提案しています。

このジョブでは、バックアップモデルは外部(Grok)であり、フィルターはありませんでした。当社のローカルシステムではこれは許容できないため、バックアップモデルは2つ目のローカルモデルに置き換えられました。今日、クラウドモデルはフィルタを介してのみ呼び出され、必要に応じて、ユーザーの明示的な確認後に呼び出されます。

モニタリング

自宅とコンピューターの朝のチェック

写真の設定:Strata v0.1.43 + Qwen3.8-Flash-Next (IQ3_S) +エージェント。エージェントはHome Assistantセンサー(温度、湿度、動き、光、エネルギー)を読み取り、バックアップ、ディスク、コンピュータの温度を確認します。私たちはTelegramを介してそれと話をします。

チェックでわかったこと:コンピューターのある部屋は28.8 ℃で、他の部屋よりも顕著に暖かいため、換気と冷却をチェックする必要があります。オフィス(20%)とテラス(30%)のセンサーバッテリーを交換する必要があります。「LEO」ドアセンサーがオンに表示されますが、読み取り値が古くなっている可能性があり、現場でチェックする必要があります。

ヴィクターはホームアシスタントのインターフェースも開かなかった。その日のサポートツール:ChatGPTが投稿の絵を描き、ChatGPT Go + Codexがセットアップを手伝い、エージェントは時折複雑な推論のための追加モデルとしてGrok 4.7を使用しました。

このジョブでは、バックアップモデルは外部(Grok)であり、フィルターはありませんでした。当社のローカルシステムではこれは許容できないため、バックアップモデルは2つ目のローカルモデルに置き換えられました。今日、クラウドモデルはフィルタを介してのみ呼び出され、必要に応じて、ユーザーの明示的な確認後に呼び出されます。

スクリーンショットではなく、投稿のイラストです。

モデル速度

RAMがほぼ空いている31トークン/秒:モデルはSSDから読み取られます

設定:モデルQwen3.8-Flash-Next IQ3_XXS(〜47 GB)、コンテキスト64K(65,536トークン)、8ビットKVキャッシュ、低RAMモード:モデルの「エキスパート」の一部がSSDから読み取られます。GPU:AMD Radeon RX 9070、約16 GB。

Strataモニターでの結果:396.3秒で12,136トークン、世代31.0トークン/秒、16 GBのVRAM 15.7、31 GBのRAM 3.2、GPU 45 °C。5,681「エキスパート」(9.2 GB)がビデオメモリに格納され、残りはディスクから読み取られます。

テイクアウト:エンジンはビデオメモリに最も重要なものを保持し、高速SSDから残りを読み取るため、大型モデルは大量のRAMなしで動作します。これは、ローカルAIのためのはるかに手頃な価格のコンピュータへの道です。

モデル速度

256Kコンテキスト:1つの16 GB GPUで26件のリクエスト

目標は単純でした。後でさまざまなハードウェアでそのような実行を自動化する方法と、比較のために結果をフォーマットする方法を理解することでした。マシン:Intel Core Ultra 7 270K Plus、31 GB RAM、AMD Radeon 16 GB。

日曜日の朝(09:44)以来の合計:26のリクエスト、169,326のプロンプトトークンが108トークン/秒で読み取られ(別の1,923,247は会話キャッシュから取得)、166,539のトークンが平均20.5トークン/秒で書き込まれました。コンテキストは62%フル(256kの162k)です。

すべてがスムーズに進んだわけではありません。リストには、1件のリクエストが「クローズ済み」、1件のリクエストが「停止済み」と表示されます。元の投稿のビデオは、モデルが長い技術的な答えを書いていることを示しています。そこでViktorは何がうまくいかなかったのかも説明しています。

モデル速度

より多くのRAM:164,000トークンコンテキストで45トークン/秒

コンピュータ:Intel Core Ultra 7 270K Plus(24スレッド)、AMD Radeon 16 GB、62 GB RAM、コンテキスト262,144トークン。現在、エンジンもRAMを使用しています。62 GBのうち53.5 GBが使用されています。

それぞれ約162,000トークンの2つのリクエスト:1つ目は1,176トークン/秒で読み取られ、生成は48.3トークン/秒です。2つ目はほぼ完全に会話キャッシュ(162,199トークン)、生成は45.2トークン/秒です。

トレードオフは明らかです。RAMの生成が多いほど顕著に速くなりますが、他のタスクに残されるメモリは少なくなります。31 GBでは、エンジンはほとんどRAMに触れず、コンピューターは他の作業のために空いたままでした。

モデル速度

古いXeonとTesla P100:19–27トークン/秒

このモデルはRAMに収まらず、ビデオメモリ(16 GBの15.7)とPCIe 3.0上のNVMeドライブから実行されます。CPUは約45%、RAMはほぼ空いているので、コンピュータは他の作業にも使用できます。

モニターでは、現在26.9トークン/秒を生成しています。リクエスト履歴では、ショートアンサーでは19.3トークン/秒(253トークン)、ロングアンサーでは25.3トークン/秒(504.1秒で12,686トークン)です。GPU at 36 °C, 97 W of 250.

私たちにとって、これは主要な価格ベンチマークです。適切に構成されたエンジンを搭載した古い、安価なハードウェアでさえ、すでに実際の作業に適しています。

クラウドを危険にするもの

他の人のクラウドにあなたの会社のすべての文書がありますか?それはリスクであり、利便性ではありません

契約、見積もり、電子メール、ノウハウがクラウドAIまたはSaaSになると、会社は他の誰かのルールに依存します。プロバイダーは独自のサーバーでデータを処理し、データ使用条件、価格、制限を変更でき、インフラストラクチャやサプライヤーがダウンしたり、違反したりする可能性があります。クラウド法は米国のプロバイダーに適用され、EUと米国の移転の法的根拠が再び疑問視されています。CLARYELを使用すると、暗号化されたディスク、バックアップ、暗号化されたリモートアクセス、いつでもオフにできるデータベースなど、ドキュメントとAIをお客様のハードウェアに保存できます。基本的な構成では、クラウドよりも遅くなりますが、トークンの制限はなく、請求書に驚きもありません。1,3–5,7,9–15

イタリアの企業にとっては、企業秘密の問題でもあります。工業所有権法第98条は、情報が「合理的に適切な措置」を講じて秘密にされている場合にのみ情報を保護します。企業秘密を開示すると、最大2年の懲役刑が科せられ(刑法第623条)、IT手段を使用すると刑期が延長されます。17,18

高速外部モデル:フィルタを介してのみ

必要に応じて、CLARYELシステムは高速で最先端の外部モデルを呼び出すことができます。送信する前に、その意味を保ちながら、要求から個人データと企業秘密を削除します。必要に応じて、フィルタリングされたリクエストが表示され、明示的な確認後にのみクラウドに送信されます。

フィルターはリスクを軽減するのに役立ちます。100%匿名化を約束するものではありません。

正直なところ、コマンドチャネル(Telegram)は外部サービスであるため、メッセージと音声メモはTelegramのサーバーを通過します。ドキュメント、ナレッジベース、AI処理はローカルのままです。

ソース

  1. BSI / Allianz für Cybersicherheit — Local AI and further alternatives (2026)
  2. CNIL — Comment déployer une IA générative ? (2024)
  3. Anthropic — Updates to Consumer Terms and Privacy Policy
  4. OpenAI — Mixpanel security incident (2025)
  5. Google Threat Intelligence — Salesloft Drift data theft (2025)
  6. Malwarebytes — AI chat app leak (2026)
  7. 18 U.S.C. § 2713 (CLOUD Act) — govinfo.gov
  8. Sénat (France) — commission d’enquête, 9 June 2025
  9. CJEU C-311/18 (Schrems II) — EUR-Lex
  10. IAPP — EDPB requests review of the EU-US Data Privacy Framework (2026)
  11. CJEU C-703/25 P (Latombe) — EUR-Lex
  12. Microsoft Licensing — Microsoft 365 pricing and packaging updates (2026)
  13. TechCrunch — new weekly rate limits (2025)
  14. Cloudflare — outage on 18 November 2025
  15. The Register — unauthorized API usage bills (2026)
  16. D.Lgs. 30/2005 (Codice della proprietà industriale), artt. 98–99 — Normattiva
  17. Codice penale, art. 623 — Normattiva

法的アドバイスではなく、一般的な情報。ローカルシステムはリスクを軽減するのに役立ちます。コンプライアンスは引き続き会社の責任です。

クラウドを危険にするもの

クラウドエージェントにインフラストラクチャの鍵を与えることで、最も貴重なデータへの扉が開きます

クラウドエージェントに与えられたすべてのAPIキー、OAuthトークン、またはトンネルは、攻撃者にとってもう1つの扉です。資格情報の盗難が最も頻繁に発生します。単一の侵害された統合は、多くの企業でデータ盗難につながりました。プロンプトインジェクションはクリックすることなくデータを漏洩する可能性があります。感染したパッケージはすでにAIエージェントを使用して秘密を探しています。マシンとキーにアクセスできるクラウドエージェントは、すべての、または最も機密性の高いデータが存在するローカルシステムへのリークポイントとパスです。ローカルCLARYELアーキテクチャは、OWASPとNIS2サプライチェーン要件に沿って、外部アクセスポイントを削減し、リスクのあるアクションを確認するように依頼します。1–7

ソース

  1. Verizon — 2025 Data Breach Investigations Report
  2. OWASP — Top 10 for LLM Applications 2025 (LLM01, LLM06)
  3. NIST NVD — CVE-2025-32711
  4. GitHub Security Advisory — malicious Nx versions (GHSA-cxm3-wv7p-598c)
  5. CISA — supply chain compromise in the npm ecosystem (2025)
  6. Hunt.io — CVE-2026-25253 in internet-facing AI agent gateways (2026)
  7. Directive (EU) 2022/2555 (NIS2), art. 21 — EUR-Lex
  8. BSI / Allianz für Cybersicherheit — Local AI and further alternatives (2026)
  9. EDPB — AI Privacy Risks & Mitigations: Large Language Models (2025)

法的アドバイスではなく、一般的な情報。ローカルシステムはリスクを軽減するのに役立ちます。コンプライアンスは引き続き会社の責任です。

クラウドを危険にするもの

ハードウェアとモデルのチューニングは内側にとどまります:マシンの近くにクラウドエージェントはありません

このページの測定は、クラウドサービスへのアクセスを許可することなく、当社独自のマシン上でCLARYELエージェントによって行われました。盗まれた認証情報と暴露されたエージェントパネルは、その理由を示しています。誰がキーを保持しているかがシステムを保持しています。ローカル速度はハードウェアに依存し、小規模な構成ではクラウドよりも低くなります。代わりに、作業量は関税、クォータ、またはトークンごとの請求書によって制限されることはありません。1,2

ソース

  1. Verizon — 2025 Data Breach Investigations Report
  2. Hunt.io — CVE-2026-25253 in internet-facing AI agent gateways (2026)
  3. TechCrunch — new weekly rate limits (2025)
  4. The Register — unauthorized API usage bills (2026)
  5. Stanford HAI — AI Index 2025, Technical Performance

法的アドバイスではなく、一般的な情報。ローカルシステムはリスクを軽減するのに役立ちます。コンプライアンスは引き続き会社の責任です。