發表文章

目前顯示的是 4月, 2026的文章

做一個 Edge AI Orchestrator

圖片
當地端的LLM 越來越多,就可分配更多不同的任務,要注意的是 手機 ≠ server node。 然而手機會越來越多,那就做一個類似k8s的概念平台吧,透過一個平台來管理。(架構圖)  Edge AI Orchestrator (架構圖) (未完待續...) --------- 注意事項: 手機 ≠ server node : sleep / suspend thermal throttling network jump (WiFi → 4G) background kill

舊手機當小型地端qwen-2.5-3b-Q4,adb 連線版,經驗筆記

圖片
由於有多的手機,也沒有再用,所以就直接把它當小型地端來跑,那這一台是「華為 -ele29 」。 網路就是在同一個網路,家中 wifi,同個網路 。 這次直接走adb 的方式,也不用Termux。使用 Termux要做的事情太多了,既然都走TCP 連線 ,就可直接用adb 了,本質上就是 scoket  連線 scoket 。(流程圖) 流程圖  ----------- 正文開始 1. 透過adb push llama-cli (圖1) 2. 透過adb push qwen2.5-3b 透過 adb push llama-cli (圖1) 3.  確定要對聯的 tcp 有沒有被佔線。有佔線就kill 。前置作業執行完成後 就可TCP連線了(圖2)。 透過 adb tcp 互聯 (圖2) 4. 看一下 localhost:8080 有沒有成功出現,裝在手機的 qwen2.5 -3b (圖3) localhost:8080 顯示 qwen2.5 (圖3) 5. 寫的test,從master 發測試指令(圖4) 從master 發測試指令 到 p30 (圖4) 執行成果: 

自製bloger CTA 排版小工具的心得感想,經驗日記

圖片
 最近做了google bloger 的 CTA 工具,可以針對文章一鍵編排成html 排版,google bloger html有自己的特定格式,所以在寫html 的scope要寫好,避免bloger 外殼樣式 影響到 內文樣式,內文樣式影響到 外殼樣式、內文的html 一律加 前墜 ${_prefix} ,界定範圍。 換成 wordpress 也是一樣。 ---------- - **外 → 內**:Blogger 主題的 `.post-body a`、`li`、`h2` 等樣式不得影響 landing page - **內 → 外**:landing page 的 CSS 不得外溢影響 Blogger 其他區塊(sidebar、header、其他文章) 關於排版CTA的小工具,我寫了2個版本比較使用差異(圖1):手動貼prompt  (圖2) 、 背景自動帶prompt (圖3)、 。 2個版本比較使用差異(圖1) 手動貼prompt 手動貼prompt (圖2) 背景自動帶prompt 背景自動帶prompt (圖2) 我用了一些不同openAI  開源的模型 來比較(強弱), 發現「手動貼prompt 」給openAI 的方式效果回傳的html 比較好。 現在這樣滿方便的 :D  至少不用寫完文章後,於 AI 下prompt 產html ,來回一直改。 可直接一鍵產生了

最近閒來無事,正在提升自己垂直技能,心情日記

 由於垂直技能有些薄弱,於是每天要做的事就是強化自我,不是在於工具而是在於底層的馬步有沒有扎穩。 前一陣子先是看了k8s、這一陣子又再重新翻了Linux 、網路七層、nginx, 真的覺得很好玩。 Nginx 的 LB 、HA ,這些在k8s 都有借鑒到相關概念。 義父:專注,把一樣事情做到極致。沉澱才能淬鍊出重量。

MINITALK ,試試open router API

💬 Mini Talk 影片 🌐 任意網頁可用 🤖 多 AI Provider 🔧 Tool Use 支援 任何網頁, 隨時問 AI 不用切換分頁 在任意網站叫出懸浮聊天室,支援 Gemini、Claude、OpenRouter,30 秒安裝即用 查看影片 3+ AI Provider 支援 30s 從安裝到對話 ∞ 支援網站數量 實際操作示範 看看 Mini Talk 在真實網頁上怎麼用 © 2026 Mini Talk · Blogger Prompt Helper 工具集 · 以 Tampermonkey UserScript 驅動

一鍵生成google blogger CTA 文章自動排版HTML

圖片
AI Google Blogger 排版小工具 使用者目標 痛點 前後對比 使用步驟 AI 自動產生 Blogger 排版 讓寫作更輕鬆 新增bloger 方便的小工具,AI 小工具自動產生。讓簡單的散文、文章,整理成有重點和漂亮排版的工具 查看成果 ≤ 3min 完成一篇文章排版 90% 使用者滿意度 50% 時間節省 使用者目標 身為 Blogger 使用者,我想在不用複雜後台操作下,快速生成美觀的排版,以便專注於內容創作。 「以前手動調整 HTML/CSS 要花費大量時間,現在使用這個工具,3 分鐘內就能完成排版,讓我能更專注在寫作上。」 ✓ 使用者能在 3 分鐘內完成一篇文章的排版 ✓ 90% 的使用者表示排版效果符合預期 ✓ 減少 50% 的排版時間 你是否也遇過這些困境? 這些日常痛點,正在悄悄吃掉你的寫作效率。 ⏳ 排版耗時 手動調整 HTML/CSS 費時費力,一篇文章的排版可能要花上數小時。 🎨 樣式不...

查詢課表小工具,後記,經驗筆記

圖片
 用了一陣子 cloudrun,前陣子寫了查詢課表,部署在cloudrun,但在使用課表查詢時,發現到很久沒有用,2~3天才來查一次課表,又會退回到 重新登入→重新查詢,感覺一切重置。 既使本身已寫了cookies ,TTL 也拉長了24 小時,但cache的時間卻比想像中還要快。 一個存在伺服器、一個存在Firestore。 一開始以為cloudrun 放上去就是會一直啟動😅。 沒想到他也有冷啟動機制,之前還一直爽爽用 :D 。 看了一下官方文件,每個cloud run是以 執行個體計費 。  😅😅😅 老師查課表,不可能時時刻刻一直查,就偶爾查一下,但依照目前15分鐘的冷啟動,這個查一下就要先等容器啟動,啟動完 還要做後續實在太久了😨,體感很差。 解法:可以使用 Cloud Scheduler 定時戳服務(免費額度內)— 每 10 分鐘打一次 /healthz,讓容器不被回收 或 存在Firestore, 總之就是 不要被回收。 怎麼那麼和 Render 一樣,每15分鐘就被回收。😂 相關文件: 容器執行合約[官方文件] 關於 Cloud Run 服務中的執行個體自動調度[官方文件]

操作 GCP Metrics、Trace、Log,學習筆記

圖片
 最近正在學習CAP相關知識,裡面有提到可觀測性(Observability)的三大支柱 - Metrics、Trace、Log。 原來觀察也有先後順序  告警觸發Metrics →找到是哪個請求有問題Trace→看詳細錯誤原因Log。 正好手邊也有個小專案,可以測試,也在GCP上。剛好 GCP 的觀測紀錄 也有這些功能,就拿來練練手啦~~ Google Cloud Observability 說明 側選單 : 監控> 紀錄指標 Distribution -是用來追蹤數值分佈(例如回應時間的快慢分佈),需要從 log 裡萃取一個數字。 Counter-這個是追蹤事件發生幾次。 在看google的說明資料,剛好有看到 SRE的相關書籍,還是可線上看的書😁 :  https://sre.google/books/ (記錄學習操作手冊)

最近看了CAP,看了一些抽象觀念相關的書,心得分享

圖片
 最近看了一些書,學了一些觀念 Consistency( 一致性 ), Availability(可用性), Partition tolerance( 分區容忍性 ) ,簡稱 CAP Theorem ( CAP定理 ),有一種大腦被打開的感覺。 進而再看到  consistency vs latency、eventual consistency、retry + idempotency。  最近就很喜歡玩CAP 的決策遊戲 😂😂 這讓我想到,有一種APP 是遊戲是,你當市長做的決策會攸關到每個市民,如何壤你的城市可以活比較久。😆😆 書單: Designing Data-Intensive Applications、 Building Microservices、Microservices Patterns、 Designing Distributed Systems、 Distributed Systems: Concepts and Design、 Release It!

意圖分類訓練器,微服務的訓練導向

圖片
🤖 BERT 意圖分類 專案介紹 功能特色 系統截圖 成果影片 運作方式 意圖識別 × 微服務 × 引導服務 打造智能意圖識別 讓聊天機器人引導用戶快速找到需要的服務方向 基於 BERT 的意圖分類系統,內建線上標籤分類與重新訓練功能, 用於引導用戶快速找到需要的服務方向。 觀看成果影片 BERT Google 預訓練模型 線上 即時重新訓練 多分類 意圖標籤系統 為什麼做這個專案? 微服務架構下的智能客服前端引導解決方案 身為一個 微服務系統開發者 ,我想要在用戶進入聊天流程時, 透過 智能意圖識別 先做一層分類引導, 以便讓每個微服務能更精準地服務對應需求,大幅提升 對話效率與用戶體驗 。 ✓ 用戶輸入訊息後,系統能自動識別意圖分類,給予精準引導 ✓ 內部人員可線上歸類、標記標籤,即時調整分類資料集 ✓ 支援一鍵重新訓練,模型可持續優化,不須停機維護 解決的核心問題 傳統 LINE Bot 在處理複雜需求時常見的三大痛點 ...

竄改猴 + blogger html 模式下,讓google blogger 的html 變成可即時預覽,經驗筆記

圖片
⚡ Blogger 即時預覽工具 為什麼需要 痛點 效果對比 安裝步驟 Tampermonkey UserScript · 免費開源 不用反覆切換頁面 邊寫邊看 Blogger HTML 即時成果 即時預覽視窗浮於編輯器旁,拖拉縮放隨意控制 不切換頁面,所見即所得。 0 頁面切換次數 1 秒 HTML 同步間隔 100% 免費開源 為什麼需要這個工具? 身為一個常在 Google Blogger 寫技術筆記的開發者, 我想要在編輯 HTML 時 即時看到渲染結果 , 以便我能快速調整排版,省去在「撰寫」與「預覽」之間 反覆切換的時間 。 ✓ 在 Blogger 編輯器旁自動出現可拖拉的即時預覽視窗,不須離開編輯頁面 ✓ HTML 內容有任何變動,預覽視窗在 1 秒內自動同步更新 ✓ 預覽視窗可自由縮放、最小化,不干擾正常的 Blogger 編輯工作流程 你是否也有這些困擾? 🔄 反覆切換頁面超累 Blogger 預覽要另開分頁或切換模式,HTML 貼進去對不對只能一直來回確認...

週末教課,查詢課表小工具~

圖片
📅 課表 Bot 使用場景 痛點 前後比較 成果展示 使用方式 立即體驗 LINE Bot × 課表自動化 不開後台, 30 秒 查到本週表 專為週末兼職補習班老師打造的 LINE Bot——一鍵查課表,帳密只輸入一次,從此告別繁瑣的補教系統後台。 ≤ 30s 查詢完成時間 1 次 帳密輸入次數 0 步 額外開啟步驟 使用情境 誰在用?為什麼用? 一句話說清楚這個工具存在的理由 身為週末兼職補習班老師,我想要 不打開補習班後台 就能快速查到本週排班, 以便 安排週末行程 。 成功標準 ✓ 點一個按鈕,30 秒內看到本週格式化課表 ✓ 帳密只需輸入一次,後續免登入 ✓ 查詢失敗時立刻知道原因,能自行決定下一步 痛點背景 舊方式到底哪裡痛? 橘子教師系統的三大煩惱,你中了幾個 😖 後台 UX 差 橘子教師系統介面繁瑣,每次查詢需要多步操作才能看到課表,體驗極差。 🔐 ...