工廠端 AI 落地的真正瓶頸：推論要放在哪裡

很多工廠導入 AI 的失敗案例，卡的都不是模型不夠準。

準確率是門面，部署才是門檻

一個在實驗室裡 mAP 0.92 的模型，放到產線上可能完全不能用。原因是產線有四個實驗室沒有的限制：

限制	實驗室	產線
帶寬	有線、穩定	工業級網路、共用、可能有線與無線混雜
延遲	容忍秒級	產線節拍以毫秒計
可靠性	有人盯著	斷網、跳機、電腦被重灌
散熱	桌上散熱 adequate	機櫃密閉、夏天機房溫度飆高

四種部署位置的取捨

• 雲端推論：模型能力最強、最好更新，但每一張圖都要上傳。帶寬與延遲是硬傷，且斷網就停擺。
• 邊緣裝置（Jetson 這類）：即時、不依賴網路、但算力有限，需要量化與模型剪枝。
• 工業 PC + GPU：效能與彈性兼顧，但成本與散熱要自己解決。
• IPC / PLC 內建推論：延遲最低、整合最好，但選擇少、綁定特定廠商。

SiC 晶圓缺陷檢測這個情境，最後是往邊緣推的方向走 —— 因為缺陷影像量大、需要即時回饋給產線操作員，而且工廠的網路不該成為品質管制的單點故障。

這也是我認為「懂製程的人學 AI」比「只會訓練模型的人」更有價值的原因：你知道現場的限制條件會怎麼推翻一個在 server 上跑得很漂亮的方案。

---

這是我的第一篇技術筆記，之後會把碩士論文裡的實驗細節與 COMSOL 熱場模擬的做法整理上來。