卷積循環重建網路（CRRN）於錫膏檢測中之時空異常偵測

目錄

1. 簡介與概述

本文探討印刷電路板（PCB）製造中表面黏著技術（SMT）的一個關鍵挑戰：偵測錫膏印刷階段因印刷機缺陷所導致的異常。傳統檢測方法，如錫膏檢測（SPI），依賴於假設錫膏體積呈常態分佈的統計閾值。當印刷機故障系統性地偏離數據分佈時，此方法便會失效。本文提出的解決方案是卷積循環重建網路（CRRN），這是一種單類別異常偵測模型，僅從正常數據模式中學習，並透過重建誤差來識別異常。其核心創新在於能夠從序列化的SPI數據中分解出時空異常模式，超越了簡單的閾值判斷，轉向學習正常製程行為的表徵。

2. 方法論與架構

CRRN 是一種專為時空序列數據設計的特殊化卷積循環自動編碼器（CRAE）。其架構旨在同時捕捉空間特徵（例如焊墊上的錫膏形狀）和時間依賴性（例如連續電路板或焊墊之間的模式）。

2.1 CRRN 架構概述

該網路包含三個主要元件：

1. 空間編碼器 (S-Encoder)： 使用卷積層從個別輸入幀（例如單次SPI測量快照）中提取空間特徵。
2. 時空編碼器-解碼器 (ST-Encoder-Decoder)： 處理序列的核心模組。它包含多個卷積時空記憶體 (CSTM) 區塊和一個ST-Attention 機制，用以建模時間動態和長程依賴關係。
3. 空間解碼器 (S-Decoder)： 使用轉置卷積從時空潛在表徵中重建輸入序列。

該模型僅在正常的SPI數據序列上進行訓練。在推論階段，高重建誤差表示偏離了學習到的正常模式，標誌著潛在的異常。

2.2 卷積時空記憶體 (CSTM)

CSTM 是為有效提取時空模式而開發的新穎單元。它將卷積運算整合到循環記憶體結構中，類似於卷積長短期記憶（ConvLSTM），但針對特定任務進行了優化。它使用卷積閘門更新其細胞狀態 $C_t$ 和隱藏狀態 $H_t$，使其能夠跨時間保持空間相關性： $$i_t = \sigma(W_{xi} * X_t + W_{hi} * H_{t-1} + b_i)$$ $$f_t = \sigma(W_{xf} * X_t + W_{hf} * H_{t-1} + b_f)$$ $$C_t = f_t \odot C_{t-1} + i_t \odot \tanh(W_{xc} * X_t + W_{hc} * H_{t-1} + b_c)$$ $$o_t = \sigma(W_{xo} * X_t + W_{ho} * H_{t-1} + b_o)$$ $$H_t = o_t \odot \tanh(C_t)$$ 其中 $*$ 表示卷積，$\odot$ 表示元素乘法。

2.3 時空注意力機制 (ST-Attention)

為了解決長序列中的梯度消失問題，設計了ST-Attention機制。它透過允許解碼器「關注」所有時間步中相關的編碼器狀態（而不僅僅是最後一個），促進了從ST-Encoder到ST-Decoder的資訊流動。這對於捕捉製造過程中的長期依賴關係至關重要，例如印刷機性能的逐漸漂移。

3. 技術細節與數學公式

訓練目標是最小化輸入序列 $X = \{x_1, x_2, ..., x_T\}$ 與重建序列 $\hat{X} = \{\hat{x}_1, \hat{x}_2, ..., \hat{x}_T\}$ 之間的重建損失，通常使用均方誤差（MSE）： $$\mathcal{L}_{recon} = \frac{1}{T} \sum_{t=1}^{T} \| x_t - \hat{x}_t \|^2$$ 新序列的異常分數即定義為此重建誤差。應用一個閾值（通常在正常數據的驗證集上憑經驗確定）來將序列分類為正常或異常。

4. 實驗結果與效能

本文展示了CRRN相較於傳統模型（如標準自動編碼器（AE）、變分自動編碼器（VAE）和更簡單的循環模型）的優越性。關鍵結果包括：

• 更高的異常偵測準確率： 與基準模型相比，CRRN在真實世界的SPI數據集上取得了更優異的效能指標（例如F1分數、AUC-ROC）。
• 有效的異常分解： 該模型生成「異常地圖」，可定位PCB內的缺陷焊墊，提供可解釋的診斷。此圖透過次要的印刷機缺陷分類任務進行了驗證，顯示出高度的鑑別能力。
• 對長序列的穩健性： ST-Attention機制使得模型能夠在其他模型失效的長時間上下文環境中有效學習。

圖表說明： 一個假設的長條圖將顯示，在SPI數據集的異常偵測曲線下面積（AUC）方面，CRRN的表現優於AE、VAE和LSTM-AE。

5. 分析框架與個案研究

框架應用（非程式碼範例）： 考慮一個情境：SPP鋼網隨著時間逐漸堵塞。傳統的SPI可能僅在焊墊體積低於靜態閾值時才標記。然而，CRRN會處理所有焊墊的SPI測量序列。它學習整個電路板上焊墊體積之間以及隨時間變化的正常相關性。逐漸的堵塞引入了細微的、空間相關的漂移（例如，特定區域的焊墊顯示出一致的下降趨勢）。CRRN的CSTM捕捉到這種時空模式的偏差，重建誤差在個別焊墊突破硬性閾值之前就會飆升，從而實現預測性維護。ST-Attention機制有助於將當前的異常與漂移開始時（數小時前）的編碼器狀態聯繫起來。

6. 未來應用與研究方向

• 跨模態異常偵測： 將CRRN與其他感測器（例如視覺系統、印刷機內的壓力感測器）的數據整合，以建立全面的工廠數位孿生。
• 少量樣本/零樣本異常學習： 調整模型以使用極少的標記樣本識別新的、未見過的缺陷類型，或許可以使用元學習技術。
• 邊緣部署： 優化CRRN以在生產線內的邊緣設備上進行即時推論，實現即時回饋與控制。
• 生成式反事實解釋： 使用解碼器生成異常輸入的「修正後」正常版本，為操作員提供電路板應該呈現樣貌的清晰視覺化。

7. 參考文獻

1. Yoo, Y.-H., Kim, U.-H., & Kim, J.-H. (年份). Convolutional Recurrent Reconstructive Network for Spatiotemporal Anomaly Detection in Solder Paste Inspection. IEEE Transactions on Cybernetics.
2. Goodfellow, I., et al. (2014). Generative Adversarial Nets. Advances in Neural Information Processing Systems.
3. Vaswani, A., et al. (2017). Attention Is All You Need. Advances in Neural Information Processing Systems.
4. Zhu, J.-Y., et al. (2017). Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial Networks. IEEE International Conference on Computer Vision (ICCV).
5. International Electronics Manufacturing Initiative (iNEMI) reports on SMT technology trends.

8. 專家分析與評論