CRRN 用於焊錫膏檢測中時空異常檢測

目錄

1. 簡介與概述

本文針對印刷電路板（PCB）製造中表面貼裝技術（SMT）嘅一個關鍵挑戰：檢測焊錫膏印刷階段由印刷機缺陷引起嘅異常。傳統檢測方法，例如焊錫膏檢測（SPI），依賴假設焊錫膏體積呈正態分佈嘅統計閾值。當印刷機故障系統性地偏離數據分佈時，呢種方法就會失效。本文提出嘅解決方案係卷積循環重建網絡（CRRN），一個單類異常檢測模型，只從正常數據模式中學習，並通過重建誤差識別異常。其核心創新在於能夠從連續嘅SPI數據中分解時空異常模式，超越簡單嘅閾值設定，轉向學習正常製程行為嘅表示。

2. 方法與架構

CRRN係一個專為時空序列數據設計嘅專業化卷積循環自編碼器（CRAE）。其架構旨在同時捕捉空間特徵（例如焊盤上焊錫膏嘅形狀）同時間依賴性（例如連續電路板或焊盤之間嘅模式）。

2.1 CRRN 架構概述

該網絡包含三個主要組件：

1. 空間編碼器（S-Encoder）： 使用卷積層從單個輸入幀（例如單次SPI測量快照）中提取空間特徵。
2. 時空編碼器-解碼器（ST-Encoder-Decoder）： 處理序列嘅核心模組。包含多個卷積時空記憶體（CSTM）區塊同一個ST-Attention機制，用於建模時間動態同長距離依賴關係。
3. 空間解碼器（S-Decoder）： 使用轉置卷積從時空潛在表示中重建輸入序列。

該模型僅使用正常SPI數據序列進行訓練。在推理過程中，高重建誤差表示偏離咗學習到嘅正常模式，標誌住潛在異常。

2.2 卷積時空記憶體 (CSTM)

CSTM係為咗高效提取時空模式而開發嘅新穎單元。它將卷積操作整合到循環記憶體結構中，類似於卷積LSTM（ConvLSTM），但針對特定任務進行咗優化。它使用卷積門更新其細胞狀態 $C_t$ 同隱藏狀態 $H_t$，從而能夠跨時間保持空間相關性： $$i_t = \sigma(W_{xi} * X_t + W_{hi} * H_{t-1} + b_i)$$ $$f_t = \sigma(W_{xf} * X_t + W_{hf} * H_{t-1} + b_f)$$ $$C_t = f_t \odot C_{t-1} + i_t \odot \tanh(W_{xc} * X_t + W_{hc} * H_{t-1} + b_c)$$ $$o_t = \sigma(W_{xo} * X_t + W_{ho} * H_{t-1} + b_o)$$ $$H_t = o_t \odot \tanh(C_t)$$ 其中 $*$ 表示卷積，$\odot$ 表示逐元素乘法。

2.3 時空注意力機制 (ST-Attention)

為咗解決長序列中嘅梯度消失問題，設計咗一個ST-Attention機制。它通過允許解碼器「關注」所有時間步中相關嘅編碼器狀態，而不僅僅係最後一個，促進信息從ST-Encoder流向ST-Decoder。這對於捕捉製造過程中嘅長期依賴關係（例如印刷機性能嘅逐漸漂移）至關重要。

3. 技術細節與數學公式

訓練目標係最小化輸入序列 $X = \{x_1, x_2, ..., x_T\}$ 同重建序列 $\hat{X} = \{\hat{x}_1, \hat{x}_2, ..., \hat{x}_T\}$ 之間嘅重建損失，通常使用均方誤差（MSE）： $$\mathcal{L}_{recon} = \frac{1}{T} \sum_{t=1}^{T} \| x_t - \hat{x}_t \|^2$$ 新序列嘅異常分數就定義為呢個重建誤差。應用一個閾值（通常根據正常數據驗證集經驗確定）將序列分類為正常或異常。

4. 實驗結果與性能

本文展示咗CRRN相對於標準自編碼器（AE）、變分自編碼器（VAE）同更簡單嘅循環模型等傳統模型嘅優越性。主要結果包括：

• 更高嘅異常檢測準確率： 與基線模型相比，CRRN在真實世界SPI數據集上實現咗更優嘅性能指標（例如F1分數、AUC-ROC）。
• 有效嘅異常分解： 該模型生成一個「異常圖」，可以定位PCB內嘅缺陷焊盤，提供可解釋嘅診斷。呢個圖通過一個次要嘅印刷機缺陷分類任務進行咗驗證，顯示出高鑑別力。
• 對長序列嘅穩健性： ST-Attention機制使得模型能夠在其他模型失效嘅長時間上下文環境中有效學習。

圖表描述： 一個假設嘅柱狀圖會顯示，在SPI數據集上嘅異常檢測曲線下面積（AUC）方面，CRRN表現優於AE、VAE同LSTM-AE。

5. 分析框架與案例研究

框架應用（非代碼示例）： 考慮一個場景，其中SPP鋼網隨時間逐漸堵塞。傳統SPI可能只喺焊盤體積低於靜態閾值時先會標記。然而，CRRN會處理所有焊盤嘅SPI測量序列。它學習整個電路板上焊盤體積之間隨時間嘅正常相關性。逐漸堵塞會引入一種微妙嘅、空間相關嘅漂移（例如，特定區域嘅焊盤顯示出一致嘅下降趨勢）。CRRN嘅CSTM捕捉到呢種時空模式偏差，重建誤差會喺個別焊盤突破硬閾值之前就急劇上升，從而實現預測性維護。ST-Attention機制有助於將當前異常同幾小時前漂移開始時嘅編碼器狀態聯繫起來。

6. 未來應用與研究方向

• 跨模態異常檢測： 將CRRN同其他傳感器（例如視覺系統、印刷機內嘅壓力傳感器）嘅數據結合，構建全面嘅工廠數字孿生。
• 小樣本/零樣本異常學習： 調整模型以使用最少嘅標記樣本識別新嘅、未見過嘅缺陷類型，可能使用元學習技術。
• 邊緣部署： 優化CRRN，以便在生產線內嘅邊緣設備上進行實時推理，實現即時反饋同控制。
• 生成式反事實解釋： 使用解碼器生成異常輸入嘅「修正後」正常版本，為操作員提供電路板應該係點樣嘅清晰視覺化。

7. 參考文獻

1. Yoo, Y.-H., Kim, U.-H., & Kim, J.-H. (年份). Convolutional Recurrent Reconstructive Network for Spatiotemporal Anomaly Detection in Solder Paste Inspection. IEEE Transactions on Cybernetics.
2. Goodfellow, I., et al. (2014). Generative Adversarial Nets. Advances in Neural Information Processing Systems.
3. Vaswani, A., et al. (2017). Attention Is All You Need. Advances in Neural Information Processing Systems.
4. Zhu, J.-Y., et al. (2017). Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial Networks. IEEE International Conference on Computer Vision (ICCV).
5. International Electronics Manufacturing Initiative (iNEMI) reports on SMT technology trends.

8. 專家分析與評論