前言
传统CNN在疲劳检测中受限于局部感受野，难以捕捉长程空间依赖。2025年5月发表在Nature Scientific Reports的研究证明，Transformer架构通过自注意力机制捕捉全局上下文，在疲劳检测中超越CNN。
一、研究背景
1.1 疲劳驾驶现状
| 统计 |
数据 |
| 睡眠减少 |
现代比100年前少20% |
| 睡眠不足成人 |
1/3 |
| 2002年安大略调查 |
58%承认疲劳驾驶，14.5%在方向盘上睡着 |
| 经济损失 |
单年124亿美元 |
1.2 检测方法演进
1
2
3
4
5
| 方法演进：
├─ 生物测量：EEG、ECG、EOG
├─ 图像/视频：面部特征
├─ 车辆动力学：方向盘、车道偏移
└─ 混合方案：多模态融合
|
1.3 CNN局限
| CNN局限 |
说明 |
| 局部感受野 |
难以捕捉长程依赖 |
| 深度需求 |
需要更深架构获取全局上下文 |
| 计算效率 |
深层网络计算成本高 |
2.1 自注意力机制
1
2
3
4
5
6
7
8
9
10
11
12
13
| ┌──────────────────────────────────────────────┐
│ Transformer自注意力优势 │
├──────────────────────────────────────────────┤
│ │
│ CNN：局部感受野 │
│ └─ 需要堆叠多层才能扩大感受野 │
│ │
│ Transformer：全局自注意力 │
│ ├─ 一次计算所有位置关系 │
│ ├─ 关联远距离面部区域 │
│ └─ 例：关联打哈欠和眼睛闭合 │
│ │
└──────────────────────────────────────────────┘
|
2.2 疲劳检测中的优势
| 特征 |
CNN |
Transformer |
| 眼睛状态 |
✅ 擅长 |
✅ 擅长 |
| 眉毛微动 |
⚠️ 需深层 |
✅ 全局捕捉 |
| 打哈欠+闭眼关联 |
❌ 困难 |
✅ 自注意力 |
| 光照变化鲁棒性 |
⚠️ 中等 |
✅ 更强 |
三、实验设置
3.1 数据集
MRL Eye Dataset：
- 眼睛状态分类（睁眼/闭眼）
- 图像尺寸调整、归一化、增强
3.2 模型对比
| 模型 |
类型 |
| Vision Transformer (ViT) |
Transformer |
| Swin Transformer |
Transformer |
| VGG19 |
CNN |
| Attention VGG19 |
CNN+Attention |
| DenseNet169 |
CNN |
| ResNet50V2 |
CNN |
| InceptionResNetV2 |
CNN |
| InceptionV3 |
CNN |
| MobileNet |
轻量CNN |
3.3 硬件平台
实时部署：
- IR照明器
- 摄像头
- Raspberry Pi 3 Model B
四、实验结果
4.1 准确率对比
| 模型 |
准确率 |
| Swin Transformer |
99.15% |
| Vision Transformer (ViT) |
~99% |
| VGG19 |
98.7% |
| Attention VGG19 |
~98.5% |
| DenseNet169 |
~97-98% |
| ResNet50V2 |
~96-97% |
4.2 关键发现
Transformer超越CNN
- Swin Transformer: 99.15%
- VGG19: 98.7%
- 提升约0.45%
光照鲁棒性
- Transformer对光照变化更鲁棒
- IR照明减少环境光影响
全局上下文优势
4.3 可解释性
Class Activation Mapping (CAM)：
五、技术架构
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
| 图像 → Patch分割 → 线性投影 → Transformer编码器 → 分类头
┌──────────────────────────────────────────────┐
│ ViT流程 │
├──────────────────────────────────────────────┤
│ │
│ 输入图像 (H×W×C) │
│ ↓ │
│ Patch分割 (N patches) │
│ ↓ │
│ 线性投影 (D维) │
│ ↓ │
│ 位置编码 │
│ ↓ │
│ Transformer编码器 │
│ ↓ │
│ 分类Token → MLP → 预测 │
│ │
└──────────────────────────────────────────────┘
|
层级窗口注意力：
1
2
3
4
5
| Swin优势：
├─ 层级特征提取
├─ 窗口注意力（局部）
├─ 移位窗口（跨窗口连接）
└─ 计算效率更高
|
六、实时部署
6.1 系统架构
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
| ┌──────────────────────────────────────────────┐
│ 实时疲劳检测系统 │
├──────────────────────────────────────────────┤
│ │
│ IR摄像头 → Raspberry Pi 3 Model B │
│ ↓ │
│ 图像预处理 │
│ ↓ │
│ Swin Transformer │
│ ↓ │
│ 眼睛状态分类 │
│ ↓ │
│ PERCLOS + 时序分析 │
│ ↓ │
│ 疲劳告警 │
│ │
└──────────────────────────────────────────────┘
|
6.2 IR照明优势
| 优势 |
说明 |
| 光照不敏感 |
减少环境光影响 |
| 视觉阻挡减少 |
穿透遮挡 |
| 隐私友好 |
不记录详细面部特征 |
七、IMS开发启示
7.1 模型选型
| 场景 |
推荐模型 |
准确率 |
| 高端车型 |
Swin Transformer |
99.15% |
| 主流车型 |
MobileNet |
~95% |
| 平衡方案 |
ViT-Tiny |
~97% |
7.2 部署优化
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
| ┌─────────────────────────────────────────┐
│ Transformer部署优化 │
├─────────────────────────────────────────┤
│ │
│ 模型压缩： │
│ ├─ 知识蒸馏 │
│ ├─ 剪枝 │
│ └─ 量化（INT8） │
│ │
│ 加速方案： │
│ ├─ TensorRT │
│ ├─ ONNX Runtime │
│ └─ NPU加速 │
│ │
└─────────────────────────────────────────┘
|
7.3 开发路线
| 阶段 |
功能 |
方案 |
| 短期 |
基础疲劳检测 |
CNN (MobileNet) |
| 中期 |
精度提升 |
Transformer |
| 长期 |
边缘部署 |
量化+剪枝 |
八、总结
关键成果
| 成果 |
数据 |
| Swin Transformer准确率 |
99.15% |
| 超越VGG19 |
+0.45% |
| 光照鲁棒性 |
更强 |
| 实时部署 |
Raspberry Pi 3 |
开发建议
| 优先级 |
功能 |
方案 |
| P0 |
基础眼睛检测 |
CNN |
| P1 |
精度提升 |
Swin Transformer |
| P2 |
边缘部署 |
量化Transformer |
论文信息：
- 标题：Real-time driver drowsiness detection using transformer architectures: a novel deep learning approach
- 发布：Nature Scientific Reports, May 2025
- DOI: 10.1038/s41598-025-02111-x
发布日期：2026-03-13