yolov8 静态量化

### YOLOv8 模型静态量化教程

#### 一、准备工作
为了实现YOLOv8模型的静态量化，需先准备好训练好的浮点模型以及校准数据集。校准数据集应能代表实际应用场景的数据分布。

#### 二、移除Sigmoid激活函数
在准备阶段之后，在`ultralytics/nn/modules/head.py`(62)处找到源代码 `y = torch.cat((dbox, cls.sigmoid()), 1)` 并将其修改为不带Sigmoid激活的形式，即直接连接边界框预测与类别分数而不经过非线性变换[^3]：

y = torch.cat((dbox, cls), 1)

此操作是为了防止整数量化过程中因数值范围受限而导致的有效信息丢失。

#### 三、应用PyTorch提供的工具进行量化
利用PyTorch内置的支持来完成后续工作。具体来说，可以采用如下方式调用PTQ API来进行静态量化处理:

import torch.quantization as quantization

model.eval()
quantized_model = quantization.convert(model)

# 设置量化配置并指定观察者类型
myModel.qconfig = quantization.get_default_qconfig('fbgemm')

# 调用fuse_modules如果适用的话（取决于具体的网络结构）
fused_model = quantization.fuse_modules(myModel, [['conv', 'bn']])

# 准备量化感知训练(PAT)，即使对于完全静态量化也是必要的一步
prepared_quantized_model = quantization.prepare(fused_model)

# 使用校准数据集运行几个批次以收集统计信息
for data, target in calibration_data_loader:
    output = prepared_quantized_model(data)

final_quantized_model = quantization.convert(prepared_quantized_model)

上述过程涵盖了从加载预训练权重到最终获得量化后的模型文件所需的主要步骤[^2]。

#### 四、验证量化效果
完成以上步骤后，建议通过测试集评估量化前后性能差异，并调整参数直至满足精度需求为止。