模型库¶
本页由
scripts/gen_model_zoo.py从权重注册表机器生成(许可 / sha256 / 官方指标 / 接入键),勿手改;注册表变更后重新生成,漂移由scripts/gen_model_zoo.py --check与tests/test_model_zoo.py拦截。仓库不携带权重二进制:注册表钉身份(sha256),不钉分发。表中数字为官方发表值(出处见各节);我方复现读数与协议见基准,许可红线见仓库根
NOTICE。
1. 资产概览¶
| 类别 | 数量 | 许可 | 分发形态 | 注册表 |
|---|---|---|---|---|
| GTR 官方家族 | 26 | MIT | 来源 HF Phoenix8125/GTR,按需下载到 AUTOVISION_GTR_ROOT(仓库不携带二进制) |
src/autovision/registry/gtr_assets.py |
| HF 权重清单 | 31 | Apache-2.0 / MIT / CC-BY-NC-4.0 / DINOv3 License | HF 下载 + sha256 校验(受限许可门控) | src/autovision/encoders/weight_hashes.py |
| 可下载资产(warm-start) | 3 | Apache-2.0 | HF / GitHub 镜像下载 + sha256 校验 | src/autovision/registry/apache_assets.py |
| 用户自持库 | 7 | DINOv3-License+NOASSERTION | 仓库外存储,不可再分发 | src/autovision/registry/user_held_assets.py |
当前环境可用的模型键(按已安装 extras 过滤):autovision-cli list-models。
2. GTR 多任务家族(MIT,旗舰)¶
整族共享一套 GLA 骨干(ViTAdapterSpatialSwiGLU)+ GTREncoder,各任务只换头 / 解码器;权重为官方 EMA 口径(官方所有发表数字均用 EMA)。
权重二进制不随仓库分发:用 scripts/download_gtr_assets.py 从上游 HF Phoenix8125/GTR 按需下载到 AUTOVISION_GTR_ROOT(默认 ~/Research/Model/gtr),逐文件核验 sha256;上游 revision 可钉住(下载器会在首次解析后打印实际 commit)。上游若为 gated,先 hf auth login;区域镜像用 HF_ENDPOINT。
| 任务 | 变体 | 资产 | 官方指标 | 官方延迟 (ms) | sha256 |
|---|---|---|---|---|---|
| 检测(COCO 2017,AP) | l | gtr_l_coco |
AP 58.9 | 1.908 | d7a3e07b2159 |
| 检测(COCO 2017,AP) | m | gtr_m_coco |
AP 57.3 | 1.462 | a1a90111bb75 |
| 检测(COCO 2017,AP) | s | gtr_s_coco |
AP 53.6 | 1.225 | 69b8bed4d2bd |
| 检测(COCO 2017,AP) | x | gtr_x_coco |
AP 59.4 | 2.115 | 547cc2c2d29b |
| 检测初始化(Objects365 预训练) | l | gtr_l_obj365 |
—(预训练权重,无基准行) | — | 364c76be3c21 |
| 检测初始化(Objects365 预训练) | m | gtr_m_obj365 |
—(预训练权重,无基准行) | — | 5338fcf02f18 |
| 检测初始化(Objects365 预训练) | s | gtr_s_obj365 |
—(预训练权重,无基准行) | — | 49be6e816149 |
| 检测初始化(Objects365 预训练) | x | gtr_x_obj365 |
—(预训练权重,无基准行) | — | a3bdf1b3771e |
| 实例分割(COCO,mask AP) | l | gtrseg_l_coco |
mask AP 49.5 | — | 33cabf1f8119 |
| 实例分割(COCO,mask AP) | m | gtrseg_m_coco |
mask AP 47.7 | — | 60963e2f22d1 |
| 实例分割(COCO,mask AP) | s | gtrseg_s_coco |
mask AP 45.0 | — | 14113f7b7cf3 |
| 实例分割(COCO,mask AP) | x | gtrseg_x_coco |
mask AP 49.8 | — | 63f7b3e32e5d |
| 语义分割(Cityscapes,mIoU) | l | gtrsemseg_l_cityscapes |
mIoU 83.2 | — | 42dec87b707f |
| 语义分割(Cityscapes,mIoU) | m | gtrsemseg_m_cityscapes |
mIoU 83.0 | — | f5206bca92cb |
| 语义分割(Cityscapes,mIoU) | s | gtrsemseg_s_cityscapes |
mIoU 81.5 | — | 365ed33e3ba8 |
| 语义分割(Cityscapes,mIoU) | x | gtrsemseg_x_cityscapes |
mIoU 83.3 | — | ee4ade38e2e6 |
| 单目深度(NYU,absRel) | l | gtrdepth_l |
absRel 0.069 | — | 15cee2d0fd37 |
| 单目深度(NYU,absRel) | m | gtrdepth_m |
absRel 0.069 | — | 39b3bcd05768 |
| 单目深度(NYU,absRel) | s | gtrdepth_s |
absRel 0.074 | — | e798c6347bc2 |
| 单目深度(NYU,absRel) | x | gtrdepth_x |
absRel 0.067 | — | fef32854352d |
| 旋转框(DOTA,AP50) | s | gtrobb_s_dota |
AP50 80.0 | — | 15a57e2ecab0 |
| 旋转框(DOTA,AP50) | x | gtrobb_x_dota |
AP50 81.3 | — | deb785e2d648 |
| 姿态(COCO 关键点,kp AP) | l | gtrpose_l_coco |
kp AP 74.7 | — | aa1396b9d458 |
| 姿态(COCO 关键点,kp AP) | m | gtrpose_m_coco |
kp AP 74.1 | — | e93c957dd130 |
| 姿态(COCO 关键点,kp AP) | s | gtrpose_s_coco |
kp AP 70.1 | — | ead7a3958a11 |
| 姿态(COCO 关键点,kp AP) | x | gtrpose_x_coco |
kp AP 75.5 | — | dbfb964f3bc6 |
- 官方延迟 = GTR 论文协议(RTX 4090 / FP16 / batch 1 / torch.compile + CUDA Graphs / 640×640),仅检测档发表;其余任务官方未发表延迟(我方 torch 口径读数见基准 §2)。引用日期 2026-10-15。
- sha256 为完整摘要前 12 位;完整值以注册表为准。
2.1 gtr/* 任务族(五任务直载)¶
model_args 的 checkpoint 接受注册资产名或路径(resolve_gtr_asset 解析 + sha256 核验 + 加载覆盖门:encoder/decoder 覆盖率不足即报错):
import autovision
# 姿态;其余四个任务族同为 `model="gtr/{s,m,l,x}"` + `model_args={"checkpoint": "<资产名>"}`
autovision.train_pose_estimation(out="runs/pose-s", data="pose.yaml", model="gtr/s",
model_args={"checkpoint": "gtrpose_s_coco"})
autovision.train_semantic_segmentation(..., model="gtr/s", model_args={"checkpoint": "gtrsemseg_s_cityscapes"}) # 语义分割(Cityscapes,mIoU)
autovision.train_depth_estimation(..., model="gtr/s", model_args={"checkpoint": "gtrdepth_s"}) # 单目深度(NYU,absRel)
autovision.train_instance_segmentation(..., model="gtr/s", model_args={"checkpoint": "gtrseg_s_coco"}) # 实例分割(COCO,mask AP)
autovision.train_oriented_object_detection(..., model="gtr/s", model_args={"checkpoint": "gtrobb_s_dota"}) # 旋转框(DOTA,AP50)
离线核验(不加载模型,仅对文件做 sha256 核验):
from autovision.registry.gtr_assets import resolve_gtr_asset
resolve_gtr_asset("gtrpose_s_coco") # 文件不存在 / sha256 不符即抛 GTRAssetError
2.2 检测线(detr/gtrvit-s)¶
检测的官方权重经一步装配(build_dfine_official_warm_start,EMA 口径 + 解码器覆盖率门)后以 model_args.warm_start 注入;detr/gtrvit-s 的 GLA 骨干另由 extract_gtr_backbone 提取为 backbone_weights。以下写法在 v0.2.0 已实机验证(装配报告:decoder_coverage=1.0、skipped_shape=0,短程训练闭环通过):
import autovision
from autovision.registry.gtr_assets import resolve_gtr_asset
from autovision.tasks.detection.detr.dfine_official_warm_start import (
build_dfine_official_warm_start,
)
asset = resolve_gtr_asset("gtr_s_coco") # MIT;sha256 核验
# `detr/gtrvit-s`(GLA 骨干线,需 `gtr` extra + CUDA):装配 encoder+decoder,
# 骨干状态单独提取
import torch
from autovision.tasks.detection.detr.gtr_teacher import (
extract_gtr_backbone,
load_gtr_teacher,
)
build_dfine_official_warm_start("gtrvit-s", out="ws_gtrvit_s.pt", checkpoint=asset.path,
backbone_pretrained=False, license_id="MIT", origin=asset.source,
source_format="gtr")
torch.save(extract_gtr_backbone(load_gtr_teacher(asset.path)), "gtr_s_backbone.pth")
autovision.train_object_detection(out="runs/gtrvit-s", data="coco.yaml",
model="detr/gtrvit-s", model_args={"warm_start": "ws_gtrvit_s.pt",
"backbone_weights": "gtr_s_backbone.pth"})
GTR 变体补充(2026-10-17):
gtrvit-{s,m,l,x}:完整 GTR ViT 检测目标;M/L/X 已注册,装配后 encoder/decoder coverage 1.0(L/X 的 ViT 384 宽,encoder/decoder 256 宽,由backbone_embed_dim区分)。推理应走这一线。- Objects365 检测头是 366 类(365 数据集类 + no-object);装配时用
GTRAsset.model_num_classes,不要传 365(会丢掉 class-dependent tensors)。 gtr/*实例分割任务族现支持s/m/l/x(此前只注册了s)。
3. 检测档位谱系(detr/n … detr/x)¶
产品档位的冻结状态与骨干线方向记录在 tasks/detection/detr/variants.py 的 SPECTRUM 表(机器可读):released 为已发布档(权重 + 模型卡 + 全量 AP + 延迟齐备),spec-frozen 为规格冻结档(组件与配方已承诺,预训练权重 / AP 待发布),planned 为方向已定、实现待落地。
| 档位 | 变体键 | 路线 | 状态 | 基准锚点 |
|---|---|---|---|---|
detr/n |
hgnetv2-b0 |
蒸馏 | spec-frozen(规格冻结,权重/AP 待发布) | YOLOv8n / YOLO11n |
detr/s |
hgnetv2-b1 |
装配微调 | spec-frozen(规格冻结,权重/AP 待发布) | YOLOv8s / YOLO11s |
detr/m |
— | 装配微调 | planned | YOLOv8m / RT-DETR-R18 |
detr/l |
— | 装配微调 | planned | RT-DETR-R34 / YOLOv8l |
detr/x |
— | 装配微调 | planned | RT-DETR-R50 / YOLOv8x |
released 是唯一带预训练权重的状态,由 autovision.registry.spectrum_release 的发布门禁校验;当前 n/s 为 spec-frozen,需用 scripts/train_spectrum.py 自行训练、scripts/eval_spectrum_coco.py 产出全量 AP。
model = autovision.detection("detr/s") # 规格冻结档;n/s 权重/AP 待发布,m/l/x 为 planned
4. HF 权重清单(revision + sha256 钉住)¶
预训练骨干、RF-DETR 检测权重与开放词表文本塔,按许可分组。CC-BY-NC / DINOv3 License 默认不下载:设 AUTOVISION_DINOV2_WEIGHTS=1 / AUTOVISION_DINOV3_WEIGHTS=1 表示已自行接受对应条款。sha256 列为该资产按文件名排序的首个权重文件(双格式资产另有 pytorch_model.bin、多分片资产另有其余分片,完整清单见注册表)。revision 为 8 位短哈希,完整值见注册表。
| 资产(HF repo) | 许可 | 接入键 / 角色 | 官方指标 | revision | sha256 |
|---|---|---|---|---|---|
| Apache-2.0(可自由再分发) | |||||
Roboflow/rf-detr-base |
apache-2.0 | rfdetr/rf-detr-base(同上) |
—(上游弃用) | 7b95b089 |
02ad73fd09f0 |
Roboflow/rf-detr-large |
apache-2.0 | rfdetr/rf-detr-large(同上) |
AP 56.5 / 75.1 · 33.9M · 704² | f62f7dd5 |
1ec604598aea |
Roboflow/rf-detr-medium |
apache-2.0 | rfdetr/rf-detr-medium(同上) |
AP 54.7 / 73.6 · 33.7M · 576² | 1b5b6724 |
e52098adc469 |
Roboflow/rf-detr-nano |
apache-2.0 | rfdetr/rf-detr-nano(检测变体(HF transformers 路径;-notpretrained 可离线构建)) |
AP 48.4 / 67.6 · 30.5M · 384² | 9f201577 |
497b1dbcc8f9 |
Roboflow/rf-detr-small |
apache-2.0 | rfdetr/rf-detr-small(同上) |
AP 53.0 / 72.1 · 32.1M · 512² | 3bdc4650 |
2bfab2fa5f5f |
google/siglip-base-patch16-224 |
apache-2.0 | open_vocab.text_encoder="siglip-base"(开放词表文本塔(SigLIP)) |
— | 7fd15f06 |
2c63cb7d1f2e |
harshaljanjani/DEIMv2_HGNetv2_N_COCO_Transformers |
apache-2.0 | (未接线)(外部转换权重;DEIMv2 上游非商用,许可需按卡复核) |
— | b23bfb92 |
c7ea18e94f96 |
harshaljanjani/DEIMv2_HGNetv2_PICO_COCO_Transformers |
apache-2.0 | (未接线)(外部转换权重(PICO 档);许可需按卡复核) |
— | 2101e0c1 |
635377483bdd |
| MIT(可自由再分发) | |||||
openai/clip-vit-base-patch16 |
mit | open_vocab.text_encoder="clip-b16"(开放词表文本塔(CLIP)) |
— | 57c21647 |
ec89c7b09c74 |
openai/clip-vit-base-patch32 |
mit | open_vocab.text_encoder="clip-b32"(开放词表文本塔(CLIP)) |
— | 3d74acf9 |
a63082132ba4 |
| CC-BY-NC-4.0(禁商用;默认不下载,需显式自证) | |||||
facebook/dinov2-base |
cc-by-nc-4.0 | dinov2/vitb14-noreg(骨干(不带 register)) |
— | f9e44c81 |
d73036b56966 |
facebook/dinov2-giant |
cc-by-nc-4.0 | dinov2/vitg14-noreg(骨干(不带 register)) |
— | 611a9d42 |
917d3c470db9 |
facebook/dinov2-large |
cc-by-nc-4.0 | dinov2/vitl14-noreg(骨干(不带 register)) |
— | 47b73eef |
399fba97a95f |
facebook/dinov2-small |
cc-by-nc-4.0 | dinov2/vits14-noreg(骨干(不带 register)) |
— | ed25f3a3 |
ae1e99fcefd5 |
facebook/dinov2-with-registers-base |
cc-by-nc-4.0 | dinov2/vitb14(骨干(默认带 register)) |
— | a1d738cc |
7a6f7b3b9fa4 |
facebook/dinov2-with-registers-giant |
cc-by-nc-4.0 | dinov2/vitg14(骨干(默认带 register)) |
— | 8d0d49f7 |
c03832d44691 |
facebook/dinov2-with-registers-large |
cc-by-nc-4.0 | dinov2/vitl14(骨干(默认带 register)) |
— | e4c89a4e |
edccedab2c4e |
facebook/dinov2-with-registers-small |
cc-by-nc-4.0 | dinov2/vits14(骨干(默认带 register)) |
— | 0d9846e5 |
78e7f952c5af |
| DINOv3 License(默认不下载,需显式自证;条款以仓库卡片为准) | |||||
facebook/dinov3-convnext-base-pretrain-lvd1689m |
dinov3-custom (see repository card) | dinov3/convnext-base(骨干(ConvNeXt)) |
— | e619358a |
ec90bd798b5f |
facebook/dinov3-convnext-large-pretrain-lvd1689m |
dinov3-custom (see repository card) | dinov3/convnext-large(骨干(ConvNeXt)) |
— | e959efa7 |
8bab82eaa133 |
facebook/dinov3-convnext-small-pretrain-lvd1689m |
dinov3-custom (see repository card) | dinov3/convnext-small(骨干(ConvNeXt)) |
— | 42102001 |
8182492b7334 |
facebook/dinov3-convnext-tiny-pretrain-lvd1689m |
dinov3-custom (see repository card) | dinov3/convnext-tiny(骨干(ConvNeXt)) |
— | 10d30274 |
bd30a9459d61 |
facebook/dinov3-vit7b16-pretrain-lvd1689m |
dinov3-custom (see repository card) | dinov3/vit7b16(骨干(7B,多文件分片)) |
— | b8036775 |
7132627f2545 |
facebook/dinov3-vit7b16-pretrain-sat493m |
dinov3-custom (see repository card) | dinov3/vit7b16-sat493m(骨干(卫星预训练,7B)) |
— | 915e1b53 |
e0c59d3e2114 |
facebook/dinov3-vitb16-pretrain-lvd1689m |
dinov3-custom (see repository card) | dinov3/vitb16(骨干) |
— | 5931719e |
9a21ac3df0c6 |
facebook/dinov3-vith16plus-pretrain-lvd1689m |
dinov3-custom (see repository card) | dinov3/vith16plus(骨干(H 档 + 蒸馏版)) |
— | c807c9ee |
3e1d4d18b9bf |
facebook/dinov3-vitl16-pretrain-lvd1689m |
dinov3-custom (see repository card) | dinov3/vitl16(骨干(L 档)) |
— | ea8dc286 |
dcb2e45127cc |
facebook/dinov3-vitl16-pretrain-sat493m |
dinov3-custom (see repository card) | dinov3/vitl16-sat493m(骨干(卫星预训练 SAT-493M)) |
— | f692fa42 |
4e6356d992c1 |
facebook/dinov3-vits16-pretrain-lvd1689m |
dinov3-custom (see repository card) | dinov3/vits16(骨干(LVD-1689M 预训练)) |
— | 114c1379 |
4610ad75edef |
facebook/dinov3-vits16plus-pretrain-lvd1689m |
dinov3-custom (see repository card) | dinov3/vits16plus(骨干(+ 蒸馏版)) |
— | c93d816f |
208146e499da |
harshaljanjani/DEIMv2_DINOv3_S_COCO_Transformers |
dinov3-custom (see repository card) | (未接线)(外部转换权重(DINOv3 骨干);DINOv3/DEIMv2 条款需按卡复核) |
— | 598fb1fc |
f127a21daf86 |
RF-DETR 行官方指标为 COCO val2017 AP / AP50、Params(M)与输入尺寸,来源为 Roboflow 官方口径;T4 / TensorRT 延迟与许可说明见基准 §3.1。Base 上游已弃用,当前官方表不再发布指标。
一行加载(骨干走模型键;开放词表文本塔经 model_args 接线):
autovision.pretrain(out="runs/ssl1", data="images/", model="dinov2/vits14") # 骨干;CC-BY-NC / DINOv3 需先按上表自证
model = autovision.detection("rfdetr/rf-detr-base") # 检测变体
autovision.train_object_detection(..., num_classes=2, model_args={"open_vocab": {
"text_encoder": "siglip-base", "class_names": ("class-a", "class-b")}})
5. 可下载资产(warm-start / 蒸馏素材)¶
经 resolve_downloadable(autovision.registry.downloadable)解析:下载到本地缓存并核验 sha256(缓存命中同样复核),主源失败时回退镜像(hf-mirror / GitHub Release)。
| 资产 | 许可 | sha256 | 用途 |
|---|---|---|---|
d-fine/dfine_l_coco |
Apache-2.0 | f1d76b20c066 |
l 档装配素材 |
d-fine/dfine_m_coco |
Apache-2.0 | b44a7586bf49 |
m 档装配素材 |
d-fine/dfine_s_coco |
Apache-2.0 | 48a6c8cc43eb |
detr/s 装配暖启(Apache-2.0 上游权重) |
6. 用户自持库(仓库外,不可再分发)¶
7 个第三方训练的 COCO 检测器(DINOv3 骨干 + 第三方检测头)经合规重打包,逐位忠实性对拍后存于仓库之外(默认 ~/Research/Model/AutoVision,AUTOVISION_USER_HELD_ROOT 覆盖);不进可下载清单、不随仓库或导出产物分发。禁再分发、禁商用,使用即视为已自行接受相应条款。其中 3 个 ViT 资产为 STA-era(含 backbone.sta.*),DEIMv2 派生 spatial prior 删除后不再受支持;4 个 ConvNeXt 资产不受影响。
| 资产 | 加载 model 键 | 构建覆盖(加载必需) | weights sha256 |
|---|---|---|---|
dinov3-vitt16 |
detr/dinov3-vitt16-notpretrained |
不可用(STA 已删除;需重训 no-STA 检查点) | e7153c95379c |
dinov3-vitt16plus |
detr/dinov3-vitt16plus-notpretrained |
不可用(STA 已删除;需重训 no-STA 检查点) | 96603bff98fb |
dinov3-vits16 |
detr/dinov3-vits16-notpretrained |
不可用(STA 已删除;需重训 no-STA 检查点) | 9c38f900d1a5 |
dinov3-convnext-tiny |
detr/dinov3-convnext-tiny |
dec_layers=6 + decoder_hidden_dim=256 |
2925ef6afacf |
dinov3-convnext-small |
detr/dinov3-convnext-small |
dec_layers=6 + decoder_hidden_dim=256 |
72e37da6bdfd |
dinov3-convnext-base |
detr/dinov3-convnext-base |
dec_layers=6 + decoder_hidden_dim=256 |
503eaea85c85 |
dinov3-convnext-large |
detr/dinov3-convnext-large |
dec_layers=6 + decoder_hidden_dim=256 |
7e617f3fbf69 |
from autovision.registry.user_held_assets import user_held_model_args
autovision.train_object_detection(out="runs/d1", data="data.yaml", model="detr/dinov3-convnext-base",
model_args=user_held_model_args("dinov3-convnext-base"))
7. 门控与环境变量¶
| 变量 | 作用 |
|---|---|
AUTOVISION_DINOV2_WEIGHTS=1 |
显式接受 DINOv2 权重条款(CC-BY-NC)后允许下载 |
AUTOVISION_DINOV3_WEIGHTS=1 |
显式接受 DINOv3 License 后允许下载 |
AUTOVISION_GTR_ROOT |
GTR 检查点目录(scripts/download_gtr_assets.py 写入;默认 ~/Research/Model/gtr) |
AUTOVISION_USER_HELD_ROOT |
用户自持库目录(默认 ~/Research/Model/AutoVision) |
AUTOVISION_OFFLINE=1 |
禁止联网(只用本地资产) |
AUTOVISION_MIRROR_URL / HF_ENDPOINT |
下载镜像端点 |
框架级环境变量总表见 src/autovision/runtime/env.py(AUTOVISION_*,遥测默认关闭);上表的权重门控与资产根变量定义在各自的注册表模块(encoders/dinov2|dinov3/、registry/gtr_assets.py、registry/user_held_assets.py)。