ResNet (Residual Network) — это архитектура свёрточной нейросети, представленная Microsoft Research в 2015 году и выигравшая конкурс ImageNet. Она решила проблему деградации качества при увеличении глубины сети.
Идея остаточных связей
Главное нововведение — «остаточные» (skip) связи, которые передают сигнал в обход нескольких слоёв. Это позволяет градиенту свободно проходить через сеть и делает возможным обучение моделей со 100 и более слоями.
Значение
- Сети с десятками и сотнями слоёв стали обучаемыми
- Резко выросла точность распознавания
- Идея skip-связей используется почти во всех современных архитектурах
ResNet остаётся одной из базовых архитектур: её предобученные версии часто берут за основу при решении новых задач компьютерного зрения.
