即插即用系列(代码实践)| AAAI 2025 TBSN:基于Transformer的盲点网络——自监督去噪新SOTA,彻底解决注意力机制信息泄露难题

论文题目:Rethinking Transformer-Based Blind-Spot Network for Self-Supervised Image Denoising

中文题目:重新思考用于自监督图像去噪的基于Transformer的盲点网络
论文出处:arXiv 2025 (最新自监督去噪研究)
应用任务:自监督图像去噪 (Self-Supervised Image Denoising, SSID)、盲点网络 (BSN)
核心模块:Dilated G-CSA (扩张分组通道注意力), Dilated M-WSA (扩张掩码窗口注意力)

摘要
本文提取自2025年最新论文《Rethinking Transformer-Based Blind-Spot Network for Self-Supervised Image Denoising》。针对自监督去噪任务中,主流的盲点网络(Blind-Spot Network, BSN)长期被 CNN 统治,而强大的 Transformer 因Attention 机制容易泄露中心像素(Blind-Spot)信息而无法应用的痛点,复现了其核心组件——TBSN(Transformer-based BSN)。该模块通过重新设计通道注意力和空间注意力,在保留 Transformer 强大建模能力的同时,严格遵守盲点约束,是无参考图像去噪领域的重大突破。


目录

    • 第一部分:模块原理与实战分析
      • 1. 论文背景与解决的痛点
      • 2. 核心模块原理揭秘
      • 3. 架构图解
      • 4. 适用场景与魔改建议
    • 第二部分:核心完整代码
    • 第三部分:结果验证与总结

第一部分:模块原理与实战分析

1. 论文背景与解决的痛点

在没有干净参考图(Ground Truth)的情况下进行图像去噪(即自监督去噪),通常采用盲点网络(BSN)。它的核心逻辑是:利用周围的像素预测中心像素,因为噪声通常是独立的,而图像信号是相关的。

然而,现有的 BSN 几乎全是用 CNN(特别是扩张卷积)做的,因为卷积很容易设计成“不看中心点”。Transformer 虽然在图像复原(如 Restormer)中效果拔群,但想用在 BSN 里却有两个致命缺陷:

  1. 通道注意力的泄露:在多尺度架构中,下采样操作会将空间信息混入通道维度,导致计算通道注意力时“偷看”到了中心像素。
  2. 空间注意力的泄露:标准的 Self-Attention 计算全局或窗口相关性时,Query 会不可避免地和自身的 Key/Value 交互,直接破坏了盲点假设。

痛点总结:我们需要一种既有 Transformer 的长距离建模能力,又能像扩张卷积一样严格屏蔽中心像素的注意力机制。

2. 核心模块原理揭秘

为了解决“既要 Transformer 强,又要 BSN 盲”的矛盾,TBSN 提出了两个核心魔改模块。我已将其封装为即插即用的 PyTorch 类:

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/1191043.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

2026-01-20

CF Problem - 1829G - Codeforces(dp好题) 状态转移方程: \[f_{i,j}= \begin{cases} 1 & i=1 \\ f_{i-1,j-1} + f_{i-1,j} - f_{i-2,j-1} & i>1 \end{cases} \] 要注意这里需要减去\(f_{i-2,j-1}\)(两者…

大数据毕设项目推荐-基于hadoop的山东瓜果蔬菜分析系统【附源码+文档,调试定制服务】

java毕业设计-基于springboot的(源码LW部署文档全bao远程调试代码讲解等) 博主介绍:✌️码农一枚 ,专注于大学生项目实战开发、讲解和毕业🚢文撰写修改等。全栈领域优质创作者,博客之星、掘金/华为云/阿里云/InfoQ等平台优质作者、…

2025年阿胶批发指南:揭秘线下口碑前五强的实力商家,阿胶类/阿胶类产品/阿胶糕/阿胶产品/膏方类产品/膏方/阿胶/非遗膏方阿胶品牌推荐榜单

随着大健康产业的蓬勃发展,阿胶作为传统滋补佳品,市场需求持续旺盛。对于寻求稳定货源与可靠品质的批发商、渠道商及品牌方而言,选择一家实力雄厚、口碑卓著的源头供应商至关重要。线下合作因其深度沟通、实地考察与…

2026深圳燃气热水器售后品牌推荐:百乐满热水器官方电话、百乐满热水器维修电话、百乐满热水器报修电话、百乐满官网选择指南

2026深圳燃气热水器售后品牌推荐:百乐满热水器官方电话、百乐满热水器维修电话、百乐满热水器报修电话、百乐满官网选择指南2026深圳燃气热水器售后品牌推荐:聚焦专业度与安全的3家头部服务商选择指南 对于深圳家庭或…

【毕业设计】基于Python网易云音乐排行榜数据分析系统设计与实现(源码+文档+远程调试,全bao定制等)

java毕业设计-基于springboot的(源码LW部署文档全bao远程调试代码讲解等) 博主介绍:✌️码农一枚 ,专注于大学生项目实战开发、讲解和毕业🚢文撰写修改等。全栈领域优质创作者,博客之星、掘金/华为云/阿里云/InfoQ等平台优质作者、…

实用指南:如何使用U盘在Windows电脑上按装Fedora43 KDE?

pre { white-space: pre !important; word-wrap: normal !important; overflow-x: auto !important; display: block !important; font-family: "Consolas", "Monaco", "Courier New", …

阿里领导给的Java八股文,包括15条技术线,已助1900人进入大厂

为了更高的薪水跳槽无可厚非,但你要把握好一个度。举个例子,如果你每次都只是为了能增长3%的年薪,而频繁地换工作。当HR看到你的简历时,你会被认为是一个对公司没有忠心、对自己的事业没有远见的人如何准备?除了平时的…

【新】基于SSM的高校自助洗衣系统【源码+文档+调试】

💕💕发布人: 星河码客 💕💕个人简介:混迹java圈十余年,精通Java、小程序、数据库等。 💕💕各类成品Java毕设 。javaweb,ssm,springboot等项目&…

大数据毕设项目推荐-基于django的城市房产价值的数据分析与预测系统的设计与实现基于Python的智能房价分析与预测系统【附源码+文档,调试定制服务】

java毕业设计-基于springboot的(源码LW部署文档全bao远程调试代码讲解等) 博主介绍:✌️码农一枚 ,专注于大学生项目实战开发、讲解和毕业🚢文撰写修改等。全栈领域优质创作者,博客之星、掘金/华为云/阿里云/InfoQ等平台优质作者、…

5款AI PPT工具测评:免费又实用,这些工具值得推荐!

5款AI PPT工具测评:免费又实用,这些工具值得推荐!作为一名在职场摸爬滚打多年的打工人,我深知做 PPT 的痛苦。好不容易熬夜把 PPT 做好,结果临到汇报前,领导突然提出新的要求,又得重新修改&…

ros2 run 配置参数

在ROS2中&#xff0c;通过ros2 run配置节点参数主要涉及命令行参数传递、参数文件和Launch文件集成三种方式。以下以ROS2 Jazzy为例详细说明&#xff1a; 1️⃣ 命令行直接传递参数 ros2 run <package_name> <executable_name> \--ros-args \-p <parameter_name…

这份4577页的Java面试PDF,让我成功斩获阿里、字节等大厂offer

我为大家准备了一份超级全面的Java 学习面试笔记&#xff0c;这份电子版笔记涵盖了诸多后端技术栈的面试题和答案&#xff0c;相信可以帮助大家在最短的时间内复习Java后端的大多数技术点和面试题&#xff0c;从而拿到自己心仪的offer。共4577页。整体还是比较清爽的&#xff0…

目标检测系列之YOLOv2——更好、更快、更强 - 实践

目标检测系列之YOLOv2——更好、更快、更强 - 实践pre { white-space: pre !important; word-wrap: normal !important; overflow-x: auto !important; display: block !important; font-family: "Consolas"…

垃圾处理器真实体验测评:5款热门机型使用体验全解析

垃圾处理器真实体验测评&#xff1a;5款热门机型使用体验全解析作为一个家电测评作者&#xff0c;我测试过超过20款垃圾处理器&#xff0c;而我自己的家庭使用垃圾处理器也已经超过5年。今天&#xff0c;我不谈枯燥的参数&#xff0c;只想和你分享真实的使用体验&#xff1a;垃…

5款AI PPT工具测评:免费好用的AI PPT工具推荐,真

5款AI PPT工具测评&#xff1a;免费好用的AI PPT工具推荐作为一名在职场摸爬滚打多年的打工人&#xff0c;我深知做 PPT 的痛苦。多少次&#xff0c;我都在深夜为了一份 PPT 绞尽脑汁&#xff0c;好不容易做好了&#xff0c;老板却突然提出新的需求&#xff0c;一切又得从头再来…

2026年五大营销全案策划咨询公司,哪家比较靠谱?

摘要&#xff1a;2026 年国内消费市场进入 “存量博弈 需求分层” 阶段&#xff0c;企业核心需求从短期流量增长转向长期品牌与业绩双增长&#xff0c;专业营销策划咨询公司的体系化助力成为刚需。本文以 “解决企业实际增长问题” 为核心&#xff0c;构建 “战略深度、落地效…

大数据毕设项目推荐-基于机器学习的房子价值预测系统的设计与实现python房价预测系统的设计与实现【附源码+文档,调试定制服务】

java毕业设计-基于springboot的(源码LW部署文档全bao远程调试代码讲解等) 博主介绍&#xff1a;✌️码农一枚 &#xff0c;专注于大学生项目实战开发、讲解和毕业&#x1f6a2;文撰写修改等。全栈领域优质创作者&#xff0c;博客之星、掘金/华为云/阿里云/InfoQ等平台优质作者、…

OIFC 2026省选 0119

*歌 song 大胆容斥。 序列可被看成若干段,每一段元素不重,且除首尾段外,其余长度 \(k\)。考虑枚举首段长度 \(l\),我们想钦定这是第一段长度最小的划分方式,于是考虑把划分点向前平移一定长度,则每一段都被分为两…

【新】基于SSM的毕业生就业管理系统【源码+文档+调试】

&#x1f495;&#x1f495;发布人&#xff1a; 星河码客 &#x1f495;&#x1f495;个人简介&#xff1a;混迹java圈十余年&#xff0c;精通Java、小程序、数据库等。 &#x1f495;&#x1f495;各类成品Java毕设 。javaweb&#xff0c;ssm&#xff0c;springboot等项目&…

教学思考

我今天汇报的这个题目是我在跟一线老师接触过后,零零散散的一些这种思考。其实 一直没有机会把它很系统的进行一个梳理。也感谢我们今天没有在场的闫世刚老师,他要请我来做这个报告。 所以我觉得做报告是个非常好的一…