Skip to main content
QUICK REVIEW

[论文解读] End-to-End Rubbing Restoration Using Generative Adversarial Networks

Gongbo Sun, Zijie Zheng|arXiv (Cornell University)|May 8, 2022
Generative Adversarial Networks and Image Synthesis被引用 5
一句话总结

本文提出 RubbingGAN,一种生成对抗网络,通过学习张猛龙碑书法的审美风格,实现对不完整汉字拓片的修复。该模型在新收集的包含337个完整字符和34个不完整字符的数据集上进行训练,能够以高保真度有效修复轻微和严重损坏的拓片,在风格迁移和图像生成质量方面优于基线 GAN 模型,MSE 和 FID 分数均表现优异。

ABSTRACT

Rubbing restorations are significant for preserving world cultural history. In this paper, we propose the RubbingGAN model for restoring incomplete rubbing characters. Specifically, we collect characters from the Zhang Menglong Bei and build up the first rubbing restoration dataset. We design the first generative adversarial network for rubbing restoration. Based on the dataset we collect, we apply the RubbingGAN to learn the Zhang Menglong Bei font style and restore the characters. The results of experiments show that RubbingGAN can repair both slightly and severely incomplete rubbing characters fast and effectively.

研究动机与目标

  • 解决由于风化和老化导致的文化意义重要但已退化的汉字拓片修复难题。
  • 开发一种深度学习模型,能够保留历史拓片独特的艺术与风格细节。
  • 创建首个针对拓片修复的专用数据集,包含来自张猛龙碑拓片的完整与不完整字符。
  • 通过从真实拓片样本中学习字体风格,实现对不完整字符的端到端修复。
  • 在历史拓片修复这一特定任务上,超越现有图像修复与风格迁移方法。

提出的方法

  • 作者从张猛龙碑拓片中收集了337个完整字符和75个测试字符,构建了首个专用的拓片修复数据集。
  • 设计了一种条件 GAN 框架,其中生成器在不完整输入图像的条件下学习合成张猛龙碑风格的字符。
  • 模型采用基于 U-Net 的生成器和基于 Patch 的判别器,以在训练过程中保持图像的局部与全局一致性。
  • 训练目标结合了对抗损失、L1 损失和感知损失,以同时保留结构细节与风格真实性。
  • 模型使用不完整与完整字符的成对数据进行训练,优化过程持续 4000 至 9800 次迭代。
  • 评估采用 MSE、FID 及像素级差异的视觉检查等指标,以评估修复质量。

实验结果

研究问题

  • RQ1深度生成模型能否有效学习并再现张猛龙碑等历史汉字拓片的独特艺术风格?
  • RQ2与现有图像修复方法相比,基于 GAN 的方法在修复轻微和严重不完整拓片方面的表现如何?
  • RQ3该模型在未见的不完整字符上,能在多大程度上保持风格一致性与结构准确性?
  • RQ4所提出的 RubbingGAN 是否在生成高保真度拓片风格字符方面优于现有 GAN 模型(如 pix2pix 和 zi2zi)?
  • RQ5该模型能否在定量与定性两个方面达到文化遗存保护专家水平的修复性能期望?

主要发现

  • RubbingGAN 的风格相似性误差(MSE)为 0.0005846,优于 pix2pix(0.0006128),并接近 zi2zi(0.0005028)的性能。
  • FID 得分为 204.9481,表明图像生成质量优于 pix2pix(218.6381)和 zi2zi(270.6007),证实了更好的样本多样性与真实感。
  • 该模型成功修复了轻微和严重损坏的字符,视觉结果表明重建结果合理且风格一致。
  • 像素级差异分析显示,超过 90% 的生成区域与预期缺失部分匹配,强度差异超过 253,表明对损坏区域的修复准确。
  • 生成器在训练过程中稳定收敛,表现出对未见不完整字符样本的鲁棒性与泛化能力。
  • 所提出的数据集与代码已公开发布于 https://github.com/qingfengtommy/RubbingGAN,支持可复现性与未来研究。

更好的研究,从现在开始

从阅读论文到最终审阅,大幅缩短您的研究时间。

无需绑定信用卡

本解读由 AI 生成,并经人工编辑审核。