[論文レビュー] DreamDiffusion: Generating High-Quality Images from Brain EEG Signals

Yunpeng Bai, Xintao Wang+4 more|arXiv (Cornell University)|Jun 29, 2023

EEG and Brain-Computer Interfaces被引用数 17

ひとこと要約

DreamDiffusionは、時系列マスク付き信号モデリングでEEGエンコーダを事前学習し、EEG、テキスト、画像空間をCLIP監視で整合させて事前学習済みStable Diffusionモデルを条件付けることにより、EEG信号から直接高品質な画像を生成します。

ABSTRACT

This paper introduces DreamDiffusion, a novel method for generating high-quality images directly from brain electroencephalogram (EEG) signals, without the need to translate thoughts into text. DreamDiffusion leverages pre-trained text-to-image models and employs temporal masked signal modeling to pre-train the EEG encoder for effective and robust EEG representations. Additionally, the method further leverages the CLIP image encoder to provide extra supervision to better align EEG, text, and image embeddings with limited EEG-image pairs. Overall, the proposed method overcomes the challenges of using EEG signals for image generation, such as noise, limited information, and individual differences, and achieves promising results. Quantitative and qualitative results demonstrate the effectiveness of the proposed method as a significant step towards portable and low-cost ``thoughts-to-image'', with potential applications in neuroscience and computer vision. The code is available here \url{https://github.com/bbaaii/DreamDiffusion}.

研究の動機と目的

• 思考をテキストへ翻訳することなく、EEG信号から直接画像生成を促進・実現する。
• 大規模なEEGデータを活用して堅牢な意味表現を学習する。
• CLIP監視を通じてEEG表現をテキスト空間および画像空間と整合させ、拡散ベースの生成を改善する。
• 携帯型で低コストのブレイン→画像生成の実現可能性と潜在力を示す。

提案手法

• 大規模でノイズの多いEEGデータ上でEEGエンコーダを事前学習するための時間的マスク信号モデリング。
• 限られたEEG-画像ペアを用いてEEG条件付きクロスアテンションで事前学習済みStable Diffusionモデルを微調整する。
• EEG埋め込みをCLIP互換空間へ変換し、CLIPベースの監視を適用してEEG、テキスト、画像の埋め込みを整合させる。
• 固定CLIP画像エンコーダを用いてEEG由来埋め込みと画像埋め込みの整合を監視する。
• EEG条件付けと拡散デノイジング目的を組み込む損失でSDを最適化する。

実験結果

リサーチクエスチョン

• RQ1 EEG信号を用いて思考のテキスト翻訳なしで高品質な画像を生成できるか？
• RQ2 ノイズを含み変動するEEGデータと限られたEEG-画像ペアから、どのように堅牢なEEG表現を学習できるか？
• RQ3 CLIPベースの監視は拡散ベースの生成においてEEG、テキスト、画像空間の整合を改善するか？

主な発見

• DreamDiffusionは質的比較でBrain2Imageより高い画像品質を達成する。
• 高いEEGMSMマスク比率（0.75）は設計されたタスクで最良のアブレーション性能をもたらす。
• CLIP監視はEEG埋め込みと画像/テキスト埋め込みの整合を大幅に改善し、画像生成品質を高める。
• 400人超の被験者からの約12万 EEGサンプルでの事前学習は下流生成のための堅牢なEEG表現を生む。
• EEG条件付けとCLIP整合を用いたStable Diffusionの微調整により、EEG信号から現実的な画像合成を実現する。
• アブレーション研究は、事前学習、CLIP整合、クロスアテンション成分の性能への重要性を示す。