跳到正文
原文
arXiv q-bio.NC(Neurons and Cognition)·· 10 小时前AI 评分51

明尼苏达大学Tanishq Mathew Abraham团队提出MindEye2,用1小时fMRI数据实现图像重建

MindEye2: Shared-Subject Models Enable fMRI-To-Image With 1 Hour of Data

AI 导读

明尼苏达大学Tanishq Mathew Abraham团队等提出MindEye2,先在7名受试者数据上预训练,再用新受试者仅1小时的fMRI训练数据微调,即可重建其看到的图像。

AI 要点
团队
第一作者 Paul S. Scotti,末位作者 Tanishq Mathew Abraham,共 11 位作者,含 Thomas Naselaris、Kenneth A. Norman。
主要结果
仅用 1 小时 fMRI 训练数据即实现高质量图像重建,图像检索与重建指标优于单被试方法。
解决什么问题
此前模型需按被试单独训练,每人要数十小时昂贵 fMRI 数据,实用性受限。
方法
先在 7 名被试上预训练,再对新被试少量数据微调;线性映射到共享被试潜空间,再非线性映射到 CLIP 空间,用微调的 Stable Diffusion XL 生成像素图像。
局限
从研究设计看,预训练依赖 7 名被试的既有数据,新被试仅做少量数据微调验证。

AI 依据原文整理,未经人工核对。

点击跳转原始链接arxiv.org

来源:arXiv q-bio.NC(Neurons and Cognition) · arxiv.org