arXiv（brain-computer interface）·· 27 天前AI 评分39
Jev 以无 GPU 托管模型为语音神经假体重排序，性能匹配 7B 语言模型
Jev Matches 7B Language Models for Speech-Neuroprosthesis Rescoring
AI 导读
语音神经假体解码尝试性言语后需用数十亿参数语言模型对候选句重排序，是唯一依赖 GPU 的环节。在 ALS 受试者 978 句留出测试集上，已发表解码器单独词错误率为 8.1%，Jev 重排序后达 7.5%，优于 OPT-6.7b 与 Qwen2.5-7B 的 7.8%；解码器权重重调后为 6.9% 对 7.2% 和 7.4%。
AI 要点
团队
作者 Gabriele Cinà。
主要结果
978 句留出句上，Jev 词错率 7.5%，OPT-6.7b 与 Qwen2.5-7B 均为 7.8%；重调解码器权重后为 6.9% 对 7.2% 和 7.4%。
解决什么问题
语音神经假体解码末端的候选句重排序需用数十亿参数语言模型，是唯一需要 GPU 的环节，替换为更便宜的模型很难。
方法
把重排序设为一次带类型的决策调用，返回每个候选句的概率，与解码器自身分数结合；数据来自一名 ALS 受试者的 978 句留出句。
局限
从研究设计看，仅一名受试者、单一数据集；端到端延迟 262 ms，与本地 GPU 上的 7B 模型同量级但并不更快。
AI 依据原文整理，未经人工核对。
来源：arXiv（brain-computer interface） · arxiv.org