开云(中国)Kaiyun·官方网站 - 登录入口但在东说念主工智能这一迅速发展的鸿沟中-开云「中国大陆」Kaiyun·官方网站 - 登录入口
IT 之家 12 月 20 日音讯开云(中国)Kaiyun·官方网站 - 登录入口,以 ChatGPT 等为代表的大型话语模子(LLMs)在往时几年中越来越擅长管理和生成东说念主类话语,但这些模子在多猛进程上模拟了东说念主类大脑提拔话语管理的神经经过,还有待进一步进展。
据 Tech Xplore 18 日报说念,哥伦比亚大学和费因斯坦医学商榷所的商榷团队近期进行了一项商榷,探索了 LLM 与大脑神经反应的相似性。商榷标明,跟着 LLM 时刻的越过,这些模子不仅在性能上有所熏陶,况且结构上也越来越接近东说念主类大脑。
论文的第一作家加文・米施勒(Gavin Mischler)在采纳 Tech Xplore 采访时默示:"咱们撰写这篇论文的灵感源流于频年来 LLM 和神经 AI 商榷的迅速发展。"
"几年前,有几篇著作高慢,GPT-2 的词镶嵌与东说念主脑对话语的神经反应有一定相似性,但在东说念主工智能这一迅速发展的鸿沟中,GPT-2 如今还是落伍,算不上最庞大。"
"自从 ChatGPT 发布后,流露了很多更庞大的模子,但对于这些新模子是否仍然贯通出调换的大脑相似性,干系商榷却并未几。"
米施勒偏激团队的主要认识,是研讨最新一代的 LLM 是否依然贯通出与东说念主类大脑相似的特征。商榷东说念主员对 12 个不同的开源 LLM 进行了分析,这些模子在架构和参数数目上险些一致。同期,他们也通过在神经外科患者的脑部植入电极纪录其听到话语时的大脑反应。
米施勒评释说念:"咱们还将雷同的演讲文本输入 LLM,并索求其词镶嵌,这些镶嵌是模子里面用来管理和编码文本的默示。为了臆度这些 LLM 与大脑的相似性,咱们尝试通过展望大脑对词语反应的神经行径来评估它们的对应性。通过这种步地,咱们不错了解两者的相似度。"
在数据网罗后,商榷东说念主员运用操办器用分析 LLM 与大脑的对皆进程。他们荒谬热诚哪些档次的 LLM 与大脑中与话语管理干系的区域最为匹配。大脑对话语的反应已知会逐渐通过对语音的声学、语音学等因素的分析,建造话语的笼统表征。
米施勒默示:"咱们发现,跟着 LLM 才智的熏陶,这些模子的词镶嵌与大脑对话语的反应越来越接近。更出乎料思的是,跟着模子性能的熏陶,它们与大脑档次结构的对皆进程也有所提高。这意味着,话语管理经过中大脑不同区域索求的信息,与性能较强的 LLM 的不同档次索求的信息对比,愈加一致。"
这些商榷成果标明,贯通最佳的 LLM 更能准确反应大脑的话语管理反应。况且,这些模子的优秀贯通可能与其早期档次的高效性关联。
关联商榷成果还是在《当然・机器智能》期刊上发表开云(中国)Kaiyun·官方网站 - 登录入口,IT 之家附聚拢:点此赶赴