3月7日，湖北广电融媒体记者从武汉大学领会到，近日公布的全球权势巨子天然语言处置范畴-复杂语言理解测试SuPErGLUE 中，武汉大学-京东可信人工智能结合研究中心构成的梦之队(JDExplore Dream Team, d-team)参与此中，其提出的晋级版织女模子Vega v2超越同场竞技的谷歌、微软、OpenAI等业界顶尖企业，以总均匀分91.3分登顶SuperGLUE榜首，再次刷新复杂语言理解手艺世界记录。
武汉大学计算机学院相关负责人暗示，织女模子Vega v2凭仗60亿参数量规模大幅超越谷歌提出的5400亿超大模子PaLM的复杂语言理解性能，充实证了然武汉大学-京东可信人工智能结合研究中心天然语言理解手艺程度在超等深度进修范畴的全球领先地位。
织女模子Vega v2是在此前提出的模子Vega v1（15亿参数，GLUE榜单冠军）的根底长进行晋级，规模更大、性能更强。差别于一昧地扩大模子规模，Vega v2更接纳了一种高效的自进化进修办法，充实发掘预训练数据中蕴含的语义常识，以进一步激发模子天然语言理解性能，从而在有限的模子规模下即可训练得到高性能语言模子。
此外，为了实现模子的快速摆设，武汉大学团队还针对大规模语言模子提出了一种基于常识蒸馏的提醒进修算法，仅更新额外的5%模子参数即可实现大模子的有效使命迁徙。
据悉，武汉大学-京东可信人工智能结合研究中心是由武汉大学计算机学院与京东结合成立的科研机构，以从根底理论层面实现倾覆式立异为目的，配合开展科学研究与人才培育，研究范畴包罗可信人工智能、量子机器进修、超等深度进修及其别人工智能涉及的理论与手艺。结合研究中心自2021年成立以来，已累计颁发SCI一区/CCF A类期刊或会议等高程度研究论文40余篇，并在ICCV2021多目的跟踪竞赛的深度+视频大赛与全球天然语言处置范畴顶级测试GLUE大赛中获得世界第一的佳绩。
来源：湖北广电融媒体新闻中心
监造：郭小容
编审：康耀方 苏逸冰
记者：吴宝洪
编纂：骆璟 张煜
【来源：湖北新闻】
声明：此文版权归原做者所有，如有来源错误或者进犯您的合法权益，您可通过邮箱与我们获得联络，我们将及时停止处置。邮箱地址：jpbl@jp.jiupainews.com
发表评论