“本源悟空”全球首次运行十亿参数级AI大模型微调任务
中新社合肥4月7日电 (记者 张俊)记者7日从安徽省量子计算工程研究中心获悉,中国第三代自主超导量子计算机“本源悟空”近日完成全球首次运行十亿参数级AI大模型微调任务。
本次任务由本源量子计算科技(合肥)股份有限公司(简称“本源量子”)、合肥综合性国家科学中心人工智能研究院等联合攻关完成的。实验结果显示,在参数量减少76%的前提下,AI大模型训练效果反而提升8.4%。这一成果不仅验证了量子计算助力实现大模型轻量化的可行性,更为破解大模型“算力焦虑”开辟了新路径。
大模型微调是指在通用大模型的基础上,通过进一步训练特定领域数据,使其适应医疗诊断、金融风控等专业场景。传统低秩微调面临性能瓶颈、泛化能力有限等问题,量子计算凭借其叠加态和纠缠态特性可同时探索海量参数组合,提升大模型微调的效率。
本源量子副总裁窦猛汉介绍,团队创新设计了一种量子加权张量混合参数微调的方法,将模型权重转化为量子神经网络与张量网络混合架构,前者通过量子门操作提取高维非线性特征,张量网络则压缩参数规模。
在“本源悟空”的量子芯片上,AI大模型单批次数据可生成数百个量子任务并行处理。实验数据显示,优化后的模型在心理咨询对话数据集上训练损失降低15%,数学推理任务的严格准确率从68%提升至82%。合肥综合性国家科学中心人工智能研究院副研究员陈昭昀表示,这是量子计算首次“真机实战”AI大模型任务,证明现有硬件已能初步支撑大模型微调。
截至目前,“本源悟空”超导量子计算机全球访问已覆盖139个国家和地区,完成35万个量子运算任务,涵盖流体动力学、金融、生物医药等多个行业领域。(完)
-
学习卡丨“人不负青山,青山定不负人”
生态环境是关系党的使命宗旨的重大政治问题,也是关系民生的重大社会问题。习近平总书记多次指出,必须站在中华民族永续发展根本大计的高度,尊重自然、顺应自然、保护自然,建设人与自然和谐共生的现代化,建设望得见山、看得见水、记得住乡愁的美丽中...
-
警惕!这些行为,或在损害你的眼健康 - 全国“爱眼日”
眼睛是我们身体中最“卷”的器官——工作学习时为我们收集海量信息,闲暇时又陪我们刷手机直至休息。然而,我们的许多行为正在伤害眼睛,使自己从“眯眼仔”变成“近视预备队员”,从“熬夜冠军”变成“干眼受害者”。值此6月6日全国“爱眼日”之际,带...
-
全国爱眼日丨出现这些症状 是眼睛在报警!
今天(6日)是第30个全国“爱眼日”今年的活动主题是关注普遍的眼健康高度近视有多危险?儿童青少年、老年人如何防控近视?一起了解↓↓你的近视有多少度?近年来近视已成为影响我国儿童青少年生长发育及国民健康的重大公共卫生问题之一根据国家卫健委的《...
-
近观“两山”丨多彩中国
“像保护眼睛一样保护生态环境,像对待生命一样对待生态环境”。 对生态文明建设,习近平总书记念兹在兹。党的十八大以来,从江河湖泊到林海荒漠,从湿地草原到青山沃野,总书记推动生态文明建设的足迹遍及神州大地。他强调,在全面建设社会主义现代化国...
-
高考后的“摘镜潮”:如何科学选择近视手术?
中新网6月6日电 (赵方园)在屏幕几乎填满生活的今天,日均屏幕使用时间超过8小时,近视已成为影响我国国民尤其是儿童青少年眼健康的重大公共卫生问题。今年6月6日是第三十个全国“爱眼日”,主题是“关注普遍的眼健康”。眼健康涉及全年龄段人群,不同年龄...
-
微视频|共建清洁美丽世界
视频:微视频|共建清洁美丽世界来源:新华社近年来,全球多地出现高温热浪、严重干旱、致命洪灾等极端天气事件。以人类共同的前途命运为怀,习近平主席曾在多个国际场合发出真诚呼吁。在巴西亚马孙流域,中巴合作建设的美丽山特高压输电项目,不仅帮助...