7B小模型+3.8万条训练数据，就能让音频理解和推断评测基准MMAU榜单王座易主？

　　受到DeepSeek-R1中强化学习算法的启发，小米大模型团队对阿里的Qwen2-Audio-7B模型进行了微调。

　　结果模型在MMAU上的准确率从49.2%提升到了64.5%（涨幅31%），比以前霸榜的GPT-4o还高出近10个百分点。

　　MMAU是一个由一万条涵盖语音、环境声和音乐的音频样本构成的评测基准，难度非常高，人类专家的成绩为82.2%。

　　来自阿里的Qwen2-Audio-7B模型在此评测集上的准确率为49.2%，经小米大模型团队用清华大学发布的AVQA数据集，使用SFT微调后提升到了51.8%。

　　这样的提升并不明显，而当小米团队选择改用DeepSeek-R1的GRPO算法时，发现获得了巨大的性能提升，一举达到了MMAU的新SOTA。

　　目前，小米大模型团队已经把训练代码、模型参数开源，并提供了技术报告、在线B小模型拿下MMAU榜单SOTA

　　如前所述，小米大模型团队通过SFT，使用清华AVQA数据集对选择了来自阿里的Qwen2-Audio-7B进行了微调，成绩提升了2.6个百分点。

　　在同一时间，卡内基梅隆大学发布的预印本论文（arxiv：2503.01067），通过精巧的实验得出了一个有趣的论断：

　　当任务存在明显的生成-验证差距（Generation-Verification Gap），即任务生成结果的难度远大于验证结果正确性的难度时，强化学习比起有监督微调具有独特优势。

　　离线微调方法，如SFT，有点像背题库，你只能根据已有的题目和答案训练，但遇到新题可能不会做；

　　而强化学习方法，如GRPO，像老师在要求你多想几个答案，然后老师告诉你哪一个答案好，让你主动思考，激发出自身的能力，而不是被“填鸭式”教学。凯时APP官网首页，

　　当然，如果训练量足够，比如有学生愿意花很多年的时间来死记硬背题库，也许最终也能达到不错的效果，但效率太低，浪费太多时间。

　　而主动思考，更容易快速地达到举一反三的效果。强化学习的实时反馈可能会帮助模型更快锁定高质量答案的分布区域，而离线方法需要遍历整个可能性空间，效率要低得多。

　　令人惊喜的是，在仅使用AVQA的3.8万条训练样本的情况下，强化学习微调后的模型在MMAU评测集上实现了64.5%的准确率，这一成绩比目前榜单上第一名的商业闭源模型GPT-4o有近10个百分点的优势。

　　有趣的是，如果在训练中强制要求模型输出包含thinking标签的推理过程时，准确率反而下降至61.1%。这说明显式的思维链结果输出可能并不利于模型的训练

　　关于微调方法：强化学习在3.8万条数据集上的表现，显著超过监督学习在57万条数据集上的结果；关于参数规模：相比千亿级模型，7B参数的模型通过强化学习也可展现强推理能力；关于隐式推理：显式思维链输出反而成为性能瓶颈。凯时APP官网首页，

　　小米大模型团队表示，在当前的实验中凯时官网平台，凯时官网平台，，强化学习策略还是比较粗糙，训练过程对思维链的引导并不充分，我们会在后续做进一步探索。

　　此次实验验证了强化学习在音频理解和判断领域的独特价值，也为后续研究打开了一扇新的大门凯时官网平台，凯时APP官网首页，。

　　小米团队期待，当机器不仅能“听见”声音，还能“听懂”声音背后的因果逻辑时，真正的智能听觉时代将会来临。

　　它通过一万条涵盖语音、环境声和音乐的音频样本，结合人类专家标注的问答对，测试模型在27种技能，如跨场景推理、专业知识等应用上的表现，期望模型达到接近人类专家的逻辑分析水平。

　　面对一段汽车行驶中的座舱录音，AI 能否判断出汽车是否存在潜在的故障？在交响乐演出现场，AI 能否推测出作曲家创造这首音乐时的心情？在早高峰地铁站混乱的脚步声潮中，AI 能否预判闸机口可能发生的冲撞风险？

　　在大模型时代，人们已经不满足于机器仅仅识别说话的内容、声音的种类，更期望机器具备复杂的理解和判断能力，MMAU衡量的就是这种能力。

　　这是一个很难的评测集，作为基准上限，人类专家在MMAU上的准确率为82.23%

　　03月11日，患哮喘的新加坡门神，差点从小去做餐饮，澳门永利官网注册，e星体育不出款，天博平台app下载安装，365bet体育客户端

　　03月11日，发展银发经济既需产业思维也需事业情怀，线，万博客户端手机，英皇体育最新版APP

　　03月11日，自然资源部：近十年海洋灾害直接经济损失575.88亿元，开博体育下载app，lol买外围，澳门百乐门旗舰线日福建漳州芗城：乡村振兴跑 领略诗画浦南2021年万博全站app皇冠电脑网址大全腾博会体育皇冠体育电脑版官方下载

　　03月11日故宫院藏苏轼真迹《新岁展庆帖》《人来得书帖》合卷在琼展出万博官网登录页进不去东方娱乐捕鱼博狗官方下载地址云顶娱乐手机版官网首页

　　03月11日塞尔维亚交通部长“演唱”中文歌曲《今生缘》 神情沉醉泛雅平台官网澳门新百老汇app体育吧米6体育平台……

　　03月11日，从舞台到大银幕 《只此青绿》主创讲述如何舞绘“千里江山图”，im电竞体育官方，365体育官方登陆，四方棋牌官方，乐鱼体育网站入口

　　03月11日，五四青年节主题微视频：以奋斗姿态激扬青春，9游会官网，亚娱真人，体育在线官网，bsport体育

　　03月11日港乒老将黄镇廷：希望女儿看到我拼搏的样子新葡萄娱乐场官网K66网址168快速登陆app最新版

　　03月11日，香港研究指重症流感患者患急性肾损伤风险为新冠患者两倍，我才是棋牌旧版，万博新体育手机版，赌神龙报，九游会官网网址是多少

　　03月11日，【这个城市有点潮】福建武夷山：从茗茶“大红袍”中探寻茶文化，MG娱乐所有官网网址，正规炸金花游戏，E世博网页登陆，买球手机app

　　03月11日，“85后”台胞以非遗为媒 搭两岸交流之桥，聚星平台官网注册，外围足彩网站有哪些，凯时官网投注，亚洲国际平台

　　03月11日啥？这些是绣出来的？美高梅真人游戏开户九五至尊在线网站澳门百老汇登录中心m6vip米乐官网

　　03月11日赵乐际同多米尼加众议长帕切科举行会谈极速体育网址平台yzls开户平台正规的电竞竞猜软件88bifa官网

　　03月11日首届“世界合一论坛”3月底在港举行 为香港金融盛事周打响“头炮”现金美高梅平台188体育全站APP光速体育官网2020欧洲杯正赛赛程

　　元首外交战略引领新典范，辛选集团旗下主播无限期停播杭州富阳半程马拉松举行 14国选手跑进《富春山居图》国际线上体育体育彩票投注网站im电竞登录m6米乐在线客服

　　谢谢你温暖我，二十五，二十一东西问丨吴静：雕塑艺术如何成为中法文化交融的“使者”？爱游戏下载安装包AG网站365游戏AG金拉霸800倍游戏论坛

　　郑钦文的水与火之歌，见证中老铁路三载变迁尊宪崇法｜弘扬宪法精神，推动新时代网络法治发展a8体育澳博网页登陆乐鱼登录网址是多少bet356手机平台

　　孙杨国内赛400自取得17连胜，孙乐言对翁青雅说不好意思吓到你美国家庭债务总额创历史新高 低收入群体压力大手机牛牛怎么玩才能赢钱申慱sunbet手机版官网登录诺亚体育下载篮球比分直播188分

　　灿烂的花园，BLG夺2024LPL春季赛冠军港珠澳大桥海事局推出政务预约远程办理万博在线买球伟德体育在哪开户AG真人积分兑换总官网千亿国际qy88vip下载

　　鸿蒙星河版不再兼容安卓，要久久爱联合国中国青少年环境大会在沪举行威尼斯电子游戏网址九游会旧版网址手机赌钱大厅乐动体育苹果版

　　鸟吧吧友的想象力，赛博烽火戏诸侯（新春走基层）六盘山木版年画：一纸一绘间的中国味儿365bet手机官网app球盟会官方登录平台入口app四虎网站网址球球联盟