来源: 来稿 作者: 卞一之
路透社11月17日发表独家调查,发现中国企业及研究机构正越来越广泛地利用美国先进人工智能模型生成的数据,训练本土AI产品,以降低开发成本,并缓解美国先进芯片出口限制带来的压力。
路透社查阅超过300份中国学术论文、专利、企业披露、招聘公告及政府文件,发现一种称为“模型蒸馏”的技术,已从学术实验逐渐进入中国AI产业的实际应用。
模型蒸馏通常利用能力较强的模型生成答案、程序代码或解决问题的示范,再将这些结果用于训练规模较小的模型。开发者因此能够重复利用先进模型生成的数据,以较低成本获得部分能力,但无法完整复制原始模型,也不能完全替代先进芯片。
具体案例包括上海交通大学研究人员2024年11月发表的论文。他们从OpenAI的o1模型取得约5000份答案,利用GPT-4o mini翻译整理成10750个双语训练样本,用于进一步训练阿里巴巴的Qwen2.5-72B模型。
2025年4月,阿里巴巴研究人员又发表论文,介绍利用GPT-4和GPT-4o生成多语言训练材料,经过筛选及评分后训练较小的通义千问模型。今年2月,上海交通大学与美团研究人员也披露,使用GPT-4o生成多智能体协作方案,训练处理编程任务的较小模型。
这种技术本身并不违法,全球AI行业均有应用。不过,OpenAI与Anthropic的服务条款限制未经许可利用其模型输出训练竞争产品。
三名知情人士向路透社透露,美中官员今年7月在成都举行的会议上曾就此发生分歧。美国商务部官员警告,大规模收集美国AI模型输出用于训练竞争系统,部分行为可能构成知识产权侵权。中方则强调蒸馏属于标准AI开发技术,并表示愿意处理确实涉及侵权的行为,但没有作出具体承诺。
一名美国官员认为,大规模蒸馏是中国模型缩小与美国技术差距的主要原因。但两名熟悉中国AI开发情况的人士指出,算法、工程、数据及模型设计的进步同样发挥作用。
中国今年1月发布的人工智能与制造业融合政策支持模型训练、微调和蒸馏技术,但没有要求企业蒸馏美国模型。
- 免费PC翻墙、安卓VPN翻墙APP
- 灵魂之谜|中华文化|治国大道
路透社指出,蒸馏可能削弱美国芯片出口限制的部分效果,但也可能使中国开发者持续依赖美国模型的技术突破。部分中国研究人员警告,过度依赖蒸馏可能抑制自主创新。
没有评论:
发表评论