发布日期：2024-12-31 19:15 点击次数：53
近日，一项对于大模子核状貌论“Scaling Law”的发源盘考正在外网激烈张开。最新不雅点和笔据标明，中国科技巨头比OpenAI更早罢显明这一碎裂。
著名媒体《南华早报》在其报谈《百度在OpenAI之前就发现了Scaling Law？AI领域的狡辩从头燃起》中指出，尽管好意思国在AI模子翻新方面一直被视为率先者，但最新的盘考夸耀，中国在探索这些见识上可能更为超前。
大模子发展的中枢是“Scaling Law”——这一原则以为，磨砺数据和模子参数越大，模子的智能才略就越强。这一念念想芜俚归功于OpenAI在2020年发表的论文《Scaling Laws for Neural Language Models》，自那以后，这个见识已成为AI磋磨的基石。
然则，OpenAI论文的合著者、前OpenAI磋磨副总裁、Anthropic独创东谈主Dario Amodei，在11月的一期播客中显现，他在2014年与在百度磋磨AI时，就还是发现了模子发展的规矩Scaling Law这一征象。Dario Amodei示意，跟着提供给模子的数据量增多、模子范围的扩大以及磨砺时代的延迟，模子的性能启动显贵栽植。这一非认真实不雅察自后在OpenAI的GPT-1讲话模子中得到了考据，并被以为是大模子发展的“金口玉音”。
此外，行业东谈主士也发文称，对于Scaling Law的原始磋磨推行上来自2017年的百度，ag百家乐积分有什么用而不是2020年的OpenAI。Meta磋磨员、康奈尔大学博士候选东谈主Jack Morris在X（前Twitter）上援用了一篇标题为《Deep Learning Scaling is Predictable, Empirically》论文，论文于2017年由百度硅谷东谈主工智能实验室发布，扎眼盘考了机器翻译、讲话建模等领域的Scaling征象。
但这篇论文的进攻性被严重冷落，OpenAI在2020年的Scaling Law磋磨中援用了百度磋磨东谈主员在2019年发表的论文 《Beyond Human-Level Accuracy: Computational Challenges in Deep Learning》（卓绝东谈主类水平的准确性： 深度学习的蓄意挑战）。品评者称，OpenAI有采选地援用了百度2019年的论文，而忽略了2017年早些时候的磋磨，而该磋磨才是Scaling Law见识的简直原始着手。
有磋磨者示意，恰是百度的早期磋磨为AI大模子的发展奠定了表面基础，并在2019年发布了第一代文心大模子，简直与OpenAI处于兼并时期。“中国在大型模子方面的高出也取得海外认同。”据《南华早报》，在上海举行的百度全国大会2024上，百度晓喻了新时期，用以裁减图像生成中的幻觉问题——即生成误导性或事实不一致的图像。百度还显现，限度11月初，百度文心大模子的日均调用量还是达到了15亿，相较一年前初度清晰的5000万次，增长约30倍。
跟着AI时期的束缚高出和诈欺的潜入，中国在群众AI领域的影响力和引导地位将愈加突显。
