（来源：上观新闻）
一家正在寻求🕉🔗500亿🥢🙍♂️美元估值的硅谷💗🚛明星企业，其最核🇷🇺⛵心的竞📻争力，竟然👩✈️必须悄悄🧱建立在一个来🧜♀️自中国的🇩🇯基础模型🇧🇶之上——而且，🇱🇺🇿🇼开发这个🇦🇪🦗模型的🐈让娇妻尝试三P公司估值😧🦂仅有1⛲🇸🇿80亿美🗯元🌘📹。同时，OpenA🍈🦹♀️I的付费用户规模🌡缩小了1.5%🇰🇿。
但是，这🇦🇲🇲🇲种连接还是不完善🍣🇦🇽的，用久了，大🏌️♀️🏜家就发现了一个🕳核心痛点📃——层数越深，残🍅🈁差里的有效🍓信息越容易被稀释🐴🧕，早期层的📘关键信息直🇨🇦🚚接被埋住☣🦜。具体来🤩说，团队发🐂🇲🇨布了三个主要资🔤👰源：Nemot🥼🔘让娇妻尝试三Pron👮让娇妻尝试三P-Cascad❗🎽e-2-30B-🚋🤳A3B模型本身，🇳🇫这是基于Nem⏹👨🦰otron-🔦😢3-N🏂ano-30B-🔥A3B🍓-Base进行⛹️♀️后训练的🔤最终模型⚫；Nemot🐌ron-Casc🤸♂️👮ade-2-SF📩T-Da🇭🇳🌮ta，🐑🇹🇨包含了监🍴🍇督微调阶段使用🏍🕦的所有数🕤据集；Ne🏚motr♒🇻🇮on-Ca⬆🇦🇺scade-🇩🇯2-RL-D🇲🇵ata，包含🐎了强化学习阶段使📒🦗用的所有🇨🇰😣数据集🤢。
图源：官🇳🇪⚓网 Cyberd7️⃣eck的另💷一个特🖋🧣点在于兼容所有的🧑CLI工具和⚜Agent工具🐧🌥。它依然重要🎎🔒，但不再是唯一🌟💰值得盯着看的地方🇱🇰📧。研究团🥋🧞♀️队还特🇺🇿别关注了语言一🍩😁致性的改进，😗这是W🌃ALA🛶R方法解决🤾♀️的核心问👨👨👧👦题之一🏁。这意味着即📄使对于那些缺乏平🛩行翻译语料的语言🌭，我们也能够🔱训练出相对高质👇⚜量的翻译系统🎱👟。
