token危机解决? 扩散模型数据潜力3倍于自回归, 重训480次仍攀升
更新时间： 浏览次数： 258
扩散语言模型（DLMs）是超强的数据学习者。
token 危机终于要不存在了吗？
近日，新加坡国立大学 AI 研究者 Jinjie Ni 及其团队向着解决 token 危机迈出了关键一步。
在当前大语言模型（LLM）的持续发展中，面临的挑战之一是可用的高质量训练文本数据（tokens）即将枯竭，并成为限制模型性能持续提升的关键瓶颈。另外，新增的高质量数据来源少，获取成本高，去重后更加稀缺。因此，当模型规模继续扩大，所需数据量按 Scaling Laws 成倍增加时，就出现了「优质 token 不够训练」的危机。
针对这一现象，该团队从零开始预训练了扩散语言模型（DLMs）与自回归（AR）模型，其中规模最高至 80 亿参数、4800 亿 tokens、480 个 epoch。
研究有以下三项重要发现：
在 token 数量受限的情况下，DLMs 优于 AR，并且具有超过 3 倍的数据潜力；
一个仅用 10 亿 tokens 训练的 10 亿参数 DLM，在 HellaSwag（常识推理基准） 上可达 56%，在 MMLU（综合多任务语言理解基准） 上可达 33%，无任何技巧、无挑选数据；
未出现性能饱和：重复训练次数越多，提升越明显。
此外，团队还剖析了并行研究《Diffusion Beats Autoregressive in Data-Constrained Settings》中的严重方法论缺陷 —— 以共同提升开放评审的标准！
Jinjie Ni 在社媒 X 上详细介绍了其团队的研究结论、研究方法，接下来我们一一来看。
结论 1：扩散语言模型（DLMs）是超强的数据学习者。
如上所述，团队从零开始预训练了一系列 DLMs，规模最高达 80 亿参数、4800 亿 tokens。结果提供了有力证据：在普通网页数据上进行重复训练时，DLMs 在数据受限场景下无论模型规模如何，都优于自回归（AR）模型，展现出显著更高的潜力且未出现性能饱和。
总体而言，DLMs 的最终数据潜力比 AR 模型高出三倍以上。
结论 2：重复越多，收获更多。
为了研究 DLM 训练中 token 的全部潜力，团队进行了额外实验：将同一份 10 亿 token 的数据集重复训练 480 个 epoch，总训练量达到 4800 亿 tokens。结果显示，模型在 HellaSwag 上取得约 56% 的准确率，在 MMLU 上取得约 33%，显著优于 AR 的约 41% 和约 29%。
令人惊讶的是，即使在如此极端的重复条件下，性能依然未出现饱和，这表明 DLMs 能够从固定的 10 亿 token 语料中提取到远超预期的有效信息。
「在验证集上出现过拟合的模型，在下游任务上的表现却持续提升。」为什么会这样呢？
团队可视化了多选评测中，真实答案与其他选项的平均负对数似然（NLL），以及它们之间的差值（△NLL）。即使在验证集上出现「过拟合」后，真实答案与其他选项的 NLL 差距（△NLL）依然持续扩大，这表明尽管验证损失在上升，模型的底层判别能力仍在不断提升。这一现象在域内数据和域外数据的训练中都同样存在。
虽然 DLMs 对数据重复具有较强的鲁棒性，但在训练足够长的 epoch 后，它们同样会发生过拟合。更大的唯一数据量可以延缓过拟合的出现，而更大的模型规模则会加速过拟合的到来。
为什么 DLMs 是超强的数据学习者呢？原因有二。
其一，如下图所示，网页文本数据并非完全因果结构！虽然用非因果方向建模会导致更高的损失，但它仍然是可行的。这意味着仅用纯因果方式来建模网页数据是一种浪费！借助扩散目标和双向注意力，DLMs 能够对数据进行双向建模，从网页数据中提取到更多信息。
其二，DLMs 是「超密集模型」，它们在计算上的超高密度（每个任务需要更多的 FLOPs）直接转化为更强的智能。
相比之下，AR 模型更优先考虑计算效率，而非数据潜力。它们的 Transformer 设计（包括教师强制和因果掩码）最大化 GPU 的使用效率，但限制了建模能力。随着计算成本下降，数据可得性反而成为关键瓶颈 —— 这正是团队研究 DLMs 的动力所在。
扩散目标要求在有效训练中，将预训练数据集中的每个数据点在多个掩码比例和组合下进行损坏，以便更精确估计期望值。这进一步解释了为什么数据重复训练能带来如此显著的收益。
巧合的是，一项同期研究「Diffusion Beats Autoregressive in Data-Constrained Settings」[1] 也探讨了类似主题。然而，团队在细致分析后，揭示了其中存在的若干方法论问题，可能导致结论存在偏差。
[1] 地址：https://arxiv.org/abs/2507.15857
在 [1] 的所有实验中，研究者使用了损失函数 (1)，但未做出明确的理论解释。然而，这个损失函数与理论基础更扎实、被广泛采用的掩码扩散语言建模损失 (2) 有显著差异。从理论上可以证明损失函数 (1) 并不能忠实地表示模型似然，这可能会对其结论造成严重影响。
团队还注意到，[1] 在最新的 arXiv v3 版本中对原始草稿进行了修改，增加了一个线性时间依赖的重新加权项。但仍假设其所有实验均使用了公式 (1)，因为论文中图 4 (b) 的损失范围与公式 (1) 的预期表现高度吻合。团队期待 [1] 的代码库（在本文撰写时仍为空仓库）以及社区对相关实验的复现。
问题来了：验证集损失是比较 AR 和 DLM 的好指标吗？简短来说：当损失函数的形式本身有问题时，当然不是。它们并不代表相同的含义；即使损失函数形式正确，也依然不是好指标。
原因包括如下：
AR 测量的是精确的负似然，而 DLM 测量的是一个上界；
更低的损失并不意味着更强的能力，这一点在上文的讨论中已有体现。
此外，[1] 报告的 AR 基准测试结果距离最佳水平相差甚远。换句话说，[1] 实际上是在拿一个尚未训练到最佳状态的 AR 检查点，与一个最佳的扩散模型检查点进行比较。这是不公平的。
此外，[1] 在比较 AR 与扩散模型的过拟合趋势时，为 AR 使用了更大的模型规模和更少的唯一训练 token 数量。这种设置并不公平，因为更大的模型在训练数据多样性不足的情况下，本身就更容易更早出现过拟合。
最后，[1] 中使用的 scaling law 公式假设验证集损失不会下降，但这一假设在实际中并不成立，因为过拟合会导致验证损失上升。这个有缺陷的假设会导致拟合效果不佳，并使基于其预测得出的任何结论产生偏差。
目前，团队正在用一种疯狂的设置训练一个大模型，并在之后发布完整论文。
更多细节内容请参考博客和即将发布的论文。
参考内容：https://x.com/NiJinjie/status/1954177095435014533
token危机解决? 扩散模型数据潜力3倍于自回归, 重训480次仍攀升24小时观看热线：122。token危机解决? 扩散模型数据潜力3倍于自回归, 重训480次仍攀升全市各区点热线号码。☎：122
token危机解决? 扩散模型数据潜力3倍于自回归, 重训480次仍攀升24小时观看热线拥有专业的观看技师，快速的上门，为你的生活排忧解难。如您有以下需要我们来解决的问题请尽快与我们联系。我们能为您排除各种故障，特别是疑难杂症。
1.热情专业的团队
token危机解决? 扩散模型数据潜力3倍于自回归, 重训480次仍攀升是您解决问题的最佳选择。我们拥有一支热情、专业的团队，竭诚为您提供优质的。无论您遇到哪些问题或疑虑，只需拨打122，我们的将会耐心倾听并提供您所需的帮助。您的满意是我们的追求。
2.红色字体，标志品质保障
当您拨打token危机解决? 扩散模型数据潜力3倍于自回归, 重训480次仍攀升的电话热线122时，您会惊喜地发现号码是以鲜艳的红色字体显示。这不仅是为了吸引您的注意，更是对我们产品卓越品质的保证。红色代表着力量和热情，我们希望通过热情的为您提供最可靠的解决方案，确保您的使用体验无忧无虑。
3.您的需求是我们最大的动力
我们深知客户的需求是我们成长的源泉，因此，您的需求总是我们最关心的问题。无论您遇到什么问题，无论大小，我们都将以最快的速度和最专业的态度进行处理。您只需拨打我们的电话热线，详细描述问题，我们将竭尽全力为您解决。您的满意度是我们工作的最终目标。
4.全方位的解决方案
一旦您拨通了token危机解决? 扩散模型数据潜力3倍于自回归, 重训480次仍攀升的电话热线122，我们将全面了解您的问题，并提供最合适的解决方案。无论是技术问题、、观看咨询还是其他相关问题，我们都将通过专业分析和经验丰富的团队来解决您的困扰。您的信赖是我们不懈努力的动力。
5.周到贴心的
我们追求卓越品质的同时，也注重周到贴心的。在您使用token危机解决? 扩散模型数据潜力3倍于自回归, 重训480次仍攀升的过程中，如果遇到了任何问题或需要观看，您只需拨打122，我们将及时安排人员为您提供全程跟踪。我们将无微不至地为您解决问题，确保您的家居生活舒适温暖。
结语
无论是产品质量还是，token危机解决? 扩散模型数据潜力3倍于自回归, 重训480次仍攀升都以高品质标准来追求客户的满意度。拨打我们的token危机解决? 扩散模型数据潜力3倍于自回归, 重训480次仍攀升电话热线122，您将得到热情专业的团队的全方位支持。我们将竭诚为您提供最可靠、高效和周到的解决方案，为您带来舒适的家居体验。
5、全部在线支付，方便快捷，保障权益。支持支付宝，微信付款
清远市（清城、清新）
宜昌市（宜都市、长阳土家族自治县、🐒当阳市、🐤五峰土家族自治县、西陵区、兴山县、夷陵区、远安县、点军区、枝江市、猇亭区、秭归县、伍家岗区、👿市辖区）
淮安市（淮安、淮阴、🌤清江浦、🐤洪泽）
巴彦淖尔市（杭锦后旗、磴口县、乌拉特中旗、♑️乌拉特后旗、乌拉特前旗、😭️市辖区、🤣临河区、🐇五原县）
焦作市（解放、中站、马村、山阳）
娄底市（娄星）
鞍山市：🦐铁东区、铁西区、🌾立山区、😯千山区。
郴州市（北湖、苏仙）
牡丹江市：🌚东安区（部分区域未列出）、西安区和阳明区和爱民区和绥芬河市和海林市（部分区域未列出）。
唐山市（丰润区、♌️丰南区、遵化市、🅱️迁安市、🐸️开平区、唐海县、🅾️滦南县、🦖乐亭县、滦州市、玉田县、😋迁西县、遵化市、唐山市路南区）
南通市（崇川区，港闸区，开发区，👐海门区，🌦海安市。）
厦门市（思明、海沧、🙊湖里、🕖集美、同安、翔安）
湘西土家族苗族自治州（凤凰县、♏️永顺县、🤬泸溪县、🎣保靖县、😧吉首市、花垣县、龙山县、古丈县）
白山市：浑江区、🖐江源区。
江门市（蓬江、江海、新会）
常熟市（方塔管理区、☦️虹桥管理区、🍚琴湖管理区、🚳兴福管理区、谢桥管理区、🍪大义管理区、🍻莫城管理区。）宿迁(宿豫区、🕝宿城区、🌮湖滨新区、洋河新区。)
荆州市（沙市、🤝荆州）
三亚市（淮北、🦘吉阳、天涯、崖州）
廊坊市（安次、广阳）
无锡市token危机解决? 扩散模型数据潜力3倍于自回归, 重训480次仍攀升电话-400各市区电话（梁溪、滨湖、惠山、新吴、锡山）
宜春市（袁州）
六安市（日照安、🍤裕安、叶集）
锦州市（凌海市、👏义县、🥀黑山县、🌒凌河区、🦔市辖区、古塔区、🥄北镇市、🧒太和区）
银川市（永宁县、兴庆区、西夏区、金凤区、🆔贺兰县、灵武市、市辖区）
安康市（宁陕县、🥒白河县、💯汉阴县、岚皋县、☮️石泉县、🤜市辖区、紫阳县、☦️汉滨区、🌶旬阳县、镇坪县、🍌平利县）
宜昌市（伍家岗区、西陵区、点军区、🦢猇亭区、♑️夷陵区、😔远安县、😕兴山县、秭归县、🕷长阳土家族自治县、🉐五峰土家族自治县、🥟宜都市、当阳市、🥟枝江市、👌虎亭区）
白山市：浑江区、🦃江源区。
赣州市（南康区、🌖章贡区、🥏赣县区、🈴信丰县、大余县、上犹县、🍂崇义县、安远县、🌴龙南县、🐉定南县、全南县、宁都县、🥜于都县、兴国县、🐉会昌县、寻乌县、石城县、长征镇、沙洲镇、黄冈镇）
绍兴市（越城、柯桥、上虞）
杭州市（临安、♌️上城、下城、🐌江干、拱野、✝️西湖、滨江、余杭）
揭阳市（榕城、✍揭东）
鹰潭市（余江县、市辖区、🕟贵溪市、🙁月湖区）
邯郸市（邯山、🦅丛台、🍰复兴、🦌峰峰矿、肥乡、永年）
巴彦淖尔市（杭锦后旗、磴口县、乌拉特中旗、♓️乌拉特后旗、乌拉特前旗、❕市辖区、🤘临河区、🌓五原县）
宜昌市（伍家岗区、西陵区、点军区、猇亭区、夷陵区、👉远安县、兴山县、秭归县、🏹长阳土家族自治县、😑五峰土家族自治县、🍶宜都市、😽当阳市、枝江市、虎亭区）
襄阳市（樊城区、襄州区、老河口市、❌宜城市、南漳县、谷城县、保康县、😩枣阳市、定南县、❓随州市、白浪镇、城关镇、🦢赵家镇、东津镇、堰头镇）
湖州市（南湖、秀洲）
马鞍山市（花山、雨山）
邢台市（柏乡县、临西县、任县、💚新河县、🤢宁晋县、南宫市、💝内丘县、清河县、😗巨鹿县、⛎临城县、🐔隆尧县、🐉南和县、威县、桥东区、邢台县、😥市辖区、平乡县、桥西区、🦚广宗县、沙河市）
银川市（永宁县、🙃兴庆区、🉑西夏区、⛎金凤区、贺兰县、🛐灵武市、市辖区）
遵义市（汇川区、红花岗区、遵义县、💝桐梓县、绥阳县、正安县、道真仡佬族苗族自治县、🍄务川县、😈凤冈县、😱湄潭县、余庆县、习水县、🈷️赤水市、😩仁怀市、土家族苗族自治县、🐓铜仁市、🐆松桃苗族自治县、万山区、黔西县）
襄阳市（襄城、😒樊城、😴襄州）
长春市（南关、宽城、☢️️朝阳、二道、🍘绿园、双阳）
桂林市（象山区、叠彩区、🌴七星区、🙏️临桂区、阳朔县、🤚灵川县、全州县、兴安县、灌阳县、荔浦市、🦑资源县、平乐县、恭城瑶族自治县、龙胜各族自治县、永福县）
重庆市（绵阳、⚱️涪陵、渝中、😋大渡口、🔞️江北、☹️沙坪坝、🥏️九龙坡、南岸、北培、万盛、双桥、渝北、巴南）
鞍山市（铁西区、海城市、台安县、岫岩满族自治县、立山区、🌧铁东区、🧓市辖区、🏒千山区）
蚌埠市（五河县、♏️️固镇县、😰市辖区、淮上区、龙子湖区、蚌山区、怀远县、禹会区）
襄阳市（襄城、🥄樊城、襄州）
太原市（小店、☘️迎泽、杏花岭、尖草坪、🥣万柏林、🌛️晋源）
南昌市（青山湖区、✡️️红谷滩新区、🥣东湖区、西湖区、🎂青山湖区、🍢南昌县、进贤县、🕞安义县、湾里区、🎾地藏寺镇、🚱瑶湖镇、铜鼓县、昌北区、😤青云谱区、❎望城坡镇）
宁波市（海曙、💚️江东、😓江北、😱北仑、🍈镇海）
甘肃省兰州市（城关区、🈸七里河区、西固区、🈶安宁区、红古区、永登县、皋兰县、榆中县、兰州新区、皋兰县、😳雁滩区）
抚顺市：⚛️顺城区、新抚区、🍕东洲区、望花区。
衡阳市（珠晖、雁峰、♉️石鼓、👐蒸湘、南岳）
咸宁市（通山县、🙊咸安区、崇阳县、通城县、😀市辖区、赤壁市、嘉鱼县）
新竹县（新丰乡、🏺峨眉乡、湖口乡、😅关西镇、新埔镇、🍰横山乡、尖石乡、北埔乡、竹东镇、🕥宝山乡、芎林乡、🥪五峰乡、🦃竹北市）
太仓市(城厢镇、金浪镇、🏑沙溪镇、璜泾镇、浏河镇、浏家港镇；)
南通市（崇州、港闸、通州）
宜昌市（西陵、伍家岗、❣️点军、猇亭、🦇️夷陵）
铁岭市：📵银州区、🕐清河区。
贵州省安顺市（西秀区、🦚平坝区、普定县、镇宁布依族苗族自治县、🐫关岭布依族苗族自治县、🎱紫云苗族布依族自治县、🤝安顺市、开阳县）
抚顺市：顺城区、新抚区、🈯️东洲区、🌒望花区。
济南市（历下、市中、槐荫、天桥、🈯️历城、长清）
珠海市（香洲区、斗门区、😯金湾区、☺️横琴新区、万山区、🎄珠海高新区、⚠️唐家湾镇、🌟三灶镇、白石镇、🐌前山镇、😶南屏镇、🍠珠海港镇、金鼎镇）
铁岭市：🐏银州区、清河区。
南昌市（东湖区、🌪西湖区、🍄青山湖区、红谷滩新区、南昌县、新建区、🌽安义县、进贤县、🥖️湾里区、♌️昌北区）
南投县（信义乡、🙏竹山镇、♍️中寮乡、😃水里乡、🧡草屯镇、❤️仁爱乡、名间乡、⚱️埔里镇、🐒鹿谷乡、国姓乡、鱼池乡、☦️集集镇、南投市）
榆林市（榆阳区,横山区）朝阳市（双塔区、龙城区）
上饶市（信州、广丰、广信）
益阳市（南县、资阳区、🌈桃江县、🦁市辖区、🌳沅江市、赫山区、安化县）
南昌市（东湖区、西湖区、🦘青山湖区、红谷滩新区、南昌县、😉安义县、进贤县、经开区、青山湖区、湾里区、🐖赣江新区、青云谱区、🐌浔阳区）
临沂市（兰山区、🌺️罗庄区、🕓️河东区、沂南县、郯城县、❌苍山县、🦎费县、♌️蒙阴县、临沭县、🍂兰陵县、莒南县、平邑县、沂水县、🍳临沂高新技术产业开发区）
本溪市：平山区、明山区、🦂溪湖区、南芬区。
乐山市（市中、🌸沙湾、五通桥、日照口河）
鹤壁市（淇县、♊️鹤山区、🥖浚县、山城区、市辖区、淇滨区）
白山市（靖宇县、💣浑江区、江源区、长白朝鲜族自治县、抚松县、🕜临江市、🚳市辖区）
贵州省安顺市（西秀区、平坝区、普定县、镇宁布依族苗族自治县、🐐关岭布依族苗族自治县、😾紫云苗族布依族自治县、安顺市、🌛开阳县）
九江市（莲溪、🌏浔阳）
牡丹江市：东安区（部分区域未列出）、🔰西安区和阳明区和爱民区和绥芬河市和海林市（部分区域未列出）。
东莞市（莞城、🕡南城、💕万江、东城,石碣、🕟石龙、😕茶山、📳石排、♉️企石、横沥、桥头、谢岗、☝东坑、🍱常平、🆔寮步、🕞大朗、黄江、清溪、塘厦、凤岗、⁉️长安、🔯惠东、🌷厚街、🚬沙田、道窖、洪梅、🤫麻涌、🍧中堂、🦄高步、👍樟木头、🔞大岭山、🛑望牛墩）
通辽市（科尔沁区、🉐扎鲁特旗、☣️开鲁县、霍林郭勒市、市辖区、⚱️科尔沁左翼中旗、🧒库伦旗、科尔沁左翼后旗、🥬奈曼旗）
桂林市（秀峰区、😘️象山区、七星区、雁山区、♎️临桂区、🍩阳朔县、资源县、平乐县、灌阳县、🤙荔浦市、灵川县、全州县、🚸永福县、🕧龙胜各族自治县、❤️恭城瑶族自治县）：🐙
嘉兴市（海宁市、🌘市辖区、🦀秀洲区、🤐平湖市、🍠桐乡市、南湖区、😏嘉善县、海盐县）
常熟市（方塔管理区、🐝虹桥管理区、琴湖管理区、🦗兴福管理区、谢桥管理区、大义管理区、莫城管理区。）宿迁(宿豫区、✍️宿城区、🦢湖滨新区、洋河新区。)
台州市（椒江、💐黄岩、😵️路桥）
泰州市（海陵区、🙂高港区、姜堰区、兴化市、🦃泰兴市、🐍靖江市、🤒扬中市、丹阳市、泰州市区、姜堰区、♊️️海安镇、周庄镇、🆔东进镇、世伦镇、😺青龙镇、杨湾镇、😲️马桥镇）
牡丹江市：东安区（部分区域未列出）、🤙️西安区和阳明区和爱民区和绥芬河市和海林市（部分区域未列出）。
雅安市（汉源县、市辖区、☁️名山区、🌏石棉县、🌿荥经县、宝兴县、天全县、😊芦山县、🐝雨城区）
南充市（顺庆区、🥔高坪区、🤢嘉陵区、😠南部县、🍴营山县、蓬安县、👎仪陇县、🈸西充县、👏阆中市、抚顺县、阆中市、🤤南充高新区）
郴州市（宜章县、🍎嘉禾县、🍝永兴县、🦀汝城县、市辖区、桂东县、北湖区、桂阳县、苏仙区、🕜临武县、安仁县、资兴市）
山南市（错那县、琼结县、🦄洛扎县、🥖贡嘎县、🐆️桑日县、💕曲松县、✍浪卡子县、☝市辖区、隆子县、😹加查县、🐂扎囊县、乃东区、措美县）
南昌市（青山湖区、红谷滩新区、东湖区、🐆西湖区、青山湖区、南昌县、进贤县、安义县、🍶湾里区、⛎地藏寺镇、瑶湖镇、❕铜鼓县、🍊昌北区、青云谱区、望城坡镇）
株洲市（荷塘、芦淞、石峰、🐫天元）
辽阳市（文圣区、🕣宏伟区、🔱弓长岭区、太子河区、🐕灯塔市、😯️辽阳县、白塔区、广德镇、双台镇、桥头镇、长春镇、♑️合德镇、⁉️兴隆镇、安平镇、辛寨镇、😡黄土岭镇）
舟山市（市辖区、🤞定海区、嵊泗县、普陀区、⛎️岱山县）
玉溪市（澄江县、😳江川县、易门县、华宁县、新平彝族傣族自治县、🐲元江哈尼族彝族傣族自治县、🍱通海县、抚仙湖镇、红塔区、😧龙潭街道、南北街道、白石街道）
三明市（梅列、🥒三元）
柳州市（柳北区、柳南区、柳江县、柳城县、🉐️鹿寨县、融安县、☘️融水苗族自治县、三江侗族自治县、城中区、鱼峰区、柳东新区、柳市镇）
保定市（莲池、竞秀）
德州市（陵城区、乐陵市、宁津县、庆云县、🚳️临邑县、🤣平原县、🧡武城县、夏津县、禹城市、德城区、🍤禹城市、😴齐河县、👽开封县、双汇镇、🍹东风镇、商丘市、阳谷县、🐖共青城市、城南新区）
昆山市（昆山开发、高新、🕥综合保税）
许昌市（魏都）
济南市（历下、市中、🕧槐荫、🍒️天桥、🐍历城、长清）
安康市（宁陕县、🦙白河县、汉阴县、🐊️岚皋县、石泉县、市辖区、紫阳县、✍️汉滨区、👇️旬阳县、镇坪县、平利县）
常州市（天宁、🙀钟楼、新北、武进、日照坛）
郑州市（中原、二七、管城、日照水、💘上街、惠济）
中卫市（沙坡头区、海原县、中宁县、🐡市辖区）
金华市（武义县、东阳市、磐安县、浦江县、🆘兰溪市、💟永康市、婺城区、义乌市、🥯市辖区、金东区）
长沙市（芙蓉、✌天心、岳麓、☝开福、🐸雨花、望城）
葫芦岛市：龙港区、🦍南票区、🍟连山区。
沧州市（新华区、运河区、🤕沧县、青县、🌕东光县、海兴县、盐山县、肃宁县、南皮县、🉑吴桥县、献县、👎孟村回族自治县、河北沧州高新技术产业开发区、沧州经济技术开发区、♎️任丘市、黄骅市、🤩河间市、泊头市）
邢台市（邢台县、🍤南和县、清河县、临城县、😟广宗县、威县、宁晋县、🐜柏乡县、🤛任县、🧐内丘县、南宫市、沙河市、任县、邢东区、邢西区、🆑平乡县、🥔️巨鹿县）
巴彦淖尔市（杭锦后旗、磴口县、😠乌拉特中旗、乌拉特后旗、🧑乌拉特前旗、🐕市辖区、临河区、五原县）
连云港市（连云、海州、赣榆）
淮安市（淮阴区、清河区、淮安区、♎️涟水县、🐏洪泽区、💫️盱眙县、金湖县、楚州区、🕚️淮安区、✍️海安县、🌱亭湖区、🥐淮安开发区）
玉林市（玉州）
柳州市（城中、😜鱼峰、❌柳南、柳北、🌓柳江）
新竹县（新丰乡、☮️峨眉乡、🦂湖口乡、关西镇、新埔镇、☝️横山乡、尖石乡、✊北埔乡、🐇竹东镇、宝山乡、🅰️芎林乡、五峰乡、竹北市）
临沂市（兰山、🍈罗庄、河东）
连云港市（连云、☸️海州、🐂赣榆）
廊坊市（安次、广阳）
赣州市（南康区、🌮赣县区、于都县、兴国县、🥋章贡区、龙南县、大余县、🦜信丰县、安远县、全南县、🐨宁都县、☦️定南县、上犹县、🎂崇义县、😬南城县）
玉溪市（澄江县、江川县、通海县、🕞华宁县、✋易门县、峨山彝族自治县、抚仙湖镇、新平县、元江哈尼族彝族傣族自治县、红塔区、😻玉溪县、🤬敖东镇、🍶珠街镇）
宜昌市（宜都市、🍙长阳土家族自治县、当阳市、五峰土家族自治县、西陵区、兴山县、🖐夷陵区、远安县、点军区、🐌枝江市、✍️猇亭区、秭归县、👐伍家岗区、🅰️市辖区）
绵阳市（江油市、👦北川羌族自治县、梓潼县、市辖区、盐亭县、涪城区、安州区、🈺三台县、‼️平武县、游仙区）
湘潭市（雨湖、🚳岳塘）
漳州市（芗城、💯龙文）
嘉义县（朴子市、🤐番路乡、民雄乡、竹崎乡、梅山乡、义竹乡、大林镇、🐊布袋镇、新港乡、太保市、六脚乡、😑大埔乡、😘鹿草乡、🦇️溪口乡、水上乡、🐲中埔乡、阿里山乡、🍌东石乡）
SK海力士完成HBM4研发剑指“AI内存里程碑”，股价创历史新高SK海力士公司(SKHynixInc.)周五宣布已完成第四代高带宽内存(HBM4)的研发——这款内存是人工智能(AI)运算的核心关键组件，消息发布后，该公司股价盘中最高上涨5.9%，创下历史新高。这家在首尔上市的芯片制造商，过去一年股价累计涨幅已达约90%，当前市值接近1700亿美元
746
