标签: 性能优化 (4 篇)

Simon Willison演示了TRE正则库如何免疫于让Python内置re模块崩溃的ReDoS攻击，揭示了传统回溯引擎的致命缺陷。

Holotron-12B通过优化推理效率和处理长上下文，成为高性能计算代理的有力工具，这对AI应用的拓展至关重要。

Ulysses序列并行性通过分布式计算解决了大语言模型训练中的长序列问题，显著提升了模型处理百万级token的能力。

专家混合模型（MoEs）通过提高计算效率和优化并行处理，正在成为Transformer模型的新趋势，推动了大规模语言模型的发展。