关于 transformer 的文章

昨夜，一位华为员工从传统开发岗成功转岗到AI大模型岗，在网上晒出自己100w的工资条并大胆示“爱”，在行业内掀起了阵阵热潮。如今，这股强劲的AI之风，终究还是吹到了传统网安领域，既...

上回书说到（），我们雄心勃勃地用Antigravity搭配Claude Opus 4.5，在我的RTX4070笔记本电脑上部署AutoGLM（），试图打造类似豆包手机的AI手机，最...

随着生成式AI技术的爆发式发展，大模型已深度渗透金融、医疗、工业、政务等关键领域，成为驱动产业数字化转型的核心引擎。然而，技术迭代的加速度与安全体系建设的滞后性形成鲜明反差，数据污...

在很多大模型平台上其实都已经内置了RAG知识库的功能，通常都是上传文档之后，做好分段切分，然后在调用大模型的时候就会关联上知识库进行输出。本篇就尝试本地开发一个RAG知识库，来学习...

DPKT：基于蒸馏预训练语言模型的新型知识追踪框架摘要：在在线智能教育系统中，知识追踪（KT）是构建真正个性化学习环境的核心，而学习者历史行为中蕴含的丰富文本语境对于提供定制化教学...

导读在ICML25上，快手、上交联合提出统一多模态生成理解模型Orthus——基于自回归Transformer的无损图文交错生成新范式。Orthus 不仅在多个视觉理解指标上超越了...

大型语言模型（LLM）虽然在知识任务中表现出色，但在数学证明、棋类推演等多步推理任务中屡屡受挫。根本原因在于Transformer架构的计算深度限制：其注意力机制只能执行固定步数的...

当模型和训练工具趋于成熟时，数据正成为决定性因素。数据探索能力的增强已经成为人工智能发展的主题。人工智能也正面临着从model-centric 时代向data-centric 时代...

迈向高效智能--Transformer的效率革命近年来，随着 ChatGPT 的横空出世，大语言模型成功实现“破圈”，深入融入人们的工作与生活，显著提升了各行各业的智能化水平。作为...

“ 在数字化浪潮中，大语言模型正深刻改变网络安全格局。恶意邮件、复杂日志……传统手段难以应对的挑战，如今可通过模型轻松化解。但你是否清楚，如何将大模型融入网络安全？如何抵御针对模型...