相聚QCon | 快手邀您探讨大模型技术应用与实践

演讲主题：《超大规模集群下大语言模型训练的最佳实践》

演讲简介：

针对超大规模集群下的大语言模型训练，快手总结出了一套效率更高的方案。该方案在超长文本场景下、在不改变模型表现的情况下，训练效率相较 SOTA 开源方案有显著的吞吐提升。通过细致的建模，可保证 Performance Model 十分接近真实性能，基于此 Performance Model，解决了大模型训练调参困难的问题。

本次演讲，刘育良老师将结合在快手超算集群上的大模型训练经验，阐述大模型训练在超大规模集群下遇到的挑战和热点问题的演变，以及对应的解决方案。同时，针对最具挑战的超长文本场景，进行案例分析。最后，会根据未来大模型的发展趋势，对训练领域的技术探索方向进行探讨。

演讲主题：《快意大模型在短视频互动场景的应用探索》

演讲简介：

大模型数据对齐这一研究方向近期得到越来越多的关注，其对于提升模型的理解和决策能力的重要性不言而喻。快意大模型于 2023 年 4 月启动研发，包含 13B/66B/175B 三种参数规模，经过 3T+ tokens 的预训练以及高质量 SFT 数据微调，在 MMLU/CEVAL/GSM-8K 等榜单上取得领先成果，红蓝对抗评测接近 GPT-4。

本次演讲，刘澈老师将重点分享快意大模型在微调阶段的数据工程以及对齐技术，以及基于快意大模型在快手短视频互动场景中打造 C 端智能助理 -AI小快的相关研发经历。听众能够通过本次演讲，了解到快意大模型对齐过程中所遇到的问题和优化方案，以及人格化情感陪伴大模型在落地中可能遇到的挑战和相关解决方案，和未来需要持续优化的方向。

演讲主题：《大规模服务架构治理与架构合理性度量》

演讲简介：

架构师在当前遇到了比以往更艰巨的挑战：既要考虑成本，又要考虑服务质量，还要考虑业务创新，在这种复杂的情况下，如何实现高质量的架构设计，成为了一个重要的问题。

快手目前用户活跃规模数亿，线上服务数的规模达到数万个、在线服务实例达到数百万。随着业务体量增大、业务形态增多，过程中会逐渐显露出在工程架构依赖、领域架构设计、服务运行健康度上的负债和负担，体现各种工程、架构、服务设计的架构不合理问题，严重拖累和制约研发效率和稳定性。

本次演讲，刘中兵老师将分享快手面对业务架构演进中各种架构问题的解决思路与最佳实践经验，包括如何建立工程架构合理性的评估手段、如何制定一套工程架构治理的最佳实践和治理方案、治理工具，以及如何推动和指导各业务线架构师进行架构治理和升级等。

演讲主题：《亿级粉丝大 V 下的交易高性能架构与成本优化》

演讲简介：

快手电商月购买用户数已经过亿，上亿粉丝的大 V 直播秒杀期间，单件秒杀商品可能达到数百万件，单品最高秒杀请求达每秒百万次。为了应对大 V 这种不定时、脉冲式的秒杀流量，快手电商交易服务常态化保持较高的系统容量，随着电商业务的不断高速发展，业务复杂度持续升高，接口性能上涨、用户体验变差、系统成本上升等问题也越来越明显。如何构建出更加高效、稳定的应用，以满足不断增长的业务需求？大模型和云原生时代，应用的性能优化是否有新的思路？

本次演讲，张钦贤老师将介绍快手电商交易如何在百万级并发秒杀下建设高性能的系统架构，降低接口耗时、提升用户体验；与此同时，如何通过一系列系统白盒化的思路优化成本，对计算和存储资源做合理分配和使用，打造交易下单的极致性价比。