12.23 源创会 · 上海站,聊聊 LLM 基础设施
https://ZhouSa.com 简介
角色 | 功能 |
---|---|
生产端 | 发布消息(Qos0、Qos1)、发布定时消息(Qos0、Qos1)、发布重试 |
消费端 | 订阅、取消订阅 |
消费端 | 消费-ACK(自动、手动) |
服务端 | 发布-Confirm、订阅-Confirm、取消订阅-Confirm、派发-Retry、派发-Delayed |
服务端 | 内存运行、快照持久化(自动、停机、手动) |
服务端 | 集群热扩展 |
特点
- 高吞吐量、低延迟
FolkMQ 纯内存运行,每秒能处理几十万条消息,最低延迟不到1毫秒。
- 可扩展性
FolkMQ Broker 集群支持 folkmq-server 节点热扩展。流量高时随时加,流量低时可减
- 持久性、可靠性
消息被快照持久化(类似于 redis)到本地磁盘,并且支持数据备份防止数据丢失
- 高可用
集群内任何节点坏掉只要还有“一个”同类节点,仍可提供服务
- 快(单机版,180K TPS)。有点像 Redis 之于 MySql。
//使用 MacBook pro 2020 + JDK8 本机测试,单客户端发与收(跑分难免有波动,我是选了好看点的)
本次更新
- 完善 集群可用性(只要有一个节点即可用)
- 优化 节点断链灵敏度(毫秒级)
- 修复 scheduled 特殊情况下引发派发慢的问题
代码仓库
- https://gitee.com/noear/folkmq
- https://github.com/noear/folkmq
还没有评论,来说两句吧...