本帖最后由 sunsili 于 2023-7-14 10:37 编辑
开源 MQTT Broker 对比
截止 2020,物联网行业里可选的MQTT Broker有很多,除了经典的Mosquitto和AWS、Azure,百度云、阿里云、IBM等几个提供物联网MQTT接入服务的产品外,可用于商业生产的MQTT Broker还有多款。本文选取了几个热门开源的 MQTT Broker,其中部分项目提供商业支持,做简单选型对比。
对比项目 | EMQ | HiveMQ | VerneMQ | ActiveMQ | Mosquitto | License | 开源+商业版 | 开源+商业版 | 开源+商业版 | 开源 | 开源 | 公司/社区 | EMQ | HiveMQ | VerenMQ | Apache 基金会 | Eclipse 基金会 | 开源协议 | Apache License 2.0 | Apache License 2.0 | Apache License 2.0 | Apache License 2.0 | EPL/EDL licensed | 开发团队 | 杭州映云科技有限公司 | dc-square 股份有限公司,德国 | | Apache 项目维护者 | Eclipse 开源社区 | 开发语言 | Erlang | Java | Erlang | Java | C | 项目历史 | 2012年开始开源,2016年开始商业化 | 2013 年成立,一直以闭源方式向客户提供软件,2019 年开源 | 提供基于开源的商业化定制服务 | 2004 由 LogicBlaze 创建;原本规划的 ActiveMQ 的下一代开源项目 Apollo 已经不活动(4年没有代码更新) |
| 集群架构 | 支持 | 仅企业版 | 支持 | 支持 | 不支持(有伪集群实现) | 系统部署 | 物理机、虚拟机、K8S | 物理机、虚拟机、K8S | 物理机、虚拟机、K8S | 物理机、虚拟机、容器 | 物理机、虚拟机、容器 | 支持协议 | MQTT、CoAP、MQTT-SN、WebSocket、TCP、UDP、LwM2M | MQTT | MQTT | JMS、Openwire、Stomp、AMQP、MQTT、WebSocket XMPP | MQTT、WebSocket | 系统性能 | 单机性能较高,单机支持百万级并发,集群支持千万级并发 | 集群支持千万级并发 | 集群支持百万级并发 | 支持集群 | 单机10W | MQTT | v3.1,v3.1.1,v5.0 | v3.1,v3.1.1,v5.0 | v3.1,v3.1.1,v5.0 | v3.1 | v3.1,v3.1.1,v5.0 | 边缘计算 | EMQ X Edge 支持树莓派,ARM 等架构,支持数据同步到云服务 Azure IoT Hub AWS | 不支持 | 不支持 | 不支持 | 支持(自身比较轻量) | 安全与认证 | TLS/DTLS、X.509证书、JWT、OAuth2.0、应用协议(ID/用户名/密码)、数据库与接口形式的认证与 ACL 功能(LDAP、DB、HTTP) | TLS/DTLS、X.509证书、JWT、OAuth2.0、应用协议(ID/用户名/密码)、配置文件形式的认证与 ACL 功能 | TLS/DTLS、X.509证书、配置文件形式的认证与 ACL 功能、数据库形式的认证与 ACL 功能,但支持数据库较少 | LDAP (JAAS)、Apache Shiro | 等待 | 运行持久化 | 支持将消息数据持久化至外部数据库如 Redis、MySQL、PostgreSQL、MongoDB、Cassa、Dynamo 等,需企业版,开源版宕机则丢失 | 开源企业均支持本地持久化,采用磁盘系统,支持备份,导出备份 | 支持持久化至 Google LevelDB | AMQ、KahaDB、JDBC、LevelDB | 等待 | 扩展方式 | Webhook、Trigger、Plugin 等,支持 Erlang 与 Lua、Java、Python 扩展开发,支持 Webhook 开发,侵入性不强 | Trigger、Plugin 等,使用 Java 技术栈开发,提供方便开发的 SDK | Trigger、Plugin 等,支持 Erlang 与 Lua 扩展开发 | Java 扩展 | 等待 | 数据存储 | 仅企业版适配数据库:Redis、Mysql、PostgreSQL、MongoDB、Cassandra、OpenTSDB、TimescaleDB、InfluxDB 适配消息队列:Kakfa、RabbitMQ、Pulsar 桥接模式:支持桥接至标准 MQTT 协议消息服务
开源版支持 HTTP 将数据同步、存储 | 适配数据库:无,提供 Java SDK 开发进行适配
消息队列:Kafka 桥接模式:支持桥接至标准 MQTT 协议消息服务 | 适配数据库:无,提供 Erlang 和 Lua 扩展开发 适配消息队列:无 桥接模式:支持桥接至标准 MQTT 协议消息服务 | 适配数据库:JDBC、KahaDB、LevelDB 适配消息队列:无 桥接模式:支持通过 JMS 桥接 | 等待 | 管理监控 | 支持可视化的 Dashboard,实现集群与节点的统一集中管理 支持第三方监控工具 Prometheus ,提供可视化 Grafana 界面模板 | 支持可视化的 HiveMQ Control Center,实现集群与节点统一管理 支持第三方监控工具 Prometheus ,可提供可视化 Grafana 界面 支持 InfluxDB 监控 | 内置简单状态管理可视化界面 支持第三方监控工具 Prometheus ,可提供可视化 Grafana 界面 | 支持可视化的监控界面 支持第三方监控工具 Prometheus ,可提供可视化 Grafana 界面 | 通过 MQTT 订阅系统主题 | 规则引擎 | 支持规则引擎,基于 SQL 的规则引擎给予 Broker 超越一般消息中间件的能力。除了在接受转发消息之外,规则引擎还可以解析消息的格式(企业版)。
规则引擎由消息的订阅,发布,确认的事件触发,根据消息的负载来执行相应的动作,降低应用开发的复杂度。 | 不支持 | 不支持 | 不支持 | 不支持 | 开发集成 | 支持通过 REST API 进行常用的业务管理操作如: 调整设置、获取 Broker 状态信息、进行消息发布、代理订阅与取消订阅、断开指定客户端、查看客户端列表、规则引擎管理、插件管理,提供 Java SDK、Python SDK 直接编码处理业务逻辑 | 无,提供 Java SDK 在应用系统在编码的层面操作进程,非常灵活但耦合性高 | 提供少量 REST API,用于监控与状态管理、客户端管理等。 缺乏代理订阅、业务管理等功能和 API | 提供少量队列管理 REST API | 等待 | 适用场景 | 优势在于高并发连接与高吞吐消息的服务能力,以及物联网协议栈支持的完整性;扩展能力较强,无需过多开发 | 有一定高并发连接与高吞吐消息的服务能力,物联网协议栈的完整性较弱仅支持 MQTT 协议;缺乏开箱即用的功能插件,功能必须编码使用 | 基础的并发连接与高吞吐消息的服务能力,物联网协议栈的完整性较弱仅支持 MQTT 协议;扩展能力较差,基础的业务组件支持度不够,商业成熟度不足客户量较少,缺乏开箱即用的功能插件 | 核心是消息队列系统,主要用于支持异构应用之间的消息通信,比如用于企业消息总线等;后面支持了部分物联网协议。ActiveMQ 比较适合系统既要支持传统的异构应用之间需要通信,也需要支持小型物联网接入支持的用户。 | 轻量简便的 MQTT Broker,工控、网关或小规模接入项目 |
性能测试对比MQTT Broker 性能测试对比,包含快速使用的测试工具。 性能测试场景此处采用 HiveMQ 提供的 broker.hivemq.com 在线服务器作为测试 Broker,场景如下: - 消息发布吞吐:1000ms/10ms * 100 连接 = 10K/秒
- 消息转发吞吐:100 连接 1 订阅 10K/s = 1000K = 100W
下图为结果,HiveMQ 应该是做了相应的限制,PUB 测试会报错,实际测试自己的 MQTT Broker 性能时应当按需调节。
下载安装测试工具
git clone https://github.com/emqx/emqtt-bench.git
cd emqtt-bench
./emqtt-bench sub --help
MQTT 连接性能测试
建立 100 个客户端连接 ./emqtt_bench conn -c 100 -h broker.hivemq.comMQTT 订阅性能测试建立 100 个客户端连接,每 10ms 建立一个连接,每个连接均订阅 testtopic/# 主题,QoS 为 2 ./emqtt_bench sub -c 100 -i 10 -t testtopic/# -q 2 -h broker.hivemq.comMQTT 发布性能测试建立 100 个客户端连接,每 10ms 建立一个连接,每个连接 10ms 发布一次消息,每个连接均向 testtopic/${clientid} 主题发布消息,单条消息尺寸为 256 Bytes,消息 QoS 为 2 ./emqtt_bench pub -c 100 -i 10 -I 10 -t testtopic/%i -s 256 -q 2 -h broker.hivemq.comMQTT Broker 职责与需求消息队列与消息中间件适用场景不一样。 MQTT 与消息队列有一定的区别,队列是一种先进先出的数据结构,消息队列常用于应用服务层面,实现参考如 RabbitMQ Kafka RocketMQ; MQTT 是传输协议,绝大部分 MQTT Broker 不保证消息顺序(Queue),常用与物联网、消息传输等,MQTT Broker 的常见需求可参考:共享行业的分布式 MQTT 设计
消息队列与MQTT异同
场景 | 部署端 | MQTT | 消息队列 | 设备端上报状态数据、设备通信 | 移动终端 | √ | × | 接收并处理分析设备的上报数据 | 移动终端 | × | √ | 对多个设备下发控制指令 | 服务器 | × | √ | 直播、弹幕、聊天 App 收发消息 | 应用 | √ | × | 服务端接收并分析聊天消息 | 服务器 | × | √ | 客户端连接数 |
| 客户端规模庞大,百万甚至千万级 | 一般服务器规模较小,极少数万级 | 单客户端消息量 |
| 单个客户端需要处理的消息少,一般定时收发消息 | 单个客户端处理消息量大,注重吞吐量 |
EMQ X
Docker 安装docker run -d --name emqx -p 1883:1883 -p 8083:8083 -p 8083:8083 -p 8084:8084 -p 18083:18083 emqx/emqx启动之后打开 http://localhost:18083 EMQ X Dashboard 默认用户名密码: 用户名:admin 密码:public HiveMQ
Docker 安装
docker run -p 8080:8080 -p 1883:1883 -p 8083:8083 hivemq/hivemq4启动之后打开 http://localhost:8080 HiveMQ 默认用户名密码: 用户名:admin 密码:hivemq VerneMQ
Docker 安装
docker run -p 1883:1883 -e "DOCKER_VERNEMQ_ACCEPT_EULA=yes" --name vernemq1 -d vernemq/vernemqMosquitto Docker 安装docker run -it --name=mosquitto -p 1883:1883 -p 9001:9001 -d eclipse-mosquitto
9001 是 Mosquitto WebSocket 端口。
全部 MQTT Broker 与 MQTT 服务列表
|