Dojo
话题
新佳
订阅
极道
元认知
元逻辑
元设计
元编程
元语言
Kafka消息系统教程
大模型 + 矢量数据库 + Kafka = 实时 GenAI
Apache Kafka 作为机器学习基础设施的关键任务且可扩展的实时数据结构为数千家企业提供服务。生成式人工智能 (GenAI) 与 ChatGPT 等大型语言模型 (LLM) 的发展改变了人们对智能软件和自动化的看法。这篇博文解释了数据流和 GenAI 之间的关系,并展示了 GenAI
Kafka中避免重复消息的5种有效方法
Apache Kafka 因其强大的特性而成为分布式消息系统的不错选择。在本文中,我们将探讨避免Apache Kafka消费者中出现重复消息的高级策略。 重复消息消费的挑战Apache Kafka 的至少一次传递系
米其林、汉莎航空使用Kafka数据流的案例
售后销售和客户服务需要在正确的时间获得正确的信息来做出针对具体情况的决策。使用 Apache Kafka 进行数据流处理可实现真正的解耦、领域驱动设计以及跨实时和批处理系统的数据一致性。共同的业务目标推动着他们:提高客户保留率、增加收入、降低成本并缩短创新上市时间。
KIP-932:Kafka用作一个简单的队列
简单队列要求:无消息排序要求 想使用Kafka作为一个简单的队列? 有了新的KIP-932:引入共享(消费者)群体 之前的Kafka消费者组Kafka常
Redpanda简介
在本教程中,我们将讨论一个名为Redpanda的强大事件流平台。这是对事实上的行业流媒体平台Kafka 的竞争,有趣的是,它还与 Kafka API 兼容。 我们将了解 Redpanda 的关键组件、功能和用例,创建用于将消息发布到 Redpanda 主题
Apache Kafka 中 GroupId 和 ConsumerId 的区别
在本教程中,我们将阐明Apache Kafka中 GroupId 和 ConsumerId 之间的区别,这对于理解如何正确设置消费者非常重要。此外,我们还将讨论 ClientId 和 ConsumerId 之间的区别,并了解它们之间的关系。
2023年能源和公用事业数据流状况
这篇博文探讨了 2023 年能源和公用事业行业的数据流状态。公用事业基础设施、能源分配、客户服务和新业务模式的发展需要实时的端到端可视性、可靠且直观的B2B 和B2C 通信,以及与 5G 等先锋技术的集成以实现低延迟或增强现实以实现创新。数据流允许实时集成和关联任何规模的数据,以改善能源领域的大多数
Spring Boot 中动态管理 Kafka 监听器
在当今的事件驱动架构中,有效管理数据流至关重要。Apache Kafka是一个流行的选择,但尽管有Spring Kafka等辅助框架,但将其集成到我们的应用程序中仍面临挑战。一项主要挑战是实施适当的动态侦听器管理,这提供了灵活性和控制力,这对于适应应用程序不断变化的工作负载和维护至关重要。
API 优先的 Kafka 主题创建方法
要点: DoorDash 工程团队通过内部 API 和基础设施服务改进了 Kafka 主题创建方法,实现了实时管道启动时间的大幅减少,节省了开发人员的时间。 他们开发了一个基于 Infra Service 的 Kafka 资源创建组件,实现了通过 API 进行主题创建
Kafka中手工提交偏移量的4种方法
在Kafka中,消费者从分区读取消息。在读取消息时,需要考虑一些问题,例如确定从分区中读取哪些消息,或者防止重复读取消息或在发生故障时丢失消息。解决这些问题的方法是使用偏移量。 在本教程中,我们将了解 Kafka 中的偏移量。我们将了解如何提交偏移量来管理
实时数据处理:Kafka 和 Flink
在大数据时代,实时洞察是保持领先的关键。但是如何利用不断流动的数据流的力量呢? Apache Kafka 和 Apache Flink登场,这对实时数据处理带来革命性变革的梦之队。 这对充满活力的二人组协同工作,
Spring Boot与Kafka + kafdrop结合使用的简单示例
该项目是如何将 Kafka 与 Spring Boot 结合使用的简单示例。我们将使用kafdrop显示本地 kafka 集群 UI。
案例:使用 Web UI 探索近乎实时的流数据
Expedia Group是世界领先的在线旅游平台之一,他们开发了一个工具,帮助用户使用Kafka、Postgres和WebSockets查询和获取实时流数据,并通过Web浏览器获取实时事件 他们面临的挑战是处理大量和高速的数据流,传统的方法无法实
在Spring Boot中创建 Kafka 主题
在本教程中,您将学习如何在 Spring Boot 应用程序中创建新的 Kafka 主题。当新消息发送到 Kafka 主题时,也可以自动创建主题。然而,在生产环境中,主题自动创建通常是关闭的。这就是为什么在向 Kafka 发送消息之前创建主题被认为是一个很好的做法。
Apache Kafka中"主题"的综合指南
在本指南中,您将了解有关 Kafka 主题(Kafka 中数据的核心结构)的更多信息。您将学习如何有效地创建、管理和利用 Kafka 主题。每个步骤都包含实际示例和简单的解释,确保清晰理解。 什么是 Apache Kafka 主题?
使用 Apache Kafka 和 Spring Modulith 实现发件箱模式
在这篇博客中,我们将探讨事件驱动系统中常见的“双写”问题,以及如何使用 Spring Modulith 来简单地实现 Outbox 模式来解决该问题。 在构建任何涉及多个组件的非复杂系统时,迟早会遇到需要以一致的方式更新两个系统的解决方案设计。通常
在虚拟线程中处理 Kafka 记录
Quarkus 中的虚拟线程支持不仅限于 REST 和 HTTP。 许多其他部分支持虚拟线程,例如 gRPC、计划任务和消息传递。 在这篇文章中,我们将了解如何在虚拟线程上处理 Kafka 记录,从而提高处理的并发性。 Quarkus Reactive M
使用 Kafka 泳道处理不平衡流量
HubSpot 的客户使用工作流程来自动化其业务流程。工作流由触发器和操作集合组成,触发器告诉工作流何时“注册”要处理的记录,操作集合告诉工作流如何处理这些注册的记录。有数百万个活动工作流程,每天总共执行数亿个操作,每秒执行数万个操作。 一旦触发工
上页
下页