Dojo
话题
新佳
订阅
极道
元认知
元逻辑
元设计
元编程
元语言
Hadoop大数据教程
Dagster使用DuckDB从头构建一个穷人的数据湖
数据的价值与数据的新近程度成正比。我们可以使用内存数据库来提高速度和价值生成吗?DuckDB 在这一承诺上获得了很多关注,Dagster 团队撰写了关于其建立在 DuckDB、Parquet 和 Dagster 之上的实验性数据仓库的文章。 Duc
Uber实时数据基础设施:分布式计算架构
Uber 的实时数据基础设施: Apache Kafka 用于流式存储, Flink 用于流处理, Pinot 用于 OLAP, HDFS 用于归档存储, Presto 用于交互式查询 <
Druid:实时分析数据存储
Apache Druid是一个开源数据库,专为低延迟的近实时和历史数据分析而设计,
下一代五个一体化数据平台比较
多合一数据堆栈是未来吗?Ben 的文章来得正是时候,因为 dbt 揭开了语义层的面纱,成为了分析生态系统的枢纽。作者比较了五个可用的一体化数据平台,并讨论了它们的优缺点。 现代数据堆栈在 2020 年和 2021 年风靡一时,但在 2021 年后期
Apache Atlas为企业提供元数据管理和治理能力
当时Hortonworks的Apache Atlas项目加入了Apache孵化器项目,专注于为企业提供开放的元数据管理和治理能力,以建立其数据资产的目录,对这些资产进行分类和治理,并为数据科学家、分析师和数据治理团队提供围绕这些数据资产的协作能力。Apache Atlas于2017年
超级表:领英构建可靠和可发现的数据产品之路
正如 LinkedIn 数据团队所述,自从十年前采用 Apache Hadoop 以来,包括 LinkedIn 在内的许多公司都经历了指数级的数据增长。随着自助数据创作工具和发布平台的激增,不同的团队已经创建和共享数据集以快速满足业务需求。虽然使用自助服务工具和平台是各种团队释放数据价值的一
Apache Flink 是实时流处理的行业标准
在 Decodable,我们长期以来一直认为Apache Flink是最好的流处理系统,在满足世界上一些最大和最复杂的企业(如 Netflix、Uber、Stripe 等
Uber如何实现互联网大规模金融交易的自动化审计?
假设乘客于 2022 年 1 月从家到机场,费用为 60 美元。6-7 个月后,乘客再次从家到机场,但现在需支付 50 美元。在这两次行程中,乘客都使用了具有相同出发地和目的地的 UberX。现在,用户担心收费不符,并提出纠纷。现在可能有很多事情可能会有所不同: 由
可组合数据系统之路:对过去15年和未来的思考
来自韦斯·麦金尼文章: 15年前,也就是2008年4月,我开始构建数据分析工具。我当时所感知到的是数据科学的迫切“Python化”。这不仅是为了让新一代的数据从业者更容易获得数据科学,也是为了让现有的数据科学家更有效率。
简单介绍Iceberg与数据湖屋由来
本文从数据存储格式的演变介绍了数据工程领域的大数据处理框架发展,从Hive到Iceberg、Delta Lake以及数据湖屋的发展过程: 数据如何存储(在文件和内存中)开源文件格式(如Avro、Parquet、OR
2023年游戏数据流的状况
这篇博文探讨了 2023 年游戏行业的数据流状态。包括来自 Kakao Games、Mobile Premier League (MLP)、Demonware / Blizzard 等的客户案例。 休闲和在线游戏、电子竞技、社交平台、赌博和新商业模式的发展
Pinterest 弃用 HBase
Pinterest 工程团队的博客文章“Pinterest 弃用 HBase”概述了 Pinterest 弃用分布式 NoSQL 数据库 Apache HBase 并迁移到开源分布式 SQL 数据库 TiDB 的历程。 为何弃用 HBase
2024年20大数据科学工具
企业数据变得越来越具有挑战性,并且由于它在战略规划和决策中发挥着关键作用,组织被迫在从数据资产中提取有用的业务洞察所需的人员、程序和技术上投入资金。当我们深入研究 2024 年时,数据科学工具的前景已经发生了显着的创新,并且引人注目。 本博客将探讨2024
Apache Spark:释放大数据力量
Apache Spark是一个强大的开源分布式计算系统,已成为大数据处理领域的基石。凭借其多功能的特性和强大的功能,Spark 已成为处理海量数据集的组织的首选解决方案。让我们探讨一下它的主要特性、优点、优势和用例。 Apache Spark 的主要特性<
Java中大数据生态和4个工具介绍
大数据 和 Java 形成强大的协同作用。大数据以其高 容量、 高速度和 多样性为特征,已成为各行业的游戏规则改变者。</
Apache Iceberg 简介
如今,Apache Iceberg 已成为实现数据湖的热门选择。它提供快照、隐藏分区和就地数据表演化等功能。 本教程将讨论Apache Iceberg,这是当今大数据领域流行的开放表格式。 我们将通过开源发行版的
pg_parquet:连接 Postgres 和 Parquet 的扩展
今天,我们很高兴发布pg_parquet - 一个用于处理 Parquet 文件的开源 Postgres 扩展。该扩展可以从 Postgres
Apache Hadoop 简介
在本文中,我们探讨了 Apache Hadoop,这是一个提供可扩展且高效的解决方案来管理和处理大数据的框架——这在当今数据驱动的世界中至关重要。 我们首先讨论其核心组件,包括 HDFS、YARN 和 MapReduce,然后介绍设置 Hadoop 集群的
下页