腾讯使用大语言模型增强基于Doris的OLAP服务


腾讯利用大型语言模型 (LLM) 增强基于 Apache Doris 的 OLAP 服务

腾讯采用大型语言模型 (LLM) 来增强其基于 Apache Doris 的 OLAP 服务。LLM作为将自然语言问题转换为SQL语句的中间体。

然而,LLM 在理解数据术语方面存在局限性,并且缺乏利基知识。

为了克服这些挑战,腾讯引入了语义层,优化了LLM解析规则,添加了Schema Mapper和外部知识库,并使用插件将LLM连接到更多信息领域。

他们还简化了 OLAP 架构中的链接并拆分了平面表,以提高数据的性能和实时性。

详细点击标题

黑客新闻讨论:
LLM+OLAP 解决方案依靠语义层为分析工具生成可靠的查询,而不是直接 SQL。这种方法可确保结果一致并建立对大型语言模型 (LLM) 的信任。

Delphi 和 Definite 等公司正在使用 Cube 等语义层来提高基于 LLM 的分析的准确性和质量。

语义层的使用还允许对其他语义层元素(例如聚合和度量)进行编码。

然而,更多的公司需要专注于通过大语言模型建立对数据和模式shcema的新颖理解。

组织面临着根据不同受众和环境以不同方式解释数据的挑战。

Approximate Labs 和 Veezoo 等公司正在致力于在语义层之上构建对话式查询,以确保业务逻辑和治理得到尊重。(业务逻辑和治理的重要性可能高于SQL语句直接生成)