2016 - 2024

感恩一路有你

大数据etl工具有哪些 etl如何实现业务原系统数据接入?数据增量全量抽取有几种方案?

浏览量:3057 时间:2021-03-19 12:42:20 作者:admin

etl如何实现业务原系统数据接入?数据增量全量抽取有几种方案?

我们现在做的项目对ETL很有用。

项目刚成立两三个月。目前,我指挥着四个人。明年,我们计划再增加四个人。现在,两个人在做ETL数据提取,两个人在做Java,我的战斗力可以算作三个人在做Java。

为什么要单独提取数据?

系统现在有大量的查询,这些查询是实时查询。有些查询涉及几十个表的关联,这些表少了几千万,大了几亿,所以有些接口的返回速度非常慢。

我们整理出一些可以接受T1的接口,提取相关数据,处理一次,把几十个表的数据处理成一个完整的数据,保存在mongodb中,然后提供接口服务。

以前,界面需要几秒钟才能返回,有些甚至需要十几秒钟。现在,对于500个并发应用程序,它基本上可以在100毫秒内返回。

为什么建数据仓库需要使用ETL工具?

数据仓库是一个战略集合,为各级决策过程提供各种数据支持。它是为分析报告和决策支持目的而创建的单个数据存储。由于要获取所有的数据,必然涉及到多系统、多类型数据库的对接问题,以及数据的提取和整理问题。

此时,ETL工具的功能体现在数据提取、转换和加载的过程中,直至用于人们的分析。ETL是数据抽取、转换和加载的过程。

在某些地方,可以先在转换中选择和加载ELT。对于日志仓库,ETL首先要考虑业务需求,最后数据登陆模型要体现一定的主题。

一般来说,数据仓库就像一个大的池。水池的供水需要水泵和水管,ETL负责水泵和水管的功能。

大数据etl工具有哪些 etl数据抽取工具有哪些 数据抽取工具etl

版权声明:本文内容由互联网用户自发贡献,本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。