提供3000多款全球软件/控件产品
针对软件研发的各个阶段提供专业培训与技术咨询
根据客户需求提供定制化的软件开发服务
全球知名设计软件,显著提升设计质量
打造以经营为中心,实现生产过程透明化管理
帮助企业合理产能分配,提高资源利用率
快速打造数字化生产线,实现全流程追溯
生产过程精准追溯,满足企业合规要求
以六西格玛为理论基础,实现产品质量全数字化管理
通过大屏电子看板,实现车间透明化管理
对设备进行全生命周期管理,提高设备综合利用率
实现设备数据的实时采集与监控
利用数字化技术提升油气勘探的效率和成功率
钻井计划优化、实时监控和风险评估
提供业务洞察与决策支持实现数据驱动决策
原创|大数据新闻|编辑:况鱼杰|2020-06-01 11:43:25.497|阅读 207 次
概述:本文章概述了Cloudera Data Platform中的操作数据库(OpDB)管理工具和功能。如今,它具有两种形式:作为CDP公共云–数据中心中的完全安全,半托管产品以及作为CDP数据中心中的完全可定制产品(类似于CDH和HDP中提供的产品)。
# 慧都年终大促·界面/图表报表/文档/IDE等千款热门软控件火热促销中 >>
相关链接:
本文章是CDP中Cloudera的Operational DB(OpDB)系列文章的一部分,从本系列的开头以CDP中的Operational Database开始。
本文章概述了Cloudera Data Platform中的操作数据库(OpDB)管理工具和功能。如今,它具有两种形式:作为CDP公共云–数据中心中的完全安全,半托管产品以及作为CDP数据中心中的完全可定制产品(类似于CDH和HDP中提供的产品)。
数据库创建和控制
Apache HBase命名空间是表的逻辑组,类似于传统的关系数据库系统中的数据库,可以通过Apache HBase Shell创建或管理命名空间。
使用带有CDP的图片中的Replication Manager和Ranger,您只能在HBase Shell中创建名称空间并对其进行管理。但是权限是通过Ranger进行的,复制是通过Replication Manager进行的。
就像在关系数据库中一样,名称空间包含表和权限,复制设置和资源隔离的集合。您可以在名称空间级别设置这些配置。在CDP中,您可以创建名称空间并使用HBase Shell对其进行管理。您可以将Apache Ranger用于细粒度的授权策略和审计。
Replication Manager可帮助您创建HBase复制策略。您可以使用Replication Manager来设置CDH / HDP或Apache HBase与CDP数据中心之间的复制。
图形化的DDL和DCL功能
为此提供了几种工具,包括用于以下目的的插件:
Cloudera Machine Learning(CML):CML帮助您使用HBase客户端和Phoenix来查询数据,并帮助您进行交互式数据探索,可视化,共享和协作。OpDB可用于存储会话/作业/模型预测结果,以供多个不同用户稍后查询。
Hue:Hue是基于Web的交互式查询编辑器,使您可以与数据仓库进行交互。 您可以使用Hue中的HBase浏览器应用程序来创建和浏览HBase表。
您可以将使用Impala或Hive的SQL接口用于Hue中的查询处理。
开箱即用的工具包括Zeppelin和Hue等工具及其插件。 但是,您也可以使用第三方SQL实用程序,例如Toad。
运营数据库版本升级工具
您可以使用Cloudera Manager在Cloudera数据平台-数据中心(CDP-DC)中自动化升级操作数据库的过程。升级是通过发行版或维护修补程序提供的。Cloudera Manager将安装发行版和/或补丁,并管理配置以及重新启动过程。
如果在诸如Amazon AWS之类的公共云上使用CDP,则必须创建一个新的数据中心集群以升级到各种组件的新版本。
Cloudera的产品是基于集群的产品;所有升级和修补程序都跨越多个节点(服务器),并且安装,配置,重新启动都是自动化的,包括在适用的情况下进行滚动重新启动。
跨多个服务器的补丁程序管理工具
在CDP数据中心中,Cloudera Manager安装发行版并管理配置。Cloudera Manager还会对每个受影响的组件执行重启过程。
零停机补丁程序
在CDP数据中心中,Cloudera Manager允许您以零停机时间应用补丁。
跨多台服务器的变更管理
您可以跨多个实例对数据库架构执行变更管理。例如,您可以在测试/开发,登台或生产环境中执行此操作。
您可以使用HBase Shell对所需的更改进行脚本编写,然后将其传播到其他实例。
工作负载分区
您可以使用几种工具在OpDB中进行工作负载/应用程序分区,具体取决于工作负载集的性质及其数据需求。
如果应用程序均访问单独的表,则可以使用区域服务器组为一组定义的表或名称空间指定一组节点,从而创建硬件分区方法。
对于使用同一组表的应用程序,可以使用RPC限制,用户配额和空间配额来管理嘈杂的邻居问题。
您还可以将这两套选项组合在一起,以使用更复杂的分区方案。使用Cloudera Manager确保特定服务在群集的不同节点之间适当分区;例如,您可以决定应将哪些节点用于SOLR搜索等。
硬件分区
Cloudera Manager和YARN都利用Linux cgroup和活动内存管理来对硬件资源进行静态和动态分区。
首先,可以使用Cloudera Manager设置的cgroup对在所有主机上运行的所有进程进行硬分区。其次,向导允许用户通过设置百分比,自动转换基于cgroup的CPU和I / O隔离来定义服务的静态分区的布局,并通过自己配置服务来设置内存限制。
最后,本机资源管理器为工作负载提供了一个容器模型,该模型使用cgroup和活动内存管理(设置,监视和终止)来隔离应用程序,将每个离散的工作单元放入容器中。
软件管理程序
支持以下软件管理程序
Cloudera提供了一个Docker映像,该映像上安装了Apache HBase,Apache ZooKeeper和Cloudera Manager。您可以配置YARN来管理您的Docker容器,并在同一容器上将Apache HBase作业提交到YARN或从另一个容器将作业提交到YARN。
回滚补丁或版本升级
Cloudera Manager为某些回滚过程提供了自动化。升级有时可能会涉及数据格式的更改。不支持用于撤消格式更改的工具,您必须触发备份中的数据还原,以便回滚可以使用旧数据。
跨OS平台迁移
Cloudera的标准备份/还原/数据恢复工具可用来支持OpDB在不同操作系统之间的迁移。
HBase备份和灾难恢复策略可确保备份您的数据,以防止数据丢失。 HBase快照使您可以对表进行快照,而对RegionServer的影响不大。同样是因为快照,克隆和还原操作不涉及数据复制。
数据库管理员(DBA)工具
包含许多支持管理数据库的工具,包括:
这些工具提供了指标和监视,集群重启,添加接收,生命周期管理,升级,安全性,Kerberos设置以及其他功能。
除了这些工具之外,您还可以使用以下第三方和开源管理工具:
Cloudera还提供开放的API,以使其他工具可用于管理OpDB。例如,JMX接口可用于与第三方监视工具(例如Grafana)集成。
结论
在此博客文章中,我们研究了如何利用CDP中OpDB提供的各种管理工具和功能,在下一篇文章中,我们将介绍如何利用OpDB中的管理功能。
关于Cloudera
在 Cloudera,我们相信数据可以使今天的不可能,在明天成为可能。我们使人们能够将复杂的数据转换为清晰而可行的洞察力。Cloudera 为任何地方的任何数据从边缘到人工智能提供企业数据云平台服务。在开源社区不懈创新的支持下, Cloudera推动了全球最大型企业的数字化转型历程。了解更多,请联系。
慧都大数据专业团队为企业提供Cloudera大数据平台搭建,免费业务咨询,定制开发等完整服务,快速、轻松、低成本将任何Hadoop集群从试用阶段转移到生产阶段。
欢迎拨打慧都热线023-68661681或咨询慧都在线客服,我们有专业的大数据团队,为您提供免费大数据相关业务咨询!
本站文章除注明转载外,均为本站原创或翻译。欢迎任何形式的转载,但请务必注明出处、不得修改原文相关链接,如果存在内容上的异议请邮件反馈至chenjj@capbkgr.cn
大数据分析的一些发展趋势将为企业的未来发展做好准备。大数据分析如今成为政府部门和私营企业以及医疗机构抗击新冠疫情的重要资源。这在很大程度上要归功于云计算软件的发展,很多企业现在可以实时跟踪和分析大量业务数据,并相应地对其业务流程进行必要的调整。
生产质量分析是从工厂订单下单-订单生产-流入市场, 针对整个生产链进行全面的质量分析。其中最重要的一环就是对于质量控制。
生产质量分析主要是为了帮助企业更快更准确的发现产品的质量问题,找到影响质量的根本原因,改善原因,提高企业产品良率。下面我们看看慧都科技的质量分析到底能帮助企业解决哪些问题?
在工业制造界,企业极不希望发生停机事故。因为,一小时的停机时间会使企业损失上百万人民币甚至更多。除了资金方面的损失之外,停机还意味着,当持续发生设备故障时,对员工的激励难度则会变大。因此,在企业的日常业务运营中,预测性维护就显得十分重要。
使AI第一企业能够通过自助服务访问受控数据。
Cloudera Enterprise Data Hub一款用于数据驱动的云优先型企业的平台。
CDP Data CenterCDP Data Center是用于本地IT环境的全面数据管理和分析平台。
服务电话
重庆/ 023-68661681
华东/ 13452821722
华南/ 18100878085
华北/ 17347785263
客户支持
技术支持咨询服务
服务热线:400-700-1020
邮箱:sales@capbkgr.cn
关注我们
地址 : 重庆市九龙坡区火炬大道69号6幢