Ambari 2.1安装HDP2.3.2 之一、HDP介绍_hdp是什么-程序员宅基地

##一、HDP
###（一）简介
HDP全称是Hortonworks Data Platform，是由一家美国大数据公司Hortonworks开发的企业级Hadoop平台。
Hortonworks致力于帮助客户利用Hadoop开源大数据平台管理数据。HDP是完全在开源的环境下设计、开发和构建的，它以 YARN 作为其架构中心，该平台支持一系列处理方法——批处理、交互式处理、实时处理。
###（二）功能与特点
HDP的功能包括数据管理、数据访问、数据管制与集成、运营、安全性。图1.2.1是HDP的功能架构。
这里写图片描述
图1.2.1

####1. 数据管理
这里写图片描述
图1.2.2

YARN和HDFS是HDP的核心组件。YARN是一种资源管理器，可以给上层应用提供统一的资源管理和调度。YARN将资源管理组件和任务处理组件分离，提供可插拔架构，可以支持广泛的数据访问方法。
HDFS 是一种分布式文件系统，它为大数据提供了有效可靠的存储，使得我们在大规模集群中以低成本更有效地存储共享数据集。
####2. 数据访问
这里写图片描述
图1.2.3

（1）YARN
YARN给各种处理引擎提供基础，HDP允许用户和数据以多种并行方式进行交互，并不需要为每个数据集或应用程序建立单独的集群，这样应用程序可以以最佳方式和数据交互。
Strom和Spark能满足这些需求，HDP作为真正的数据平台，它基于YARN的架构能够使尽可能广泛的访问方法共存于集群中，而避免不必要的、昂贵的数据存储成本。
（2）数据访问方式
HDP提供的数据访问方式有批处理，脚本，交互式SQL查询，使用NoSQL低延迟，基于Solr的搜索和流处理。
Apache MapReduce是Hadoop默认的处理引擎，已经得到了广泛的测试和信赖。Apache Pig作为一种脚本语言，可以在MapReduce和Apache Tez 上运行，能够做到对数据进行聚集、分类等。Apache Hive 可以进行交互式、批量SQL查询。而Apache Hbase 则提供及其快速的NoSQL访问。Apache Strom 能够实时处理流数据，即当数据流入HDFS时分析数据。
####3.数据管理与集成
HDP是通过用语数据管理和集成的强大工具扩展数据访问和管理的，这些工具提供可靠可重复使用的以及简单的框架来管理数据流在 Hadoop 中的进出。Hortonworks 和所有数据管理提供商具有工程关系，支持将他们的工具与 HDP 进行协作、集成。
####4. 安全性
HDP从多次层次角度加入、集成了安全性，它提供了用于身份验证、授权、可归责性以及数据保护的关键功能，确保 HDP 安全。HDP 在所有企业 Hadoop 功能上保持方法一致，而且确保我们可集成和扩展自己当前的安全解决方案，在企业现代化数据架构上提供单一、一致、安全的保护。
####5 运营
HDP 提供一整套运营功能，使运营团队在企业数据生态系统中部署、监控和管理 Hadoop 群集。HDP不仅提供群集运行状况的可见性，还提供工具来管理配置优化性能。Apache Ambari 作为HDP的管理工具，提供了API ，可在现有集群基础上简单容易地扩展服务，增加组件。
###（三）集群部署选项
这里写图片描述
图1.3.1

HDP 为Hadoop提供了最广泛的部署选项：它支持从Windows Server或Linux，到虚拟云部署，是可移植性最高的Hadoop发行版，允许用户轻易地在不同部署类型之间进行迁移。
HDP不仅是开源的，而且是通过社区完全在开放的环境中构建的。虽然通过发布到github可以很方便的将专用hadoop扩展成开源的，但是随之而来会有兼容性问题。而社区导向的开发，通过结合跨各种公司的技术，质量更加可靠。对于企业而言，HDP为之提供了高度可靠、管理便捷、高扩展性的集群服务，也为大数据分析提供了十分有效的平台。

下一步请见二、需求配置说明
参考：

Hortonworks Data Platform

本文链接：https://blog.csdn.net/sinat_28224453/article/details/51535393

原作者删帖不实内容删帖广告或垃圾文章投诉

智能推荐

稀疏编码的数学基础与理论分析-程序员宅基地

文章浏览阅读290次，点赞8次，收藏10次。1.背景介绍稀疏编码是一种用于处理稀疏数据的编码技术，其主要应用于信息传输、存储和处理等领域。稀疏数据是指数据中大部分元素为零或近似于零的数据，例如文本、图像、音频、视频等。稀疏编码的核心思想是将稀疏数据表示为非零元素和它们对应的位置信息，从而减少存储空间和计算复杂度。稀疏编码的研究起源于1990年代，随着大数据时代的到来，稀疏编码技术的应用范围和影响力不断扩大。目前，稀疏编码已经成为计算...

EasyGBS国标流媒体服务器GB28181国标方案安装使用文档-程序员宅基地

文章浏览阅读217次。EasyGBS - GB28181 国标方案安装使用文档下载安装包下载，正式使用需商业授权, 功能一致在线演示在线API架构图EasySIPCMSSIP 中心信令服务, 单节点, 自带一个 Redis Server, 随 EasySIPCMS 自启动, 不需要手动运行EasySIPSMSSIP 流媒体服务, 根..._easygbs-windows-2.6.0-23042316使用文档

【Web】记录巅峰极客2023 BabyURL题目复现——Jackson原生链_原生jackson 反序列化链子-程序员宅基地

文章浏览阅读1.2k次，点赞27次，收藏7次。2023巅峰极客 BabyURL之前AliyunCTF Bypassit I这题考查了这样一条链子：其实就是Jackson的原生反序列化利用今天复现的这题也是大同小异，一起来整一下。_原生jackson 反序列化链子

一文搞懂SpringCloud，详解干货，做好笔记_spring cloud-程序员宅基地

文章浏览阅读734次，点赞9次，收藏7次。微服务架构简单的说就是将单体应用进一步拆分，拆分成更小的服务，每个服务都是一个可以独立运行的项目。这么多小服务，如何管理他们？(服务治理注册中心[服务注册发现剔除])这么多小服务，他们之间如何通讯？这么多小服务，客户端怎么访问他们？(网关)这么多小服务，一旦出现问题了，应该如何自处理？(容错)这么多小服务，一旦出现问题了，应该如何排错?(链路追踪)对于上面的问题，是任何一个微服务设计者都不能绕过去的，因此大部分的微服务产品都针对每一个问题提供了相应的组件来解决它们。_spring cloud

Js实现图片点击切换与轮播-程序员宅基地

文章浏览阅读5.9k次，点赞6次，收藏20次。Js实现图片点击切换与轮播图片点击切换<!DOCTYPE html><html> <head> <meta charset="UTF-8"> <title></title> <script type="text/ja..._点击图片进行轮播图切换

tensorflow-gpu版本安装教程（过程详细）_tensorflow gpu版本安装-程序员宅基地

文章浏览阅读10w+次，点赞245次，收藏1.5k次。在开始安装前，如果你的电脑装过tensorflow，请先把他们卸载干净，包括依赖的包（tensorflow-estimator、tensorboard、tensorflow、keras-applications、keras-preprocessing），不然后续安装了tensorflow-gpu可能会出现找不到cuda的问题。cuda、cudnn。..._tensorflow gpu版本安装

随便推点

物联网时代权限滥用漏洞的攻击及防御-程序员宅基地

文章浏览阅读243次。0x00 简介权限滥用漏洞一般归类于逻辑问题，是指服务端功能开放过多或权限限制不严格，导致攻击者可以通过直接或间接调用的方式达到攻击效果。随着物联网时代的到来，这种漏洞已经屡见不鲜，各种漏洞组合利用也是千奇百怪、五花八门，这里总结漏洞是为了更好地应对和预防，如有不妥之处还请业内人士多多指教。0x01 背景2014年4月，在比特币飞涨的时代某网站曾经..._使用物联网漏洞的使用者

Visual Odometry and Depth Calculation--Epipolar Geometry--Direct Method--PnP_normalized plane coordinates-程序员宅基地

文章浏览阅读786次。A. Epipolar geometry and triangulationThe epipolar geometry mainly adopts the feature point method, such as SIFT, SURF and ORB, etc. to obtain the feature points corresponding to two frames of images. As shown in Figure 1, let the first image be and th_normalized plane coordinates

开放信息抽取(OIE)系统（三）-- 第二代开放信息抽取系统(人工规则, rule-based, 先抽取关系)_语义角色增强的关系抽取-程序员宅基地

文章浏览阅读708次，点赞2次，收藏3次。开放信息抽取(OIE)系统（三）-- 第二代开放信息抽取系统(人工规则, rule-based, 先关系再实体)一.第二代开放信息抽取系统背景第一代开放信息抽取系统(Open Information Extraction， OIE， learning-based, 自学习, 先抽取实体)通常抽取大量冗余信息，为了消除这些冗余信息，诞生了第二代开放信息抽取系统。二.第二代开放信息抽取系统历史第二代开放信息抽取系统着眼于解决第一代系统的三大问题: 大量非信息性提取（即省略关键信息的提取）、_语义角色增强的关系抽取