虚拟化容器,大数据,DBA,中间件,监控。
15 11月
YARN、Spark、Hive使用kerberos

本文记录YARN、Spark、Hive各服务配置使用kerberos的过程。我的环境:三台服务器,分别命名为zelda1、zelda2、zelda3 ubuntu 14.04 hadoop 2.7.2 spark 2.0/1.6.1 YARN认证目的是将Y...

作者:admin|分类:大数据|浏览:453
15 11月
Hadoop的kerberos的实践部署

Hadoop的认证机制详细介绍请参考Hadoop安全机制研究hadoop-kerberos介绍简单来说,没有做kerberos认证的Hadoop,只要有client端就能够连接上。而且,通过一个有root的权限的内网机器,通过创建对应的linux用户,就能...

作者:admin|分类:大数据|浏览:720
15 11月
hive llap 启动配置踩坑 && Presto

hive llap巨坑,前段时间在研究,一直启动不成功。关键是几个空间参数的配置,只要配错了,就会出现各种奇怪的问题,日志的错误提示很少而且很模糊,官方的文档又不够明确,发现问题很难定位。总之就是很坑。yarn队列配置要为llap分配一条队列,这条队列有几...

作者:admin|分类:大数据|浏览:487
15 11月
ambari-Kylin

概述目前上传至ambari-Kylin上的有两个版本,一个是HDP2.6与Kylin2.5.1集成使用的一版;一个是HDP3.0与Kylin2.6.0集成使用的一版。上传至github上的仅支持服务的基本使用,如正常启停,超链接Kylin Web UI功能...

作者:admin|分类:大数据|浏览:462
15 11月
Apache Kylin 2.5.0安装和使用

1.背景Apache Kylin是一个开源的分布式分析引擎,提供Hadoop之上的SQL查询接口及多维分析(OLAP)能力以支持超大规模数据,最初由eBay Inc. 开发并贡献至开源社区。它能在亚秒内查询巨大的Hive表。Apache Kylin官网:h...

作者:admin|分类:大数据|浏览:407
15 11月
kylin 在Yarn HA模式下报错

yarn 非ha的时候是没问题的在HA模式下,发现报错,信息如下:java.lang.RuntimeException: java.lang.ClassNotFoundException: Class org.apache.hadoop.yarn.clie...

作者:admin|分类:大数据|浏览:422
15 11月
部署Apache Kylin读写分离

https://www.cnblogs.com/yongjian/p/10110119.htmlhttps://blog.51cto.com/xiaolanlan/2082991...

作者:admin|分类:大数据|浏览:442
15 11月
HUE4.3安装配置

HUE简介Hue是一个开源的Apache Hadoop UI系统,由Cloudera Desktop演化而来,最后Cloudera公司将其贡献给Apache基金会的Hadoop社区,用Python Web框架Django实现的。通过使用Hue我们可以在浏览...

作者:admin|分类:大数据|浏览:357
15 11月
Hbase表两种数据备份方法-导入和导出示例

Hbase表两种数据备份方法-导入和导出示例本文将提供两种备份方法 ——1 基于Hbase提供的类对hbase中某张表进行备份2 基于Hbase snapshot数据快速备份方法场合:由于线上和测试环境是分离的,无法在测试环境访问线上库,所以需要将线上...

作者:admin|分类:大数据|浏览:353
15 11月
flume将数据导入到hbase中

安装flume:压缩包下载地址:点击打开链接[hadoop@h71 ~]$ tar -zxvf flume-ng-1.6.0-cdh5.5.2.tar.gz修改 flume-env.sh 配置文件,主要是JAVA_HOME变量设置[hadoop@h71 a...

作者:admin|分类:大数据|浏览:329