hive安装与配置详解(hive312安装教程)
本篇文章给大家谈谈hive安装与配置详解,以及hive312安装教程对应的知识点,希望对各位有所帮助,不要忘了收藏本站喔。
本文目录一览:
- 1、hive在启动过程中会去环境变量中找哪个hadoop的变量
- 2、我想学习hive,请问安装hive之前,必须安装centos、hadoop、java这些吗?
- 3、hive的安装,什么是hive的metastore的远程与本地
hive在启动过程中会去环境变量中找哪个hadoop的变量
一、hive配置
1.安装环境
在hadoop-1.2.1集群上安装hive-1.2.1
2.将hive-1.2.1环境变量添加到PATH路径下
使用如下命令打开配置文件
nano /etc/profile
在打开的配置文件里添加如下代码
export HIVE_HOME=/opt/hive-1.2.1PATH=$HIVE_HOME/bin:$PATH
3.配置hive-default.xml和hive-site.xml
在/opt/hive-1.2.1/conf目录下没有这两个文件夹,只有一个hive-default.xml.template,复制hive-default.xml.template,命名为hive-default.xml。
然后修改hive-default.xml文件里的内容,将默认的路径换成绝对路径,具体修改如下图:
然后复制hive-default.xml,命名为hive-site.xml。
在/opt/hive-1.2.1/conf只有hive-env.sh.template文件,复制hive-site.sh.template并命名为hive-site.sh,然后祥戚瞎修改hive-site.sh文件权限,使用如下命令
chmod u+x hive-env.sh
4.配置hive-log4j.properties
在/opt/hive-1.2.1/conf目录下只有hive-log4j.properties.template文件,复制hive-log4j.properties.template并命名为谨空hive-log4j.properties,命令如下
cp hive-log4j.properties.template hive-log4j.properties
将log4j.appender.EventCounter=org.apache.hadoop.hive.shims.HiveEventCounter
修改仔乎为:log4j.appender.EventCounter=org.apache.hadoop.log.metrics.EventCounter
否则会出现警告:
WARN conf.HiveConf: HiveConf of name hive.metastore.local does not exist
WARNING: org.apache.hadoop.metrics.jvm.EventCounter is deprecated. Please use org.apache.hadoop.log.metrics.EventCounter in all the log4j.properties files.
5.启动hive
使用命令hive启动
二、在启动过程中出现的问题
1./tmp/hive文件权限问题
解决方案:需要使用如下命令修改/tmp/hive文件权限
hadoop fs -chmod -R 777 /tmp/hive
2.找不到路径问题
解决方案:需要按照上述步骤3来配置hive-default.xml和hive-site.xml文件。
我想学习hive,请问安装hive之前,必须安装centos、hadoop、java这些吗?
安装需要
java 1.6,java 1.7或更高版本。
Hadoop 2.x或更高, 1.x. Hive 0.13 版本也支持 0.20.x, 0.23.x
Linux,mac,windows操作系统。以下内容适用于linux系统。
安装打包好的hive
需要先到apache下载已打包好的hive镜像,然后解压开该文闹渣件
$ tar -xzvf hive-x.y.z.tar.gz
设置hive环境变量
$ cd hive-x.y.z$ export HIVE_HOME={{pwd}}
设置hive运行路径
$ export PATH=$HIVE_HOME/bin:$PATH
编译Hive源码
下载hive源码
此处使用maven编译,需要下载安装maven。
以Hive 0.13版为例
编译hive 0.13源码基于hadoop 0.23或更高版本
$cdhive$mvncleaninstall-Phadoop-2,dist$cdpackaging/target/apache-hive-{version}-SNAPSHOT-bin/apache-hive-{version}-SNAPSHOT-bin$lsLICENSENOTICEREADME.txtRELEASE_NOTES.txtbin/(alltheshellscripts)lib/(requiredjarfiles)conf/(configurationfiles)examples/(sampleinputandqueryfiles)hcatalog/(hcataloginstallation)scripts/(upgradescriptsforhive-metastore)
编译hive 基于hadoop 0.20
$cdhive$antcleanpackage$cdbuild/dist#lsLICENSENOTICEREADME.txtRELEASE_NOTES.txtbin/(alltheshellscripts)lib/(requiredjarfiles)conf/(configurationfiles)examples/(sampleinputandqueryfiles)hcatalog/(hcataloginstallation)scripts/(upgradescriptsforhive-metastore)
运行hive
Hive运行依赖于hadoop,在运行hadoop之前必需先配置好hadoopHome。
export HADOOP_HOME=hadoop-install-dir
在hdfs上为hive创建\tmp目录和/user/hive/warehouse(akahive.metastore.warehouse.dir) 目录,然后你才可以运行hive。
在运行hive之前设置HiveHome。
$ export HIVE_HOME=hive-install-dir
在命令行悉模窗口启动hive
$ $HIVE_HOME/bin/hive
若执行成功,将看到睁弯缓类似内容如图所示
[img]hive的安装,什么是hive的metastore的远程与本地
这里实验一下此谨把hive.metastore.local参数设置为false的情况下怎么启动hive,
当然首先要修改为false,
hive.metastore.local
false
controls whether to connect to remove metastore server or open a new metastore server in Hive Client JVM
并加入配置thrift server的配置:
hive.metastore.uris thrift://127.0.0.1:9083
然后启动hadoop集群,启动win上的mysql,保证集群ok,测试mysql ok
然后启动metastore:hive --service metastore
这个过程会测试连接 建立schema 建表
继续启动thrift server:吵逗hive --service hiveserver
Starting Hive Thrift Server
这里会卡住,其实这是典型的前台启动,如果退出到shell,那么server就会停止,想后台启动的话可以采用nohup方式。
最后启动hive:hive
hive show tables;
OK
tb
tb2
Time taken: 1.117 seconds
发现hive就可以启动起来了,其实我们只需要把hive理解为几个部分森碰基即可:metastore、thrift server和剩下的hive,这几个部分都是可以分开部署的,放在不同的服务器上,这样的设计增加了hive的ha和可扩展性 但是分开部署会牺牲很大的可维护性,也增加了运维的复杂性,所以一般还是把元数据留着mysql中 其他的部分放在一个jvm中。
hive也是个cs结构的东西 thrift是负责client和server通信的
关于hive安装与配置详解和hive312安装教程的介绍到此就结束了,不知道你从中找到你需要的信息了吗 ?如果你还想了解更多这方面的信息,记得收藏关注本站。