Java连接hive使用ha以及jdbc驱动
原因: 本地jar版本高于服务器
日通过java代码实现,jdbc连接hiveserver2,如下:
Connection conn = null;
try{
Class.forName("org.apache.hive.jdbc.HiveDriver");
conn = DriverManager.getConnection(jdbcUrl,userName,passWord);
}catch (Exception e){
e.printStackTrace();
}
return conn;
jdbc连接串1为:jdbc:hive2://t-bj-hpc-02:10000/default 可以连接成功;
jdbc连接串2为:jdbc:hive2://t-bj-hpc-02:2181,t-bj-hpc-01:2181,t-bj-hpc-03:2181/;serviceDiscoveryMode=zooKeeper;zooKeeperNamespace=hiveserver2
不能连接成功。
其中,连接串2,通过beeline命令可以连接成功,但是通过上面代码不能连接成功。
我只知道,下面这个串是使用Zookeeper实现了HiveServer2的HA功能(ZooKeeperService Discovery),Client端可以通过指定一个nameSpace来连接HiveServer2,而不是指定某一个host和port。
问题是,连接串2,通过beeline命令可以连接成功,但是通过上面代码不能连接成功。报错:
java.lang.NullPointerException at org.apache.thrift.transport.TSocket.open(TSocket.java:170) at org.apache.thrift.transport.TSaslTransport.open(TSaslTransport.java:266) at org.apache.thrift.transport.TSaslClientTransport.open(TSaslClientTransport.java:37) at org.apache.hive.jdbc.HiveConnection.openTransport(HiveConnection.java:204) at org.apache.hive.jdbc.HiveConnection.<init>(HiveConnection.java:176) at org.apache.hive.jdbc.HiveDriver.connect(HiveDriver.java:105) at java.sql.DriverManager.getConnection(DriverManager.java:664) at java.sql.DriverManager.getConnection(DriverManager.java:247) at cn.teld.bdp.oozie.GetConnection.getConn(GetConnection.java:13) at cn.teld.bdp.oozie.GetConnection.main(GetConnection.java:27)求解答,怎么用连接串2,连接成功?因为我用ambari安装的hive1.2,同时带了hive2.1版本的hiveserver2Interactive。由于某些原因,我必须用hive2.1版本。但是我无法找到hive2.1版本的“jdbc:hive2://t-bj-hpc-02:10000/default”这种格式的连接串。
原因: jar包本地版本过低
7.解决: 使用cdh jar. org.apache.hive:hive-jdbc:1.1.0-cdh5.16.2
相关推荐
HIVE HA高可用性及详细使用
HIVE HA高可用性及详细使用HIVE HA高可用性及详细使用HIVE HA高可用性及详细使用HIVE HA高可用性及详细使用
Spark SQL读取Hive数据配置及使用Thrift JDBC/ODBC Server访问Spark SQL
[TOC] Spark SQL可以读取hive中的数据,开启Thrift JDBC/ODBC Server服务可以使其他语言客户端使用Spark SQL.关于Spark SQL中对hive的支持,官方文档说明让人疑惑,好像没有把hive编译进去,需要自己手动编译,官方文档提及: Spark SQL also supports reading and writing data stored in
hive等配置文档
haoop最牛逼的配置文档 11 谁下谁知道
Hive Metastore高可用配置全攻略[项目源码]
本文深入解析了Hive Metastore在数据治理中的关键角色,详细介绍了其三层架构(客户端层、服务端层、数据库层)和核心组件,包括Thrift服务接口、元数据管理器、缓存管理器等。文章重点探讨了Metastore高可用性的需求与挑战,指出单点故障和性能瓶颈对业务的影响,并提供了基于数据库复制与负载均衡的高可用配置方案,包括MySQL主从复制、HAProxy负载均衡和Keepalived故障转移的实战配置。通过某大型电商平台的案例研究,展示了高可用改造的实施过程、遇到的挑战及优化效果,将可用性从99.5%提升至99.99%。文章还涵盖了性能优化策略,如缓存配置、查询优化、资源管理和监控工具(Prometheus+Grafana)的使用,以及常见问题的故障排查方法。最后,展望了Metastore在云原生时代的演进方向,包括容器化、AI驱动智能化和自动化治理,强调构建稳健数据治理基石的重要性。
大数据amabri平台问题
实际生产大数据平台遇到的问题


