栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

Python3链接HIVE

Python3链接HIVE

几个必要的pip,如果用anaconda 安装pyhive的时候会附带都给安装上 

pip install pyhive

pip install thrift
pip install sasl
pip install thrift-compiler
pip install thrift-sasl
from pyhive import hive
import pandas as pd

#通过HIVE链接
cursor = hive.connect(host=' ',port=10000, auth='LDAP', database=' ', username=' ', password=' ').cursor()
cursor.execute('select * from table')

#fetchall()返回查询结果的余下的所有数据,使用此函数要评估数据量,可能会因为数据量太大,导致本地程序内存问题。
#cursor.description 查询结果集的元数据,返回结果集有多少列,每个列的列名,数据类型等数据。dataframe引用结果集为列名

data = cursor.fetchall()
columns = [col[0].split('.')[-1] for col in cursor.description]
data = pd.Dataframe(data=data, columns=columns)
 
print(data)
cursor.execute(operation, params)

可以直接是执行sql查询语句

cursor.next()

返回当前查询结果集中的下一条数据,如果到达结果集结尾会抛出StopIteration的异常

cursor.fetchone()

返回当前查询结果集中的下一条数据,如果到达结果集的尾部返回None

cursor.fetchmany(size=None)

返回指定数量的查询结果,如果没有给出size参数,则使用cursor.arraysize(默认值是1000行).如果结果集数据条数

cursor.fetchall()

返回查询结果的余下的所有数据,使用此函数要评估数据量,可能会因为数据量太大,导致本地程序内存问题。

cursor.rownumber 属性

当读取数据的条数,☞使用cursor.netx(),cursor.fetchone(),cursor.fetchall(),cursor.fetchmany()等方法。

cursor.description

查询结果集的元数据,返回结果集有多少列,每个列的列名,数据类型等数据。

cursor.cancel()

取消当前执行的sql

cursor.close()

关闭当前游标

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/618290.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号