> For the complete documentation index, see [llms.txt](https://1138882663s-organization.gitbook.io/between-code-and-words/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://1138882663s-organization.gitbook.io/between-code-and-words/ji-shu-zhuan-ji/da-shu-ju-bigdata/hive/hive-cli-he-beeline-ming-ling-hang-de-ji-ben-shi-yong.md). # Hive CLI和Beeline命令行的基本使用 Hive CLI 和 Beeline 都是用于连接和操作 Hive 数据库的命令行客户端工具，它们之间的主要区别如下： 1. 语法支持：Hive CLI 和 Beeline 支持的语法略有不同，Hive CLI 支持的语法更接近标准的 SQL 语法，而 Beeline 支持的语法更接近 JDBC 和 ODBC 标准。 2. 连接方式：Hive CLI 默认使用的是本地模式，也就是直接连接到本地的 Hive 服务器上。而 Beeline 可以通过 JDBC 和 ODBC 协议连接到远程的 Hive 服务器上。 3. 安全性支持：Beeline 支持更多的安全特性，例如 Kerberos 认证、SSL 加密等，而 Hive CLI 的安全特性相对较少。 4. 输出格式：Hive CLI 和 Beeline 输出结果的格式略有不同，Hive CLI 输出的结果默认是以制表符分隔的文本格式，而 Beeline 可以输出成 CSV、TSV、JSON 等多种格式。 综上所述，如果你需要连接远程的 Hive 服务器，并且需要更强的安全特性和更灵活的输出格式，建议使用 Beeline 命令行客户端工具；如果你只是在本地操作 Hive 数据库，并且更喜欢标准的 SQL 语法和简单的输出格式，可以使用 Hive CLI 命令行客户端工具。 ## 一、Hive CLI ### 1.1 Help 使用 `hive -H` 或者 `hive --help` 命令可以查看所有命令的帮助，显示如下： ```sh usage: hive -d,--define Variable subsitution to apply to hive commands. e.g. -d A=B or --define A=B --定义用户自定义变量 --database Specify the database to use -- 指定使用的数据库 -e SQL from command line -- 执行指定的 SQL -f SQL from files --执行 SQL 脚本 -H,--help Print help information -- 打印帮助信息 --hiveconf Use value for given property --自定义配置 --hivevar Variable subsitution to apply to hive --自定义变量 commands. e.g. --hivevar A=B -i Initialization SQL file --在进入交互模式之前运行初始化脚本 -S,--silent Silent mode in interactive shell --静默模式 -v,--verbose Verbose mode (echo executed SQL to the console) --详细模式 ``` ### 1.2 交互式命令行 直接使用 `Hive` 命令，不加任何参数，即可进入交互式命令行。 ### 1.3 执行SQL命令 在不进入交互式命令行的情况下，可以使用 `hive -e` 执行 SQL 命令。例如 ```sh hive -e 'select * from emp'; ``` ### 1.4 执行SQL脚本 用于执行的 sql 脚本可以在本地文件系统，也可以在 HDFS 上。例如 ```sh # 本地文件系统 hive -f /usr/file/simple.sql; # HDFS文件系统 hive -f hdfs://hadoop001:8020/tmp/simple.sql; ``` ### 1.5 配置Hive变量 可以使用 `--hiveconf` 设置 Hive 运行时的变量。例如 ```sh hive -e 'select * from emp' \ --hiveconf hive.exec.scratchdir=/tmp/hive_scratch \ --hiveconf mapred.reduce.tasks=4; ``` hive.exec.scratchdir：指定 HDFS 上目录位置，用于存储不同 map/reduce 阶段的执行计划和这些阶段的中间输出结果。 ### 1.6 配置文件启动 使用 `-i` 可以在进入交互模式之前运行初始化脚本，相当于指定配置文件启动。例如 ```sh hive -i /usr/file/hive-init.conf; ``` conf文件里写如下 ```tsconfig set mapred.reduce.tasks=4; ``` ### 1.7 用户自定义变量 `--define ` 和 `--hivevar ` 在功能上是等价的，都是用来实现自定义变量，这里给出一个示例: ```sh hive --define n=ename --hiveconf --hivevar j=job; ``` 在查询中引用自定义变量： ```sql # 以下两条语句等价 hive > select ${n} from emp; hive > select ${hivevar:n} from emp; # 以下两条语句等价 hive > select ${j} from emp; hive > select ${hivevar:j} from emp; ``` 其中，`--define` 命令行选项定义的变量会被解析为系统变量，可以在 Hive SQL 语句中通过 `${var}` 的方式引用；而 `--hivevar` 命令行选项定义的变量会被解析为 Hive 变量，可以在 Hive SQL 语句中通过 `${hivevar:var}` 的方式引用。 ## 二、Beeline ### 2.1 HiveServer2 Hive 内置了 HiveServer 和 HiveServer2 服务，两者都允许客户端使用多种编程语言进行连接，但是 HiveServer 不能处理多个客户端的并发请求，所以产生了 HiveServer2。 HiveServer2（HS2）允许远程客户端可以使用各种编程语言向 Hive 提交请求并检索结果，支持多客户端并发访问和身份验证。HS2 是由多个服务组成的单个进程，其包括基于 Thrift 的 Hive 服务（TCP 或 HTTP）和用于 Web UI 的 Jetty Web 服务器。 HiveServer2 拥有自己的 CLI(Beeline)，Beeline 是一个基于 SQLLine 的 JDBC 客户端。由于 HiveServer2 是 Hive 开发维护的重点 (Hive0.15 后就不再支持 hiveserver)，所以 Hive CLI 已经不推荐使用了，官方更加推荐使用 Beeline。 ### 2.2 Beeline Beeline 拥有更多可使用参数，可以使用 `beeline --help` 查看，完整参数如下： ``` Usage: java org.apache.hive.cli.beeline.BeeLine -u the JDBC URL to connect to -r reconnect to last saved connect url (in conjunction with !save) -n the username to connect as -p the password to connect as -d the driver class to use -i script file for initialization -e query that should be executed -f script file that should be executed -w (or) --password-file the password file to read password from --hiveconf property=value Use value for given property --hivevar name=value hive variable name and value This is Hive specific settings in which variables can be set at session level and referenced in Hive commands or queries. --property-file= the file to read connection properties (url, driver, user, password) from --color=[true/false] control whether color is used for display --showHeader=[true/false] show column names in query results --headerInterval=ROWS; the interval between which heades are displayed --fastConnect=[true/false] skip building table/column list for tab-completion --autoCommit=[true/false] enable/disable automatic transaction commit --verbose=[true/false] show verbose error messages and debug info --showWarnings=[true/false] display connection warnings --showNestedErrs=[true/false] display nested errors --numberFormat=[pattern] format numbers using DecimalFormat pattern --force=[true/false] continue running script even after errors --maxWidth=MAXWIDTH the maximum width of the terminal --maxColumnWidth=MAXCOLWIDTH the maximum width to use when displaying columns --silent=[true/false] be more silent --autosave=[true/false] automatically save preferences --outputformat=[table/vertical/csv2/tsv2/dsv/csv/tsv] format mode for result display --incrementalBufferRows=NUMROWS the number of rows to buffer when printing rows on stdout, defaults to 1000; only applicable if --incremental=true and --outputformat=table --truncateTable=[true/false] truncate table column when it exceeds length --delimiterForDSV=DELIMITER specify the delimiter for delimiter-separated values output format (default: |) --isolation=LEVEL set the transaction isolation level --nullemptystring=[true/false] set to true to get historic behavior of printing null as empty string --maxHistoryRows=MAXHISTORYROWS The maximum number of rows to store beeline history. --convertBinaryArrayToString=[true/false] display binary column data as string or as byte array --help display this message ``` ### 2.3 常用参数 在 Hive CLI 中支持的参数，Beeline 都支持，常用的参数如下。更多参数说明可以参见官方文档 [Beeline Command Options](https://cwiki.apache.org/confluence/display/Hive/HiveServer2+Clients#HiveServer2Clients-Beeline%E2%80%93NewCommandLineShell) | 参数 | 说明 | | ------------------------------------- | ---------------- | | **-u \** | 数据库地址 | | **-n \** | 用户名 | | **-p \** | 密码 | | **-d \** | 驱动 (可选) | | **-e \** | 执行 SQL 命令 | | **-f \** | 执行 SQL 脚本 | | **-i (or)--init \** | 在进入交互模式之前运行初始化脚本 | | **--property-file \** | 指定配置文件 | | **--hiveconf** *property*\*=\**value* | 指定配置属性 | | **--hivevar** *name*\*=\**value* | 用户自定义属性，在会话级别有效 | 示例： 使用用户名和密码连接 Hive ```sh beeline -u jdbc:hive2://localhost:10000 -n username -p password ``` ## 三、Hive配置 可以通过三种方式对 Hive 的相关属性进行配置，分别介绍如下： ### 3.1 配置文件 方式一为使用配置文件，使用配置文件指定的配置是永久有效的。Hive 有以下三个可选的配置文件： * hive-site.xml ：Hive 的主要配置文件； * hivemetastore-site.xml： 关于元数据的配置； * hiveserver2-site.xml：关于 HiveServer2 的配置。 示例如下,在 hive-site.xml 配置 `hive.exec.scratchdir`： ``` hive.exec.scratchdir /tmp/mydir Scratch space for Hive jobs ``` ### 3.2 hiveconf 方式二为在启动命令行 (Hive CLI / Beeline) 的时候使用 `--hiveconf` 指定配置，这种方式指定的配置作用于整个 Session。 ``` hive --hiveconf hive.exec.scratchdir=/tmp/mydir ``` ### 3.3 set 方式三为在交互式环境下 (Hive CLI / Beeline)，使用 set 命令指定。这种设置的作用范围也是 Session 级别的，配置对于执行该命令后的所有命令生效。set 兼具设置参数和查看参数的功能。如下： ``` 0: jdbc:hive2://hadoop001:10000> set hive.exec.scratchdir=/tmp/mydir; No rows affected (0.025 seconds) 0: jdbc:hive2://hadoop001:10000> set hive.exec.scratchdir; +----------------------------------+--+ | set | +----------------------------------+--+ | hive.exec.scratchdir=/tmp/mydir | +----------------------------------+--+ ``` ### 3.4 配置优先级 配置的优先顺序如下 (由低到高)：\ `hive-site.xml` - >`hivemetastore-site.xml`- > `hiveserver2-site.xml` - > `-- hiveconf`- > `set` ### 3.5 配置参数 Hive 可选的配置参数非常多，在用到时查阅官方文档即可[AdminManual Configuration](https://cwiki.apache.org/confluence/display/Hive/AdminManual+Configuration)