栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Java

Flink SQL(三) 连接到外部系统System和JDBC

Java 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

Flink SQL(三) 连接到外部系统System和JDBC

文件系统

​ 另一类非常常见的外部系统就是文件系统(File System)了。Flink 提供了文件系统的连 接器,支持从本地或者分布式的文件系统中读写数据。这个连接器是内置在 Flink 中的,所以使用它并不需要额外引入依赖。

​ 下面是一个连接到文件系统的示例:

CREATE TABLE MyTable (
 column_name1 INT,
 column_name2 STRING,
 ...
 part_name1 INT,
 part_name2 STRING
) PARTITIONED BY (part_name1, part_name2) WITH (
 'connector' = 'filesystem', -- 连接器类型
 'path' = '...', -- 文件路径
 'format' = '...' -- 文件格式
)

​ 这里在 WITH 前使用了 PARTITIONED BY 对数据进行了分区操作。文件系统连接器支持 对分区文件的访问。

JDBC

​ 关系型数据表本身就是 SQL 最初应用的地方,所以我们也会希望能直接向关系型数据库中读写表数据。Flink 提供的 JDBC 连接器可以通过 JDBC 驱动程序(driver)向任意的关系型 数据库读写数据,比如 MySQL、PostgreSQL、Derby 等。

​ 作为 TableSink 向数据库写入数据时,运行的模式取决于创建表的 DDL 是否定义了主键 (primary key)。如果有主键,那么 JDBC 连接器就将以更新插入(Upsert)模式运行,可以向外部数据库发送按照指定键(key)的更新(UPDATe)和删除(DELETE)操作,如果没有定义主键,那么就将在追加(Append)模式下运行,不支持更新和删除操作。

  1. 引入依赖

    想要在 Flink 程序中使用 JDBC 连接器,需要引入如下依赖:

    
     org.apache.flink
     flink-connector-jdbc_${scala.binary.version}
     ${flink.version}
    
    

    此外,为了连接到特定的数据库,我们还用引入相关的驱动器依赖,比如 MySQL:

    
     mysql
     mysql-connector-java
     5.1.38
    
    
  2. 创建 JDBC 表

    创建 JDBC 表的方法与前面 Upsert Kafka 大同小异。下面是一个具体示例:

    -- 创建一张连接到 MySQL 的 表
    CREATE TABLE MyTable (
     id BIGINT,
     name STRING,
     age INT,
     status BOOLEAN,
     PRIMARY KEY (id) NOT ENFORCED
    ) WITH (
     'connector' = 'jdbc',
     'url' = 'jdbc:mysql://localhost:3306/mydatabase',
     'table-name' = 'users'
    );
    -- 将另一张表 T 的数据写入到 MyTable 表中
    INSERT INTO MyTable
    SELECT id, name, age, status FROM T;
    
    

    ​ 这里创建表的 DDL 中定义了主键,所以数据会以 Upsert 模式写入到 MySQL 表中;而到 MySQL 的连接,是通过 WITH 子句中的 url 定义的。要注意写入 MySQL 中真正的表名称是 users,而 MyTable 是注册在 Flink 表环境中的表。

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/1028853.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号