目 录
| 目录 | ||||||
|---|---|---|---|---|---|---|
|
| View file | ||||
|---|---|---|---|---|
|
1. 概述
数据接入是我公司自主研发的一款数据接入工具，提供可视化的界面方便用户进行数据的接入，支持SQLserver、Oracle、MySQL、Excel、CSV等多种数据源，数据支持以全量、增量、业务主键覆盖等方式将数据同步到本平台中数据接入功能提供可视化的界面，方便用户进行数据的接入，支持SQL Server、Oracle、MySQL、Excel、CSV等多种数据源，数据支持以全量、增量、业务主键覆盖等方式将数据同步到本平台中
2. 界面概览
| 信息 | ||||
|---|---|---|---|---|
| ||||
|
| 信息 | ||||
|---|---|---|---|---|
| ||||
 |
| 信息 | ||||
|---|---|---|---|---|
| ||||
 |
| 信息 | ||||
|---|---|---|---|---|
| ||||
|
| 信息 | ||||
|---|---|---|---|---|
| ||||
|
| 信息 | ||||
|---|---|---|---|---|
| ||||
|
3. 数据接入
3.1 创建非实时应用
3.1.1
-1创建mysql、sqlserver、oracle驱动类型的应用创建MySQL、SQL Server、Oracle驱动类型的应用
创建应用： （1）创建应用： 点击添加，输入应用基本信息、联系人、驱动类型、服务器配置后，点击测试连接，连接通过，即可创建应用
应用名称：中英文名称皆可。应用名称：中英文名称皆可
应用简称：一般是英文名称，类似数据库的架构名称。应用简称：一般是英文名称，类似数据库的架构名称
应用负责人：一般是该系统的IT负责人，方便后续在数据接入的过程中，如果发现上游系统无法正常访问时，能够第一时间得到相应的帮助。应用负责人：一般是该系统的IT负责人，方便后续在数据接入的过程中，如果发现上游系统无法正常访问时，能够第一时间得到相应帮助
负责人邮箱：同应用负责人作用一样。负责人邮箱：同应用负责人作用一样
驱动类型：本平台支持的几种上游系统，如mysql、sqlserver、oracle、ftp文件系统、非实时api调用、RestfulAPI实时推送驱动类型：本平台支持的几种上游系统，如mysql、sqlserver、oracle、ftp文件系统、非实时API调用、RestfulAPI实时推送
服务器配置：本平台同步数据时，用于连接上游系统的服务器基本信息服务器配置：本平台同步数据时，用于连接上游系统的服务器基本信息
3.1.1-2 创建物理表
1.新增一张物理表；
2.选择刚才新增的未命名表；
3.在页面的SQL编辑器中输入业务SQL；
（2）创建物理表
1.新增一张物理表 → 2.选择新增的未命名表 → 3.在页面的SQL编辑器中输入业务SQL→ 4.进入字段映射配置页面；
5.对字段进行配置；6
5.进入覆盖方式页面；7对字段进行配置→ 6.选择同步数据的覆盖方式；
8.保存&发布物理表；
9.填写表基本信息（表名、表描述）；
10.发布。
进入覆盖方式页面
数据类型：
文本：
- 存放文本类型数据。
存放文本类型数据
- 设置长度。
设置长度
- 存放文本类型数据。
整型：
- 存放数值类型，无小数类型。
存放数值类型，无小数类型
- 存放数值类型，无小数类型。
时间戳：
- 存放时间类型数据。
存放时间类型数据
- 存放时间类型数据。
浮点数：
- 存放小数类型数据。
存放小数类型数据
- 设置精度。
设置精度
- 存放小数类型数据。
字符串：
- 存放字符串类型数据。
存放字符串类型数据
- 设置长度。
设置长度
- 存放字符串类型数据。
同步方式：
- 追加：每次同步的数据将以插入的方式追加的原来的表中。
- 全量：每次同步时系统将清空原来的表，并重新插入。
- 业务主键覆盖：系统将根据当前设定的业务主键进行数据覆盖。
- 业务时间覆盖：系统将根据以下选择的条件先从表中删除满足条件的数据，然后重新从插入满足条件的数据。
7.选择同步数据的覆盖方式→ 8.保存&发布物理表
9.填写表基本信息（表名、表描述）
10.发布
同步方式：提供追加、全量覆盖、业务主键覆盖和业务时间覆盖等四种同步方式
追加：每次同步的数据将以插入的方式追加的原来的表中
全量：每次同步时系统将清空原来的表，并重新插入
业务主键覆盖：系统将根据当前设定的业务主键进行数据覆盖
业务时间覆盖：系统将根据以下选择的条件先从表中删除满足条件的数据，然后重新从插入满足条件的数据
3.1.2
-1创建ftp驱动类型的应用
（1）选择ftp驱动类型，填写ftp服务器基本信息，测试连接，连接通过即可保存应用
选择ftp驱动类型，填写ftp服务器基本信息，测试连接，连接通过即可保存应用。
3.1.2-2（2） 创建物理表
1.新增一张物理表；新增一张物理表
2.选择刚才新增的未命名表；选择新增的未命名表
3.选择本次需要同步的excel/csv文件；csv文件
4.预览文件内容；预览文件内容
5.选择本次同步数据的sheet页；选择本次同步数据的sheet页
6.进入字段映射页面。进入字段映射页面
其他操作流程同mysql驱动类型创建物理表一致。其他操作流程同mysql驱动类型创建物理表一致
3.1.3
-1 创建api驱动类型的应用创建API驱动类型的应用
3.1.3-2 创建api
创建api：点击页面“新增”，输入api基本信息，即可创建api
API名称：中英文名称皆可。
API地址：一般是api的访问地址。
请求方式：调用api时指定的请求方式。
json定义：api的json解析根节点定义。
3.1.3-3 配置api请求方式
3.1.3-4 配置api的json结构定义
名称：一般是表英文名称or字段英文名称。
类型：字段类型。
推送规则：一般是字段的推送规则描述，如字段不为空。
推送示例：一般是api推送的测试数据，如设置了name字段推送示例为“上海”，在发布api的时候选择按照配置调用一次api，将name字段赋值“上海”(1) 创建API：点击页面“新增”，输入API基本信息，即可创建API
API名称：中英文名称皆可。
API地址：一般是API的访问地址。
请求方式：调用API时指定的请求方式。
JSON定义：API的JSON解析根节点定义。
（2）配置API请求方式
（3）配置API的JSON结构定义
名称：一般是表英文名称or字段英文名称
类型：字段类型
推送规则：一般是字段的推送规则描述，如字段不为空
推送示例：一般是API推送的测试数据，如设置了name字段推送示例为“上海”，在发布API的时候选择按照配置调用一次API，将name字段赋值“上海”
字段映射
比如配置的json结构为一主一从结构，那么字段映射页面就要配置两张表的字段。比如配置的JSON结构为一主一从结构，那么字段映射页面就要配置两张表的字段
覆盖方式同时也需要配置多表。覆盖方式同时也需要配置多表
勾选选项，发布后，会根据配置调用一次API，并将API的数据推送到本平台中
勾选选项，发布后，会根据配置调用一次api，并将api的数据推送到本平台中。
3.1.
3-54 使用非实时API
管道的创建和基本使用在数据调度介绍文档。
1.选择“开始”并配置，选择”数据湖表任务“；点击“开始”并配置，选择”数据湖表任务“→ 2.选择非实时API应用；选择非实时API应用
3.点击”+“，添加api任务；“，添加API任务→ 4.选择具体的api，支持多api操作；选择具体的API，支持多API操作→5.指定到右边，方便调整api的调用顺序；6指定到右边，方便调整API的调用顺序→ 6.保存api；保存API
7.保存并发布。保存并发布
管道的创建和基本使用在数据调度介绍文档。
3.2 创建实时应用
3.2.1
-1创建RestfulAPI驱动类型的应用
创建api及构建json结构同3.1.3-2、3.1.3-4一致，本平台实时api没有配置api请求方式
3.2.1-2(1)创建API 及构建json结构同上述方法一致，本平台实时API没有配置API请求方式
(2) 使用实时API
点击生成文档，在文档中有详细的调用方式。
以postman为例：
1.复制pdf文档中获取临时token的接口地址；
2.获取当前应用的账号及密码；
3.使用postman，填写接口地址，填写请求参数的账号及密码，调用接口，获取临时token（有效期60min）；
4.查看pdf文档中推送数据的接口地址，在postman中填写地址，填写请求头信息，并将临时token写入请求头中；
5.根据pdf文档中的接口构造好需要推送的数据，调用接口即可，可也通过接口返回值查看接口的调用结果，也可以在数据接入首页应用查看日志。
4. 查看应用日志
