数据库
数据库适配支持,提供数据输入输出源。
{
"databases": [
{
"name": "stdio",
"driver": "textline"
},
{
"name": "mysql_analysis",
"driver": "mysql",
"host": "127.0.0.1",
"port": 3306,
"user": "root",
"passwd": "123456",
"db": "statistics",
"charset":"utf8mb4"
},
{
"name": "mongo_trading",
"driver": "mongo",
"host": "127.0.0.1",
"port": 27017,
"db": "trading"
},
{
"name": "exports",
"driver": "execl",
"path": "./exports"
},
{
"name": "json",
"driver": "json",
"path": "./json"
}
]
}
memory
从内存输入或者输出到内存暂存区,可用于形成级联处理。
配置参数:
- name 名称
textline
文本文件行输出,可指定用csv或json格式化。
配置参数:
- name 名称
- path 文件保存目录
- format 格式化方式(支持csv、json、richtable,默认制表符间隔)
注:表名可用&1 &2输出到控制台。
mongo
MongoDB数据库支持。
配置参数:
- name 名称
- db 数据库名
- virtual_views 虚拟视图配置信息
其它参数请查看 https://github.com/mongodb/mongo-python-driver 连接参数信息。
mysql
MySQL数据库支持。
配置参数:
- name 名称
- db 数据库名
- virtual_views 虚拟视图配置信息
其它参数请查看 https://github.com/PyMySQL/PyMySQL 连接参数信息。
virtual_views虚拟视图参数:
- name 视图名称
- name_match 视图名称正则匹配(可选)
- query 视图raw sql查询语句
- args 视图查询参数(数组,顺序需和sql语句中条件占位符号一致)
虚拟视图可在需要用原始sql查询语句查询数据库时使用,定义的虚拟视图可当作一个数据库下的标准表在输入指令中使用。
postgresql
PostgreSQL数据库支持。
配置参数:
- name 名称
- db 数据库名
- virtual_views 虚拟视图配置信息
其它参数请查看 https://github.com/psycopg/psycopg2 连接参数信息。
clickhouse
Clickhouse数据库支持。
配置参数:
- name 名称
- database 数据库名
- virtual_views 虚拟视图配置信息
其它参数请查看 https://github.com/mymarilyn/clickhouse-driver 连接参数信息。
influxdb
Influxdb数据库支持,可以用于时序数据分析。
配置参数:
- name 名称
- db 数据库名
- virtual_views 虚拟视图配置信息
其它参数请查看 https://github.com/influxdata/influxdb-python 连接参数信息。
elasticsearch
Elasticsearch数据库支持。
配置参数:
- name 名称
- virtual_views 虚拟视图配置信息
其它参数请查看 https://github.com/elastic/elasticsearch-py 连接参数信息。
execl
读写execl文件支持。
配置参数:
- name 名称
- path execl文件保存目录
csv
读写csv文件支持。
配置参数:
- name 名称
- path csv文件保存目录
注:表名可用&1 &2输出到控制台。
json
读写json文件支持。
配置参数:
- name 名称
- path json文件保存目录
注:表名可用&1 &2输出到控制台。
beanstalk
Beanstalk队列支持。
配置参数:
- name 名称
- serialize 序列化方式(支持直接字符串、pickle、json、msgpack)
- ignore_serialize_error 是否忽略序列化错误(默认False)
- wait_timeout 等待超时时间(默认30秒)
- bulk_size 每批最大条数(默认500)
其它参数请查看 https://github.com/menezes-/pystalkd 连接参数信息。
redis
Redis数据库支持。
配置参数:
- name 名称
- serialize 序列化方式(支持直接字符串、pickle、json、msgpack)
- ignore_serialize_error 是否忽略序列化错误(默认False)
- expire_seconds 默认过期时间(默认1天)
其它参数请查看 https://github.com/andymccurdy/redis-py 连接参数信息。