使用DuckDB处理日常数据需求

DuckDB简介

DuckDB : An Embedded Analytical Database

DuckDB是一款开源的嵌入式(类似SQLite)分析数据库,旨在提供高效的查询性能。 支持标准SQL查询,提供了命令行工具及Golang等多种编程语言的Client API。

Java调用Go

调用过程

Cgo 将Go代码编译成动态链接库,然后Java通过JNA 来调用动态链接库

1
Go ---> Cgo --> Shared libraries <--- JNA <--- Java

名词解释

Cgo:Go和C的桥梁,两者可以互相调用

JNA:一个Java框架,让Java程序更方便地使用动态链接库

Magit, 一款Emacs里好用的Git客户端

Magit简介

官网:https://magit.vc/

用户界面(from magit.vc):

部分命令选项比较多,提供了交互式的popup,不用刻意去记参数。如下图:

常用快捷键及命令

C-x g(magit-status) 开始,查看工作区概况(相当于执行git status)。

Hive读写(集成)Elasticsearch

部分业务场景需要将Hive(离线数仓)数据同步到Elasticsearch集群里,供在线业务使用; 或将Elasticsearch的数据写入Hive,用于离线分析。