实现 spark dataframe/dataset 根据mysql表唯一键实现有则更新，无则插入功能。 基于 spark2.4.3 scala2.11.8 工具类 DataFrameWriterEnhance package com.xxx.utils import org.apache.spark.sql.catalyst.plans.logi…

1. 背景 访问某接口拉取数据，接口需要频次控制，经调研，com.google.common.util.concurrent.RateLimiter可轻易实现。 2. Maven <dependency> <groupId>com.google.guava</groupId> <artifactId>…

import easyocr import torch gpu_is_available = torch.cuda.is_available() reader = easyocr.Reader(['ch_sim', 'en'], gpu=gpu_is_available) ocr_data = reader.…

背景 presto自带unbase64函数，用法如下。 FROM_UTF8(from_base64(nickname)) 但是有些字符会报错。 Query failed (#20220720_091551_00087_mkhun): Illegal base64 character -1a 所以想要自定义一个unbase64函数。 实施 idea新…

from urllib import parse import pandas as pd from sqlalchemy import create_engine db_info = {'user': 'test', 'password': parse.quote_plus('t…

sqoop export \ --update-key unique_index_columns \ --update-mode allowinsert 问题描述： 用上述模式 sqoop 导入数据更新 mysql 数据，无论导入的数据与mysql里数据相比有没有更新，mysql表的 AUTO_INCREMENT 的PRIMARY KEY 例如 （…

脚本 #! /bin/bash source /etc/profile set +o posix # to enable process substitution when not running on bash scala_file=$1 shift 1 arguments=$@ ##### scala 文件后加 sys.exit spark-s…

背景： 线上kudu 集群版本为1.11.0版本, spark 使用 kudu-spark2_2.11-1.7.0.jar， 为了使用新版本中的 val wo = new KuduWriteOptions(ignoreNull = true) 特性，升级至 kudu-spark2_2.11-1.11.0.jar 版本，但是报错 java.io.In…

项目用到phoenix，使用了这个jar包phoenix-client-4.14.1-HBase-1.4.jar，这个jar包导致的jar包冲突很多，一番摸索，解决了，解决如下。 先jar命令解压jar包，然后删除以下内容。然后在jar命令打成jar包。 rm -r javax/ rm -r com/jayway/ rm -r org/apache…

当 hive 表的分区字段 是 date 类型时，用如下方式读取会发生报错。 val targetDay = "2020-08-20" spark.read.table(tableName) .where(s"targetday in (" + s"date_sub('$targetDay…