elasticsearch for hadoop
CREATE EXTERNAL TABLE `elasticsearch.t_elastic_xxxx`(
`wayuid` string COMMENT 'from deserializer',
`rpt_date` string COMMENT 'from deserializer',
`start_org_code` string COMMENT 'from deserializer',
`start_org_name` string COMMENT 'from deserializer',
`customer_code` string COMMENT 'from deserializer',
`customer_name` string COMMENT 'from deserializer',
`waybill_no` string COMMENT 'from deserializer',
`order_channel_type` string COMMENT 'from deserializer',
`loading_time` string COMMENT 'from deserializer',
`seller_id` string COMMENT 'from deserializer',
`seller_name` string COMMENT 'from deserializer')
ROW FORMAT SERDE
'org.elasticsearch.hadoop.hive.EsSerDe'
STORED BY
'org.elasticsearch.hadoop.hive.EsStorageHandler'
WITH SERDEPROPERTIES (
'serialization.format'='1')
LOCATION
'hdfs://xxxxxx/t_fengchao_test'
TBLPROPERTIES (
'COLUMN_STATS_ACCURATE'='false',
'es.batch.size.bytes'='100000000',
'es.batch.size.entries'='100000',
'es.batch.write.refresh'='false',
'es.index.auto.create'='false',
'es.mapping.id'='wayuid',
'es.net.http.auth.pass'='changeme',
'es.net.http.auth.user'='elastic',
'es.nodes'='xxx.xxx.xxx.xxx',
'es.nodes.wan.only'='true',
'es.port'='9200',
'es.resource'='order_no_sign-2020.11.01-1/t_order_no_sign',
'es.write.operation'='upsert')
만약 ES가 x-pack을 사용한다면'es를 추가해야 합니다.net.http.auth.pass'='changeme', 'es.net.http.auth.user'='elastic', 매개 변수가 권한 검증을 진행합니다.
upset으로 설정하면 한 번에 _id 중복 데이터는 절대 없습니다.
이 내용에 흥미가 있습니까?
현재 기사가 여러분의 문제를 해결하지 못하는 경우 AI 엔진은 머신러닝 분석(스마트 모델이 방금 만들어져 부정확한 경우가 있을 수 있음)을 통해 가장 유사한 기사를 추천합니다:
다양한 언어의 JSONJSON은 Javascript 표기법을 사용하여 데이터 구조를 레이아웃하는 데이터 형식입니다. 그러나 Javascript가 코드에서 이러한 구조를 나타낼 수 있는 유일한 언어는 아닙니다. 저는 일반적으로 '객체'{}...
텍스트를 자유롭게 공유하거나 복사할 수 있습니다.하지만 이 문서의 URL은 참조 URL로 남겨 두십시오.
CC BY-SA 2.5, CC BY-SA 3.0 및 CC BY-SA 4.0에 따라 라이센스가 부여됩니다.