Elasticsearch -- search_after
Elasticsearch 검색에서 되돌아오는 데이터는 기본적으로 최대 10000개입니다. 모든 데이터를 되돌려야 한다면 기본 설정이나scroll 또는search after의 해결 방안을 수정해야 합니다.그 중에서 Search after 솔루션은 별도의 설정과 조작이 필요 없는 세 가지 해결 방안 중 가장 적합한 해결 방안이다
HTTP를 사용하여 구현 요청
GET phonebills/_search
{
"query": {
"term": {
"name": {
"value": " "
}
}
},
"size": 10000,
"sort": [
{
"name": {
"order": "desc"
},
"_id":{
"order": "desc"
}
}
]
}
# sort search after
GET phonebills/_search
{
"query": {
"term": {
"name": {
"value": " "
}
}
},
"size": 10000,
"search_after": [
" ",
"zzzVumsBieuR7aAcDbV-"
],
"sort": [
{
"name": {
"order": "desc"
},
"_id": {
"order": "desc"
}
}
]
}
Java High Level REST Client 사용 사례
public static void main(String[] args) throws IOException {
RestHighLevelClient client = new RestHighLevelClient(
RestClient.builder(
new HttpHost("localhost", 9200, "http")));
Object[] objects = new Object[]{
"start","start"};
List<Map<String, Object>> data = new ArrayList<Map<String, Object>>();
boolean type = true;
while (type) {
SearchHit[] hits = searchAfter(client, objects);
objects = hits[hits.length-1].getSortValues();
if (hits.length < 10000) type = false;
for (SearchHit hit : hits) {
data.add(hit.getSourceAsMap());
}
}
Iterator<Map<String, Object>> iterator = data.iterator();
while (iterator.hasNext()) {
System.out.println(iterator.next().toString());
}
System.out.println(data.size() + "-----------------");
client.close();
}
public static SearchHit[] searchAfter(RestHighLevelClient client, Object[] objects) throws IOException {
SearchSourceBuilder sourceBuilder = new SearchSourceBuilder();
sourceBuilder.query(QueryBuilders.termQuery("name", " "));
sourceBuilder.size(10000);
sourceBuilder.sort("name", SortOrder.DESC);
sourceBuilder.sort("_id", SortOrder.DESC);
if(!objects[1].toString().equals("start") && !objects[1].toString().equals("start")) {
sourceBuilder.searchAfter(objects);
}
SearchRequest searchRequest = new SearchRequest();
searchRequest.indices("phonebills");
searchRequest.source(sourceBuilder);
SearchResponse response = client.search(searchRequest, RequestOptions.DEFAULT);
SearchHit[] hits = response.getHits().getHits();
return hits;
}
윈도우즈 단일 버전 테스트 결과
총 데이터
기준 데이터 양
시간 소모 m:s
1000000
78000
14.43
10000000
780000
1:17.15
이 내용에 흥미가 있습니까?
현재 기사가 여러분의 문제를 해결하지 못하는 경우 AI 엔진은 머신러닝 분석(스마트 모델이 방금 만들어져 부정확한 경우가 있을 수 있음)을 통해 가장 유사한 기사를 추천합니다:
Embulk를 사용하여 ElasticCloud로 보내기Embulk에서 ElasticCloud에 보낼 수 있을까라고 생각비망록도 겸해 기술을 남깁니다 Embulk 설치 ElasticCloud (14 일 체험판) brew라면 아래 명령 입력 파일 만들기 파일 내용 seed...
텍스트를 자유롭게 공유하거나 복사할 수 있습니다.하지만 이 문서의 URL은 참조 URL로 남겨 두십시오.
CC BY-SA 2.5, CC BY-SA 3.0 및 CC BY-SA 4.0에 따라 라이센스가 부여됩니다.