Elasticsearch -- search_after
Elasticsearch 검색에서 되돌아오는 데이터는 기본적으로 최대 10000개입니다. 모든 데이터를 되돌려야 한다면 기본 설정이나scroll 또는search after의 해결 방안을 수정해야 합니다.그 중에서 Search after 솔루션은 별도의 설정과 조작이 필요 없는 세 가지 해결 방안 중 가장 적합한 해결 방안이다
HTTP를 사용하여 구현 요청
GET phonebills/_search
{
     
  "query": {
     
    "term": {
     
      "name": {
     
        "value": " "
      }
    }
  }, 
  "size": 10000,
  "sort": [
    {
     
      "name": {
     
        "order": "desc"
      },
      "_id":{
     
        "order": "desc"
      }
    }
  ]
}
#  sort search after
GET phonebills/_search
{
     
  "query": {
     
    "term": {
     
      "name": {
     
        "value": " "
      }
    }
  },
  "size": 10000,
  "search_after": [
    " ",
    "zzzVumsBieuR7aAcDbV-"
  ],
  "sort": [
    {
     
      "name": {
     
        "order": "desc"
      },
      "_id": {
     
        "order": "desc"
      }
    }
  ]
}
  Java High Level REST Client 사용 사례
    public static void main(String[] args) throws IOException {
     
        RestHighLevelClient client = new RestHighLevelClient(
                RestClient.builder(
                        new HttpHost("localhost", 9200, "http")));
        Object[] objects = new Object[]{
     "start","start"};
        List<Map<String, Object>> data = new ArrayList<Map<String, Object>>();
        boolean type = true;
        while (type) {
     
            SearchHit[] hits = searchAfter(client, objects);
            objects = hits[hits.length-1].getSortValues();
            if (hits.length < 10000) type = false;
            for (SearchHit hit : hits) {
     
                data.add(hit.getSourceAsMap());
            }
        }
        Iterator<Map<String, Object>> iterator = data.iterator();
        while (iterator.hasNext()) {
     
            System.out.println(iterator.next().toString());
        }
        System.out.println(data.size() + "-----------------");
        client.close();
    }
    public static SearchHit[] searchAfter(RestHighLevelClient client, Object[] objects) throws IOException {
     
        SearchSourceBuilder sourceBuilder = new SearchSourceBuilder();
        sourceBuilder.query(QueryBuilders.termQuery("name", " "));
        sourceBuilder.size(10000);
        sourceBuilder.sort("name", SortOrder.DESC);
        sourceBuilder.sort("_id", SortOrder.DESC);
        if(!objects[1].toString().equals("start") && !objects[1].toString().equals("start")) {
     
            sourceBuilder.searchAfter(objects);
        }
        SearchRequest searchRequest = new SearchRequest();
        searchRequest.indices("phonebills");
        searchRequest.source(sourceBuilder);
        SearchResponse response = client.search(searchRequest, RequestOptions.DEFAULT);
        SearchHit[] hits = response.getHits().getHits();
        return hits;
    }
  윈도우즈 단일 버전 테스트 결과
총 데이터
기준 데이터 양
시간 소모 m:s
1000000
78000
14.43
10000000
780000
1:17.15
이 내용에 흥미가 있습니까?
현재 기사가 여러분의 문제를 해결하지 못하는 경우 AI 엔진은 머신러닝 분석(스마트 모델이 방금 만들어져 부정확한 경우가 있을 수 있음)을 통해 가장 유사한 기사를 추천합니다:
Embulk를 사용하여 ElasticCloud로 보내기Embulk에서 ElasticCloud에 보낼 수 있을까라고 생각비망록도 겸해 기술을 남깁니다 Embulk 설치 ElasticCloud (14 일 체험판) brew라면 아래 명령 입력 파일 만들기 파일 내용 seed...
텍스트를 자유롭게 공유하거나 복사할 수 있습니다.하지만 이 문서의 URL은 참조 URL로 남겨 두십시오.
CC BY-SA 2.5, CC BY-SA 3.0 및 CC BY-SA 4.0에 따라 라이센스가 부여됩니다.