Hugging Face의 BERT(Auto Model)의 output에서 [CLS] 채우기

나는 이 부분이 매번 불평하는 것을 잊어버릴 것 같아서 필기를 해야 한다.

outputs["last_hidden_state"][:, 0, :]

가능(문자 수 입력×768의 텐서일 것이다.
입력 시 한 마디만 입력하고 벡터를 직접 꺼내려는 경우

output["last_hidden_state"][0, 0, :]

추기:

outputs[1]

에서 얻은 삽입은 pooling층을 통과한 후의 삽입이기 때문에 [CLS]에 대응하는 최종 숨겨진 층을 얻으려면 이 삽입을 사용하지 마십시오