huggingface ray로 transformers 튜닝을 해보자 Ray 병렬/분산 환경 어플리케이션 구축을 도와주는 라이브러리 Python,Java 지원 Parameter tune 등 다양한 기능 제공... GLUEhyperparameterNLPhuggingfacerayGLUE [NLP] PyTorch Lightning 라이브러리를 이용한 Binary-Classification Fine-tuning. NLP에 관심이 많은 사람들이라면 다 아는 이야기이니 전이학습, Transfer-Learning에 대한 이야기는 이정도로 하고 전이학습에서 주로 사용되는 용어인 PLM, Fine-tuning 등에 대해 간략히 설명해보겠다. 많은 양의 텍스트 데이터를 활용하여 일반적인 수준의 언어 이해(language understanding)가 가능하도록 단어 시퀀스에 확률을 부여하는 모델인 LM(Langu... huggingfacetransformersNLPBERTrobertaFine TuningClass Imbalancepytorch lightningBERT
ray로 transformers 튜닝을 해보자 Ray 병렬/분산 환경 어플리케이션 구축을 도와주는 라이브러리 Python,Java 지원 Parameter tune 등 다양한 기능 제공... GLUEhyperparameterNLPhuggingfacerayGLUE [NLP] PyTorch Lightning 라이브러리를 이용한 Binary-Classification Fine-tuning. NLP에 관심이 많은 사람들이라면 다 아는 이야기이니 전이학습, Transfer-Learning에 대한 이야기는 이정도로 하고 전이학습에서 주로 사용되는 용어인 PLM, Fine-tuning 등에 대해 간략히 설명해보겠다. 많은 양의 텍스트 데이터를 활용하여 일반적인 수준의 언어 이해(language understanding)가 가능하도록 단어 시퀀스에 확률을 부여하는 모델인 LM(Langu... huggingfacetransformersNLPBERTrobertaFine TuningClass Imbalancepytorch lightningBERT