ELECTRA로 Binary Classification

올해 초에 TA 문서 요약 서비스 개발 중 BART모델을 알게 되었다. 또 깃헙에 KoBART를 알게 되었고 예시 코드를 보던 중 Pytorch Lightning을 처음 접하게 되었다. 처음에 ELECTRA로 다른 사람이 구현한 것을 바탕으로 모델을 구현하려고 했으나 에러가 났고, 왜 이런 에러가 나는지 알지 못해 LSTM 모델부터 구현해봤다. 나중에 데이터 스케일링을 다시 해서 도전해볼 생...

ELECTRApytorch_lightningPyTorchELECTRA