단 7줄의 코드로 Google T5 Translation as a Service

T5란? Google의 Text-To-Text Transfer Transformer(T5)는 번역 기능을 제공합니다.



이 기사에서는 Google T5 모델을 REST API 서비스로 배포합니다. 어려운? 제가 말씀드리자면 7줄의 코드만 작성하면 됩니다.



**HuggingFace ** 몇 줄만으로 사전 훈련된 모델을 쉽게 사용할 수 있습니다.

**Pinferencia ** 3줄만 추가하면 모든 모델에 매우 쉽게 서비스를 제공할 수 있습니다.



종속성 설치



HuggingFace



pip install "변압기[pytorch]"

작동하지 않으면 Installation (huggingface.co)을 방문하여 공식 문서를 확인하십시오.

핀페렌시아



pip install "pinferencia[uvicorn]"

작동하지 않으면 Install — Pinferencia (underneathall.app)을 방문하여 공식 문서를 확인하십시오.

서비스 정의



먼저 app.py를 만들어 서비스를 정의해 보겠습니다.




서비스 시작




uvicorn app:service --reload


모델이 다운로드될 때까지 기다립니다. 완료되면 다음이 표시됩니다.





서비스에 전화하기



Pinferencia의 curl 또는 대화형 API 페이지를 사용할 수 있습니다.



곱슬 곱슬하다





결과:





대화형 API 페이지





결과:





Pinferencia이 마음에 드시면 잊지 말고 GitHub로 이동하여 즐겨찾기에 저장하세요.

좋은 웹페이지 즐겨찾기