Transformers Bert — 신화를 밝히다: 10줄의 코드 내에서 플레이 및 배포

Bert는 가지고 놀기에 환상적인 모델입니다. 문장에서 누락된 단어를 추론할 수 있습니다.

이 기사에서는 Google T5 모델을 REST API 서비스로 배포합니다. 어려운? 제가 말씀드리자면 6줄의 코드만 작성하면 됩니다.




Pinferencia을 사용하면 세 줄만 추가하면 모든 모델에 매우 쉽게 서비스를 제공할 수 있습니다.
HuggingFace을 사용하면 몇 줄만으로 사전 훈련된 모델을 쉽게 사용할 수 있습니다.

종속성 설치

HuggingFace

pip install "transformers[pytorch]"

작동하지 않으면 Installation (huggingface.co)을 방문하여 공식 문서를 확인하십시오.

핀페렌시아

pip install "pinferencia[uvicorn]"

작동하지 않으면 Install — Pinferencia (underneathall.app)을 방문하여 공식 문서를 확인하십시오.

서비스 정의

먼저 app.py를 만들어 서비스를 정의해 보겠습니다.

서비스 시작

모델이 다운로드될 때까지 기다립니다. 완료되면 다음이 표시됩니다.

서비스에 전화하기

Pinferencia의 curl 또는 대화형 API 페이지를 사용할 수 있습니다.

곱슬 곱슬하다

결과:

가장 높은 점수를 받은 문장은 펭귄은 날 수 없다입니다. 말이 되시죠?

Curl 외에도 Pinferencia’s을 사용할 수 있습니다.

대화형 API 페이지

Mlearning.ai Submission Suggestions