어떻게 fllask 를 사용 하여 모델 을 서비스 로 배치 합 니까?

1.저 장 된 모형 불 러 오기
편리 함 을 위해 여기 서 우 리 는 간단 한 단어 모델 을 사용 합 니 다.관련 코드 는 다음 과 같 습 니 다.model.py

import jieba


class JiebaModel:
    def load_model(self):
        self.jieba_model = jieba.lcut

    def generate_result(self, text):
        return self.jieba_model(text, cut_all=False)
설명:loadmodel 방법 에 저 장 된 모델 을 불 러 옵 니 다.sklearn,tensor flow 든 pytorch 든 모두 안에서 완성 할 수 있 습 니 다.generateresult 방법 에 서 는 입력 을 처리 한 후 출력 되 는 논 리 를 정의 하고 결 과 를 되 돌려 줍 니 다.
2.flask 시작 서비스 사용
코드 는 다음 과 같 습 니 다:testflask.py

# -*-coding:utf-8-*-
from flask import Flask, request, Response, abort
from flask_cors import CORS
# from ast import literal_eval
import time
import sys
import json
import traceback

from model import JiebaModel

app = Flask(__name__)
CORS(app) #             CORS

@app.route("/", methods=['POST', 'GET'])
def inedx():
    return '         '

@app.route("/split_words", methods=['POST', 'GET'])
def get_result():
    if request.method == 'POST':
        text = request.data.decode("utf-8")
    else:
        text = request.args['text']

    try:
        start = time.time()
        print("    ",text)
        res = jiebaModel.generate_result(text)
        end = time.time()
        print('    :', end-start)
        print('    :', res)
        result = {'code':'200','msg':'    ','data':res}
    except Exception as e:
        print(e)
        result_error = {'errcode': -1}
        result = json.dumps(result_error, indent=4, ensure_ascii=False)
        #               
        exc_type, exc_value, exc_traceback = sys.exc_info()
        lines = traceback.format_exception(exc_type, exc_value, exc_traceback)
        #       
        abort(Response("Failed!
" + '
\r
'.join('' + line for line in lines))) return Response(str(result), mimetype='application/json') if __name__ == "__main__": jiebaModel = JiebaModel() jiebaModel.load_model() app.run(host='0.0.0.0', port=1314, threaded=False)
설명:우 리 는 get 를 정의 했다.result()함수,대응 하 는 요청 은 ip:port/split 입 니 다.words。 우선 요청 이 get 요청 인지 post 요청 에 따라 데 이 터 를 가 져 온 다음 모델 을 사용 하여 입력 데이터 에 따라 출력 결 과 를 얻 고 요청 에 응답 합 니 다.이상 이 있 으 면 해당 처 리 를 하고 돌아 갑 니 다.재main__모델.py 의 JiebaModel 클래스 를 도입 하고 모델 을 불 러 와 getresult()에서 호출 합 니 다.
3.요청 을 보 내 고 결 과 를 얻는다
코드 는 다음 과 같 습 니 다:testrequest.py

import requests

def get_split_word_result(text):
    res = requests.post('http://{}:{}/split_words'.format('  ip', 1314), data=str(text).encode('utf-8'))
    print(res.text)

get_split_word_result("       ")
설명:requests 를 통 해 post 요청 을 보 내 고 데이터 인 코딩 을 utf-8 형식 으로 요청 하 며 마지막 으로 응답 을 받 고.text 를 이용 하여 결 과 를 얻 습 니 다.
4.효과 발현
(1)test 실행flask.py

(2)test 실행request.py

서 비 스 를 시작 하 는 위치 에서 볼 수 있 습 니 다.

이상 은 fllask 를 어떻게 사용 하여 모델 을 서비스 로 배치 하 는 지 에 대한 상세 한 내용 입 니 다.fllask 로 모델 을 서비스 로 배치 하 는 데 관 한 자 료 는 저희 의 다른 관련 글 을 주목 하 십시오!

좋은 웹페이지 즐겨찾기