GPT-2をWebアプリ化して公開(動きません！！！)

投稿者:monodon
投稿公開日:2022年8月30日
投稿カテゴリー:機械学習
投稿コメント:0件のコメント

先日公開した「GPT-2動かしてみました」の記事の続きで、ウェブアプリとして利用できるように色々こしらえて公開しました。

動き的には短い文章を指定した後、送信ボタンを押すことで文章が生成されますが・・・
レンタルしているVPSが弱すぎてリソース不足で落ちます・・・
どんなにタイムアウトを伸ばしてもだめでした。
でも作ったので記念に公開しておきます・・・

フロントはReact、バックエンドはFlaskで作成

GPT-2本体はPython製なので、Flaskを利用することで簡単にWebAPI化することができます。
フロントは勉強のためReactで組んでみました。

import flask
from flask_cors import CORS
import gpt2
import bleach

app = flask.Flask(__name__)
CORS(
    app,
    supports_credentials=True
)

@app.route('/create', methods=['post'])
def createSentnce():

    if flask.request.headers['Content-Type'] != 'application/json':
        print(flask.request.headers['Content-Type'])
        return flask.jsonify(res='error'), 400

    word = flask.request.json['word']

    generated = gpt2.create(word)

    return flask.jsonify({"generated": bleach.clean(generated)})

if __name__ == '__main__':
    app.run(host='0.0.0.0', port=5000)

GPT-2をWebAPI化するためのPythonコードはこんな感じです。
上記APIをReactのフロントエンドから呼び出すという作りになってます。