본문 바로가기

02. 딥러닝

00014. [AI 쉽게 이해하기 시리즈] 트랜스포머 모델 웹에 배포하기! (Gradio & Streamlit 실전)

반응형

안녕하세요! 😄 이번에는 지난 시간에 파인튜닝한 트랜스포머 모델을 웹 앱으로 배포하는 방법을 소개할게요.

✅ 우리가 만든 AI 모델을 웹에서 클릭 한 번으로 쓸 수 있게 만드는 실전 꿀팁입니다.


1. 방법 요약

  • Gradio: 빠르고 예쁘게 데모 웹 UI 만들기 좋음
  • Streamlit: 데이터 시각화, 실험 대시보드 등에 적합

2. 사전 준비

pip install gradio streamlit transformers torch

3. Gradio로 배포하기 (가장 쉬움!)

import gradio as gr
from transformers import pipeline

model_path = "./my-custom-bert"  # 파인튜닝된 모델 경로
classifier = pipeline("sentiment-analysis", model=model_path)

def predict_sentiment(text):
    result = classifier(text)[0]
    return f"{result['label']} ({result['score']:.2f})"

interface = gr.Interface(fn=predict_sentiment, inputs="text", outputs="text")
interface.launch()

브라우저 창이 뜨면서 감정 분석 웹앱 완성!


4. Streamlit으로 배포하기 (대시보드 스타일)

# filename: app.py
import streamlit as st
from transformers import pipeline

model_path = "./my-custom-bert"
classifier = pipeline("sentiment-analysis", model=model_path)

st.title("감정 분석 AI (with BERT)")
text = st.text_area("문장을 입력하세요:")

if st.button("분석하기"):
    result = classifier(text)[0]
    st.write(f"결과: {result['label']} ({result['score']:.2f})")

실행:

streamlit run app.py

터미널에서 실행하면 웹 대시보드 형태로 실행돼요.


5. 외부에서 접속하게 만들기 (선택)


6. 핵심 요약

항목GradioStreamlit

장점 빠름, 직관적 UI 시각화, 다양한 인터랙션 가능
사용 추천 데모 제작 실험 분석, 보고용 앱

7. 다음 편 예고 ✨

다음 포스팅에서는 Hugging Face Hub에 모델을 올려서 전 세계 누구나 쓸 수 있게 공유하는 방법을 알려드릴게요!

지금까지 따라오신 분들, 정말 대단해요! 👏 AI 입문부터 모델 배포까지 완주하신 겁니다 💯

감사합니다 😊

반응형