반응형
안녕하세요! 😄 이번에는 지난 시간에 파인튜닝한 트랜스포머 모델을 웹 앱으로 배포하는 방법을 소개할게요.
✅ 우리가 만든 AI 모델을 웹에서 클릭 한 번으로 쓸 수 있게 만드는 실전 꿀팁입니다.
1. 방법 요약
- Gradio: 빠르고 예쁘게 데모 웹 UI 만들기 좋음
- Streamlit: 데이터 시각화, 실험 대시보드 등에 적합
2. 사전 준비
pip install gradio streamlit transformers torch
3. Gradio로 배포하기 (가장 쉬움!)
import gradio as gr
from transformers import pipeline
model_path = "./my-custom-bert" # 파인튜닝된 모델 경로
classifier = pipeline("sentiment-analysis", model=model_path)
def predict_sentiment(text):
result = classifier(text)[0]
return f"{result['label']} ({result['score']:.2f})"
interface = gr.Interface(fn=predict_sentiment, inputs="text", outputs="text")
interface.launch()
브라우저 창이 뜨면서 감정 분석 웹앱 완성!
4. Streamlit으로 배포하기 (대시보드 스타일)
# filename: app.py
import streamlit as st
from transformers import pipeline
model_path = "./my-custom-bert"
classifier = pipeline("sentiment-analysis", model=model_path)
st.title("감정 분석 AI (with BERT)")
text = st.text_area("문장을 입력하세요:")
if st.button("분석하기"):
result = classifier(text)[0]
st.write(f"결과: {result['label']} ({result['score']:.2f})")
실행:
streamlit run app.py
터미널에서 실행하면 웹 대시보드 형태로 실행돼요.
5. 외부에서 접속하게 만들기 (선택)
- Gradio: share=True 옵션 추가
- interface.launch(share=True)
- Streamlit: Streamlit Community Cloud에서 배포 가능
6. 핵심 요약
항목GradioStreamlit
| 장점 | 빠름, 직관적 UI | 시각화, 다양한 인터랙션 가능 |
| 사용 추천 | 데모 제작 | 실험 분석, 보고용 앱 |
7. 다음 편 예고 ✨
다음 포스팅에서는 Hugging Face Hub에 모델을 올려서 전 세계 누구나 쓸 수 있게 공유하는 방법을 알려드릴게요!
지금까지 따라오신 분들, 정말 대단해요! 👏 AI 입문부터 모델 배포까지 완주하신 겁니다 💯
감사합니다 😊
반응형