AI 기반 Chat Bot 플랫폼

프로젝트 소개

이 프로젝트는 거대 언어 모델(LLM)을 활용하여 기업용 고객 응대 챗봇을 손쉽게 구축할 수 있도록 개발한 플랫폼입니다. FastAPI 백엔드를 기반으로 비동기 스트리밍(SSE) 응답 처리를 구현하여 사용자가 타자치는 듯한 실시간 응답 환경을 제공합니다.

또한 Docker Compose를 활용하여 데이터베이스(PostgreSQL), 캐싱 레이어(Redis), 그리고 웹 서비스 컨테이너 간의 네트워크 분리를 마이크로서비스 아키텍처(MSA) 수준으로 안전하게 격리 및 배포할 수 있는 환경을 구축했습니다.