쉽고 간편한 LLM Chatbot 만들기 - 1

학교 챗봇을 만들려고 이리저리 알아보다가 OpenAI Fine-Turning이나 의도 분류 모델을 활용한 챗봇에 대해 알아보다가, 이보다 더 쉽고 간편하게 LLM 기반 챗봇을 만들 수 있는 것을 찾게 되어서 관련 내용으로 글을 작성해보려고 한다.

 

LLM 기반 챗봇을 만들기 위해서라면 사용자가 질문했을 때 원하는 답변을 받기까지의 시간과 비용이 많이 투자된다. 하지만 이번에 소개하는 내용은 LLM에 대해 몰라도 쉽고 간편하게 챗봇을 만들 수 있도록 만들어진 플랫폼이다.

 

본 내용에서는 "EmbedChain" LLM를 위한 데이터 플랫폼이라고 소개되고 있다.

GitHub - embedchain/embedchain: Data platform for LLMs - Load, index, retrieve and sync any unstructured data

 

"모든 데이터에 LLM 기반의 앱을 쉽게 만들 수 있다"

 

EmbedChain에서 말하는 내용인데 사실인가?라고 하면 맞다고 할 수 있다.

CSV, JSON, XML, TEXT 이외에 Youtube 비디오, 웹 페이지, 노션 등 다양한 비정형 데이터들을 학습시켜서 간단한 코드로 해당 챗봇에게 질문했을 때 좋은 퀄리티의 답변이 돌아오는 것을 확인하였다.

 

하지만 EmbedChain을 사용하기 위해서라면 OpenAI의 API 키가 필요하고 비용이 지출된다는 점이 있다.

비용에 대해 궁금하다면 아래의 링크를 통해 알아보면 될 것 같다.

Language Model > GPT-3.5 Turbo
Embedding Models > Ada v2

 

Pricing

 

EmbedChain에서 지원하는 프로그래밍 언어는 Node.js와 Python를 지원한다.

만약 본인이 프로젝트를 하거나 개발할 때 선호하는 언어가 있다면 지원하는 언어를 확인하고 EmbedChain를 활용한 LLM 챗봇을 만들면 될 것 같다.

 

이번 내용은 EmbedChain에 대한 간단한 소개를 진행하였고, 다음 2편에서 EmbedChain을 이용한 간단한 예제로 돌아오도록 하겠다.

 

쉽고 간편한 LLM Chatbot 만들기 - 2