KEEP GOING
[LLM] langchain을 활용한 챗봇 구현하기 관련 사이트 모음 본문
OpenAI
OpenAI API란?
개발자들이 자신의 애플리케이션, 서비스 등에 인공지능 기술을 쉽게 적용할 수 있도록 설계된 인터페이스
OpenAI에서 개발한 기계학습 모델들을 이용할 수 있음 ex. DALLE(이미지 생성), CLIP(이미지/텍스트 이해), GPT 등
OpenAI API 사용법
OpenAI API를 사용하기 위해서는 API 키 신청해야 함
사용량에 따라 비용 청구됨
OpenAI API로 호출 가능한 모델 list 확인 가능
https://platform.openai.com/docs/models
ngrok
ngrok - 외부에서 로컬서버에 접속할 수 있도록 하는 터널링 프로그램
https://dashboard.ngrok.com/get-started/your-authtoken
ngrok - Online in One Line
dashboard.ngrok.com
getting started > your authtoken 클릭 후 copy
llm example stramlit.app
streamlit이란?
대화형 웹 어플리케이션을 개발할 수 있는 파이썬 기반의 오픈소스 라이브러리
https://llm-examples.streamlit.app/
Chatbot
Starter examples for building LLM apps with Streamlit.
llm-examples.streamlit.app
OpenAI API Key에 키값 입력시 LLM 챗봇 웹UI 제공
tiktokenizer
입력 토큰량을 확인할 수 있는 사이트
https://tiktokenizer.vercel.app/
Tiktokenizer
Built by dqbd. Created with the generous help from Diagram.
tiktokenizer.vercel.app
gpt-3.5-turbo, llama 등 llm model 선택 가능 > gpt-4o 모델이 토큰 수가 잘 최적화되어있음을 알 수 있음
langsmith
langchain 기반의 LLM 애플리케이션을 모니터링 및 테스트하기 위한 플랫폼
모델의 input, output message, latency, total tokens, cost 등을 실시간으로 확인할 수 있음
LangSmith
smith.langchain.com
설정>API Keys>create API key
API key 발급 후 os.environ['LANGCHAIN_API_KEY'] = '본인 인증키' <- 본인 인증키에 적용
Projects에서 구동한 LLM 모델 확인 가능
