무료 LLM 서비스 ‘GROQ’ API KEY 발급 방법 정리
최근 진행중인 프로젝트에서 쓸 수 있는 무료 LLM API를 찾다가 정말 쓸만한 걸 발견했다. 이름은 GROQ.
찾아보니 이게 진짜 보석 같은 존재더라. GPT-4급 모델을 무료로 API로 쓸 수 있다는 게 말이 되나 싶을 정도.
아무튼, 나처럼 무료 LLM 찾다가 지친 사람들을 위해 GROQ API KEY 발급 방법을 정리해둔다.
1. GROQ 공식 사이트 접속
Groq is Fast AI Inference
The LPU™ Inference Engine by Groq is a hardware and software platform that delivers exceptional compute speed, quality, and energy efficiency. Groq provides cloud and on-prem solutions at scale for AI applications.
groq.com
우선 GROQ API 공식 홈페이지에 접속했다.
중국계 서비스라고 들었는데... 암튼 UI는 직관적이고, 구글 계정으로 로그인도 가능해서 가입 자체는 어려운 점이 없었다.
2. 회원가입 및 로그인
가입은 이메일 또는 구글 계정으로 가능하다.
나는 그냥 구글 계정으로 로그인했다. 인증 절차 없이 바로 대시보드로 진입 가능했다. 깔끔해서 좋았음.
3. DEV 콘솔 진입 → API key 생성
상단 메뉴에서 “DEV 콘솔” 로 들어가면 개발자 대시보드로 이동된다.
여기서 ‘Create API Key’ 버튼을 눌러서 새 API 키를 생성해준다.
앱 이름은 아무거나 입력하면 되고,
API KEY 와 함께 샘플 curl 이 제공되니 한번 테스트해보면 된다.
4. API 테스트
샘플 코드로 한번 간단히 테스트해본다.
잘 대답하는군~ 오케이
앞으로 잘해보자구!
5. 무료 플랜 지원 모델 및 토큰 제한
지원 모델은 https://console.groq.com/docs/models
GroqCloud - Build Fast
Build Fast with GroqCloud
console.groq.com
여기서 확인할 수 있다.
라마3도 지원된다~
일일 토큰 제한이 있는 모델도 있고 없는 모델도 있지만.. 걍 이게 어디야 정말..ㅜㅜ
6. 가격 정책
이게 핵심인데, 현재는 무료로도 충분히 사용할만 하다.
어찌됐든 LLM 을 API로 사용하고 싶다면 현 시점 그록만큼 크레딧 제한이 없는 건 별로 없는 것 같다.
게다가 모델 성능도 꽤 괜찮다. 어떤 이의 말로는 GPT-3.5 이상은 확실하고, 체감상 GPT-4에 가깝다.고 한다.
뭐 나는 일단 아직 안 써봐서 오늘 써보는 것으로
요약
- 무료 LLM API 찾고 있다면 일단 사용해보는 걸 무조건 추천
- 발급 과정 간단 (회원가입 → 앱 생성 → API 키 확인 끝)
- 성능 좋고 문서도 잘 되어 있음
- 무료로 제공되는 지금 써보는 걸 추천
요즘 GPT API 요금도 비싸고, 저렴한 대안 찾기가 너무 어려운데, 이런 서비스는 정말 귀하다.
나중에 유료 전환되기 전에 미리 써보고, 프로젝트에 적용해보는 걸 추천한다.
돈은 없지만... AI 의 도움이 절실한 나같은 사람에게 정말 유용할 것 같다..
댓글