Налаштування · 5 хвилин

Groq Cloud free-tier.
Безкоштовно. Без credit card. Без NPO-верифікації.

Groq — сторонній провайдер, що запускає open-source моделі (Llama, Qwen, Whisper, Gemma) на власному залізі (LPU). Тут немає NPO-програми — free-tier доступний всім без винятку. Це робить Groq найдешевшим і найшвидшим компонентом AI-стеку: інстант-онбординг, без документів, без верифікації.

14 400

Запитів на день на ключ (Llama 3.3 70B та аналогічні)

~500

Токенів/секунду — найшвидший inference на ринку

$0

Тариф на free-tier. Платний tier — $0.59/M input для Llama 3.3 70B

01 · Моделі та ліміти

Що доступно на free-tier (2026-05)

LLM (текст)

Модель	RPM	TPM	Запитів/день
`llama-3.3-70b-versatile`	30	6 000	14 400
`llama-3.1-8b-instant`	30	6 000	14 400
`llama-3.2-90b-vision-preview`	15	—	—
`gemma2-9b-it`	30	—	14 400
`deepseek-r1-distill-llama-70b`	30	—	—
`qwen-2.5-32b`, `qwen-2.5-coder-32b`	30	—	—

Audio (Whisper)

Модель	RPM	Аудіо/година
`whisper-large-v3`	20	7 200 сек
`whisper-large-v3-turbo`	20	7 200 сек
`distil-whisper-large-v3-en`	20	7 200 сек

Інше

llama-3.2-11b-vision-preview — vision-language
playai-tts — text-to-speech
Batch API — 50 % знижка на async workloads (платний tier)

02 · Покрокове налаштування

7 кроків · від реєстрації до робочого API key

Зайти на console.groq.com.
Sign up: email + password або GitHub / Google OAuth.
Verify email — клікнути посилання з листа.
Verify phone (SMS code). Обов'язково — один номер дозволяє один акаунт (anti-abuse). Використовуйте справжню корпоративну SIM, не VoIP / Twilio / MessageBird — Groq fingerprints і блокує.
Створити API key. На console.groq.com/keys → "Create API Key" → name (наприклад sda-bot-key-1) → copy gsk_... token. Показується ОДИН РАЗ — зберегти у password manager одразу.

Test request.

curl https://api.groq.com/openai/v1/chat/completions \
  -H "Authorization: Bearer $GROQ_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"llama-3.3-70b-versatile","messages":[{"role":"user","content":"hi"}]}'

Моніторинг лімітів. console.groq.com/settings/limits — реальний поточний usage по моделі і ключу.

03 · Кілька ключів = більше throughput

Як легітимно подвоїти / потроїти ліміти

Rate limits у Groq per account, не per key. Створити 5 ключів в одному акаунті НЕ підвищить пропускну здатність. Реальний boost — кілька окремих акаунтів на різні email-и і телефони, на легітимні проекти.

Legitimate use case:

Один акаунт = один бот / сервіс. Наприклад, sda-bot, bible-bot, youthsdaua-bot — три окремих акаунти, три ключі
Кожен на свій SDA-домен email (sda-bot@advent-ug.org, bible-bot@advent-ug.org...)
На кожен — окремий корпоративний SIM (не VoIP) для SMS-верифікації

Cascade у коді. Ваш референс-implementation у brief.croscor.com/server/utils/groq.ts — 3 ключі поверх 6 моделей з round-robin і failover при rate-limit. Якщо ключ 1 на Llama 3.3 70B вичерпав 6 000 TPM — letter переключається на ключ 2 або на іншу модель.

Скільки реально вистачає

3 ключі × 14 400 запитів/день = 43 200 запитів на день безкоштовно на Llama 3.3 70B. Для боту з 100 активних користувачів і 10 повідомлень на користувача — це 1 000 запитів/день. Тобто реальний headroom — 40×.

04 · Місце у стеку

Що робимо на Groq, що на Azure / Anthropic

Задача	Провайдер	Чому
Масові FAQ / Q&A відповіді бота	Groq Llama 3.3 70B	Безкоштовно, швидко, якість достатня для більшості запитів
Транскрипція проповідей / коротких аудіо	Groq Whisper	Безкоштовно, швидше за Azure
Високоякісна транскрипція з diarization	Azure Speech-to-Text	Розділення спікерів, точні timestamps, доступно через грант
Premium AI-відповіді з RAG (Біблія / EGW)	Azure OpenAI GPT-5.4 / GPT-4o	Контент-фільтр compliance, кращий reasoning, доступно через Microsoft-грант
Розробка коду (Claude Code CLI)	Anthropic Premium	Найкращий dev experience, 5× usage limit на NPO Premium
Складні агенти / multi-step reasoning	Anthropic Opus 4.6	Найбільший 1M context, найкращий agentic performance
Генерація картинок до статей	Azure DALL-E 3 / gpt-image-1	Доступно через грант, $0.04/картинка з $2 000 балансу
Переклади	Azure Translator	$10/1М символів, через грант

Реальний приклад розподілу у sda-bot та bible-bot: 95 % запитів через Groq (безкоштовно), 5 % через Azure GPT-5.4 (для content-filter compliance, salvage при block). Інфраструктура для двох ботів = $10/міс на VPS, AI-частина = $0.

05 · Підводні камені

Що ламається найчастіше

Один phone = один акаунт. Не можна reuse номер. Корпоративні SIM, не VoIP
Rate limits per account, не per key — 5 ключів в одному акаунті НЕ дають буст
TPM (tokens-per-minute) б'є раніше за RPM. Llama 3.3 70B — 6 000 TPM на free; при контексті 4К tokens це ~1.5 req/min real-world. Враховуйте у дизайні
14 400 req/day на модель — швидко вичерпується на streaming chat. Cascade важливий
Models deprecate швидко — Groq міняє catalog кожні 2-3 місяці (Mixtral 8x7b пішов, Llama 3.1 405b пішов). Мониторити console.groq.com/docs/models
Production reliance ризикована — free tier немає SLA. Завжди має бути fallback на Azure OpenAI (через грант)
Whisper free tier обмежений: 7 200 sec audio/hour на ключ ≈ 2 години/годину паралельних транскрипцій
Sanctioned countries blocked: RU, IR, KP, SY, CU

06 · Що далі

Решта стеку

Groq — найшвидший компонент для онбордингу (5 хв). Поки чекаєте Goodstack verification для інших трьох — Groq уже працює.

Microsoft for Nonprofits + Azure $2 000/рік — fallback до Groq при rate-limit чи content-filter
Anthropic Claude for Nonprofits — Claude Code для розробки, агенти для складних задач
Google for Nonprofits — Workspace + Ad Grants + Gemini

← Повернутись до посібника