@scarlet frigate
Description:
Lately the Groq provider (selected via :nitro) is outputting gibberish until max tokens. Was working fine previously so this is a provider issue. Please derank them or let them know.
What I've Tried:
Switching provider by removing :nitro solves the issue. It's a groq problem.
Error Messages:
followInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitInitIn
API/Model: meta-llama/llama-3.1-8b-instruct:nitro