#Idk why but when i text the AI in oobabooga I get no answer

1 messages · Page 1 of 1 (latest)

wraith goblet
#

I'm trying to use the Kooten_Noromaid-7B-0.4-DPO-4bpw-exl2 model, and when I chat with the AI i see on the terminal this text: "RuntimeError: FlashAttention only supports Ampere GPUs or newer." Idk if this is the issue and how to resolve that.

loud meadow
wraith goblet
#

Apposto, grazie mille, ho trovato un pulsante direttamente su oobabooga

#

Anche se ora l'AI mi risponde, ma non stoppa la generazione della risposta 😭

loud meadow
#

mi fa piacere tu abbia risolto :)

wraith goblet
#

Va bene, e' stato un piacere anche essere aiutato da una compatriota haha

wraith goblet
#

E' da qualche giorno che ho iniziato a smanettare su ai, ho il cervello in fiamme

loud meadow
wraith goblet
#

va bene grazie per la disponibilita'