Groq — гэта нейронная сетка, аналаг ChatGPT, якая забяспечвае хуткія і ясныя адказы

Кампанія Groq (не блытаем з чат-ботам Ілана Маска) выпусціла новы чып LPU (Language Processing Unit), кастамны ASIC, які забяспечвае фенаменальна высокую хуткасць працы з вялікімі моўнымі мадэлямі.

Чат-бот Groq працуе на ўласным жалезе, генерыруе ў сярэднім 500 токенаў у секунду, у той час як ChatGPT-3.5 на GPU выдае не больш 40.

Крыніца