Empresa também está aumentando a produção de suas Unidades de Processamento de Linguagem, e esperam ser capazes de fabricar 1 milhão deles nos próximos dois anos
Se você (assim como todo o mundo) está impressionado com a capacidade da Nvidia para chips de IA, então você pode se interessar também pela Groq. A empresa, cujo chatbot por AI rivaliza com o ChatGPT, e afirma ter o “modelo mais rápido do mundo”.
A Groq também está aumentando a produção de suas Unidades de Processamento de Linguagem, ou LPUs, também conhecidas como GroqChip, e esperam ser capazes de fabricar 1 milhão deles nos próximos dois anos.
O cofundador e CEO da Groq, Jonathan Ross afirma que os clusters de LPUs Groq fornecerão menor latência e menor custo do que o uso de GPUs Nvidia.
“Havia cem startups neste espaço, todas alegando que seriam 10 vezes melhores que a Nvidia, e as pessoas investigavam e isso não costumava se materializar”, disse ele ao site Next Plataform. “Agora, as pessoas têm esses modelos que não conseguem executar [o que elas desejam] rápido o suficiente. E então estamos resolvendo o problema delas, e isso é uma motivação de vendas muito diferente”.
O próximo GroqChip de próxima geração da Groq, previsto para 2025, deve escalar ainda mais rapidamente do que o atual, graças aos aprimoramentos arquiteturais e aos avanços nos materiais dos chips. “Em doze meses, podemos entregar 100.000 LPUs e em 24 meses podemos entregar 1 milhão”, declara Ross.
Fonte: Exame
