文章
文章优惠服务商
×
全部标签

Groq

  • 世界最快的大模型Groq上线 最快可实现每秒750tokens

    世界最快的大模型Groq上线 最快可实现每秒750tokens

    一家名为Groq的初创公司在AI圈爆火，其在同名模型启动器上运行的大模型，能够每秒输出近500个token，输出速度比Gemini快10倍，比GPT-4快18倍。 目前，演示界面上有两种模型可以选择：Mixtral8x7B-32k，Llama 270B-4k。与此同时，Groq API也向开发者提供，完全兼容OpenAI API。 Mixtral 8x7B SMoE可以达到480 token/S，…
    行业动态
    • 51
    • 0
    talkbjtalkbj