马斯克开源Grok-1:史上最大3140亿参数模型,权重架构全面公开,附最新下载地址

2024-05-07 10:18:00
admin
原创
235

马斯克的xAI公司正式开源了3140亿参数的大型语言模型Grok-1,包括权重和网络架构。这使Grok-1成为目前参数量最大的开源大语言模型。Grok-1采用混合专家(MoE)架构,在给定token上的激活权重为25%。xAI在2023年10月使用自定义训练堆栈从头训练了该模型,并遵守Apache 2.0许可证开源。

 

1.Grok-1 开源模型下载:【 磁力链接】 ,然后使用 【 Torrent 客户端】进行下载即可!

2.Grok 开源项目:【 Github

3.如果需要在云端安装Grok-1大模型,可以通过【 租赁H100 云GPU】进行云端搭建

4.当然也可以直接调用HuggingFace  
                    </section> 
                    <footer> <div class='article-moreinfo clearfix'> <p class='small'>
                    <strong class=关键字

发表评论
评论通过审核后显示。
文章分类
联系我们
联系人: 羊毛君
Email: soft850207@gmail.com
网址: ai.weoknow.com