马斯克开源Grok-1:史上最大3140亿参数模型,权重架构全面公开,附最新下载地址

2024-05-07 10:18:00
admin
原创
298

马斯克的xAI公司正式开源了3140亿参数的大型语言模型Grok-1,包括权重和网络架构。这使Grok-1成为目前参数量最大的开源大语言模型。Grok-1采用混合专家(MoE)架构,在给定token上的激活权重为25%。xAI在2023年10月使用自定义训练堆栈从头训练了该模型,并遵守Apache 2.0许可证开源。

 

1.Grok-1 开源模型下载:【磁力链接】 ,然后使用 【Torrent 客户端】进行下载即可!

2.Grok 开源项目:【Github

3.如果需要在云端安装Grok-1大模型,可以通过【租赁H100 云GPU】进行云端搭建

4.当然也可以直接调用HuggingFace       </section>
            <footer>
        <div class='article-moreinfo clearfix'>
                    



 <p class='small'><strong class=关键字

发表评论
评论通过审核后显示。
文章分类
联系我们
联系人: 羊毛君
Email: soft850207@gmail.com
© 2013- 2024 ChatGPT中文站 ai.weoknow.com   
SQL查询:4
内存占用:4.00MB
PHP 执行时间:0.04