[原创]测试过的几个可以本地部署的大模型 - 人工智能与大数据 - 课外天地李树青

课外天地李树青 → 学习天地 → 人工智能与大数据 → [原创]测试过的几个可以本地部署的大模型

共有5281人关注过本帖树形打印复制链接主题：[原创]测试过的几个可以本地部署的大模型

小大 1楼 博客 | 信息 | 搜索 | 邮箱 | 主页 | UC

管理员
等级：管理员帖子：1973 积分：27188 威望：0 精华：34 注册：2003/12/30 16:34:32

[原创]测试过的几个可以本地部署的大模型 发帖心情

Post By：2024/3/5 19:08:21 [只看该作者]

1）谷歌大模型Gemma

部署参考资料：

https://www.toutiao.com/article/7338355730514330175

安装可视化操作界面：

https://www.toutiao.com/article/7338790678430581299

2）GPT4ALL

部署参考资料：

https://www.toutiao.com/article/7320536267710743075

3）Mac的Chat with MLX

部署参考资料（需要3.8以上新版Python）：

https://www.toutiao.com/article/7342427009794179638

4）NVIDIA的Chat with RTX

下载（需要30/40显卡）：

https://www.nvidia.com/en-us/ai-on-rtx/chat-with-rtx-generative-ai/

小大 2楼 博客 | 信息 | 搜索 | 邮箱 | 主页 | UC

管理员
等级：管理员帖子：1973 积分：27188 威望：0 精华：34 注册：2003/12/30 16:34:32

Post By：2024/3/5 19:09:30 [只看该作者]

主题：[原创]测试过的几个可以本地部署的大模型