C114门户论坛百科APPEN| 举报 切换到宽版

亚星游戏官网

 找回密码
 注册

只需一步,快速开始

短信验证,便捷登录

搜索
查看: 1975|回复: 2

本地部署llama3.1 [复制链接]

军衔等级:

亚星游戏官网-yaxin222  上等兵

注册:2015-5-31
发表于 2024-7-30 09:23:25 |显示全部楼层
这里以win11举例
1、在官网下载ollama
https://ollama.com/download
2、运行下载的exe文件安装Windows到C盘
3、win+R 运行cmd
命令行输入ollama run llama3.1:8b 下载镜像,本地部署建议8b,还可以选78b和405b占用资源太大,不建议。
4、下载好后就可以和llama对话了

下次打开只需要在cmd里面输入ollama run llama3.1:8b 就可以唤出llama.


举报本楼

本帖有 2 个回帖,您需要登录后才能浏览 登录 | 注册
您需要登录后才可以回帖 登录 | 注册 |

手机版|C114 ( 沪ICP备12002291号-1 )|联系大家 |网站地图  

GMT+8, 2024-11-23 20:24 , Processed in 0.081886 second(s), 17 queries , Gzip On.

Copyright © 1999-2023 C114 All Rights Reserved

Discuz Licensed

回顶部
XML 地图 | Sitemap 地图