文号933260
2299
2
收藏
快速部署本地LLM
Gdeestan2024/06/22软件综合 IP:中国
中文摘要
常见系统ollama部署
关键词
部署
ollamaLLM

准备

  1. 性能可堪一用的电脑或手机

  2. 流畅稳定的国际互联网连接

开始：Ollama

电脑：win:

  1. 下载安装XXXXXXXXXXXXXXXXXX/download/windows

  2. 打开输入ollama run (model name)(官网自行查找 例如 ollama run phi3 再启动命令相同)

  3. 下载 等待 使用 （卸载）

Linux:

  1. 下载安装curl -fsSL XXXXXXXXXXXXXXXXXX/XXXXXXXXXX | sh

  2. 同上……

手机：

  1. 下载安装termux XXXXXXXXXXXXXXXXXXX/repo/com.termux_1020.apk

  2. 习惯性更新（不必要）输入apt update和pkg update

  3. 下载Linux安装工具  pkg install proot-distro

  4. 下载一个Linux 不一定是deiban  proot-distro install debian

  5. 打开 proot-distro login debian

  6. 同上  （curl -fsSL XXXXXXXXXXXXXXXXXX/XXXXXXXXXX | sh ）……

另：

安装检验 ollama -v

下载出错 再输入以重新


后话：参考互联网，手机上建议用近些年的，部署phi3或qwen小模型。用ollama部署LLM很方便，可以作为初学/尝新/快速测试，进阶可学习ModelScope，huggingface

来自：计算机科学 / 软件综合
2
2
全部 只看作者
已屏蔽 原因：{{ notice.reason }}已屏蔽
屏蔽解除屏蔽编辑详情
{{notice.noticeContent}}
~~空空如也
Gdeestan 作者
4个月28天前 IP:中国
933290
1楼

我的win10安装ollama后，不知道遇上了什么问题，关闭后再次打开ollama并点击view logs并不能像刚安装的时候一样打开ollama的命令行，反而跳转到文件管理器打开～/Local/Ollama目录，然后无法使用。查了一些资料还是无法解决，我就换了VirtualBox+Ubuntu再部署

引用
评论
加载评论中，请稍候...
200字以内，仅用于支线交流，主线讨论请采用回复功能。
折叠评论
豆腐干
1个月10天前 IP:浙江
938196
2楼

确实需要性能可堪一用的电脑，我的小笔记本根本跑不了

引用
评论
加载评论中，请稍候...
200字以内，仅用于支线交流，主线讨论请采用回复功能。
折叠评论

想参与大家的讨论？现在就 登录 或者 注册。

所属专业
软件综合
上级专业
计算机科学
同级专业
计算机电子学
Gdeestan
机友
文章
22
回复
351
学术分
0
2023/04/09注册，6分19秒前活动

玄学爱好者

主体类型：个人
所属领域：无
认证方式：手机号
IP归属地：广西
名片私信
作者最新文章
一种恐血症发病症状及体验
医学Gdeestan 16天23时前
[集思广益]讨论编写大语言模型汉语化学微调数据集
化学Gdeestan 4个月15天前
Termux简单脚本爽用cloudflare Workers AI REST API
软件综合Gdeestan 4个月21天前
快速部署本地LLM
软件综合Gdeestan 4个月29天前
化工相关资料分享
化学Gdeestan 9个月14天前
【云谈】业余氨催化氧化制硝为何困难
化学Gdeestan 1年0个月前
一种制备AN的方法（思路）
化学Gdeestan 1年3个月前
开一个人脑潜能开发帖
巫术与玄学Gdeestan 1年4个月前
伪诗：邕城寄雨
语言文学Gdeestan 1年4个月前
两种工业制硫酸的方法的猜想
化学Gdeestan 1年5个月前
相似文章推荐
发点编程的东西，非局部均值法（NLM）降噪
软件综合小俊 14年7个月前
SVPWM的通俗讲解~
软件综合yanli12321 10年8个月前
不用浮点运算的3D图形算法~
软件综合神之觉醒 9年8个月前
数据抓取艺术——以KC网为例
软件综合全桥整流 9个月16天前
图像缩放插值算法
软件综合小俊 15年5个月前
FIR与IIR低通滤波器的最简最快实现
软件综合novakon 8年11个月前
【Delphi】RGB值转色轮值
软件综合93° 15年7个月前
控制网络流量规则变化并输出波形——NetWaveOutput
软件综合ldc 16年1个月前
grub efi binary For X86(IA-32)
软件综合phpskycn 9年3个月前
大爱的CUDA：图像亮度直方图统计
软件综合小俊 15年6个月前
文件下载
加载中...
{{errorInfo}}
{{downloadWarning}}
你在 {{downloadTime}} 下载过当前文件。
文件名称：{{resource.defaultFile.name}}
下载次数：{{resource.hits}}
上传用户：{{uploader.username}}
所需积分：{{costScores}}，{{holdScores}}下载当前附件免费{{description}}
下载地址：{{l.name}}
积分不足，去充值
文件已丢失
当前账号的附件下载数量限制如下：
时段 个数
{{f.startingTime}}点 - {{f.endTime}}点 {{f.fileCount}}
视频暂不能访问，请登录试试
登录注册
仅供内部学术交流或培训使用，请先保存到本地。本内容不代表科创观点，未经原作者同意，请勿转载。
预览
音频暂不能访问，请登录试试
登录注册
支持的图片格式：jpg, jpeg, png
插入公式
评论控制
加载中...
文号：{{pid}}
投诉或举报
加载中...
{{tip}}
请选择违规类型：
{{reason.type}}

空空如也

提交成功！
加载中...
详情
详情
推送到专栏从专栏移除
设为匿名取消匿名
查看作者
回复
只看作者
加入收藏取消收藏
收藏
取消收藏
折叠回复
置顶取消置顶
评学术分
鼓励
设为精选取消精选
管理提醒
编辑
通过审核
评论控制
退修或删除
历史版本
违规记录
投诉或举报
加入黑名单移除黑名单
查看IP
{{format('YYYY/MM/DD HH:mm:ss', toc)}}