文号933260
2449
2
收藏
快速部署本地LLM
Gdeestan2024/06/22软件综合 IP:中国
中文摘要
常见系统ollama部署
关键词
部署
ollamaLLM

准备

  1. 性能可堪一用的电脑或手机

  2. 流畅稳定的国际互联网连接

开始：Ollama

电脑：win:

  1. 下载安装XXXXXXXXXXXXXXXXXX/download/windows

  2. 打开输入ollama run (model name)(官网自行查找 例如 ollama run phi3 再启动命令相同)

  3. 下载 等待 使用 （卸载）

Linux:

  1. 下载安装curl -fsSL XXXXXXXXXXXXXXXXXX/XXXXXXXXXX | sh

  2. 同上……

手机：

  1. 下载安装termux XXXXXXXXXXXXXXXXXXX/repo/com.termux_1020.apk

  2. 习惯性更新（不必要）输入apt update和pkg update

  3. 下载Linux安装工具  pkg install proot-distro

  4. 下载一个Linux 不一定是deiban  proot-distro install debian

  5. 打开 proot-distro login debian

  6. 同上  （curl -fsSL XXXXXXXXXXXXXXXXXX/XXXXXXXXXX | sh ）……

另：

安装检验 ollama -v

下载出错 再输入以重新


后话：参考互联网，手机上建议用近些年的，部署phi3或qwen小模型。用ollama部署LLM很方便，可以作为初学/尝新/快速测试，进阶可学习ModelScope，huggingface

来自：计算机科学 / 软件综合
2
2
全部 只看作者
已屏蔽 原因：{{ notice.reason }}已屏蔽
屏蔽解除屏蔽编辑详情
{{notice.noticeContent}}
~~空空如也
Gdeestan 作者
5个月6天前 IP:中国
933290
1楼

我的win10安装ollama后，不知道遇上了什么问题，关闭后再次打开ollama并点击view logs并不能像刚安装的时候一样打开ollama的命令行，反而跳转到文件管理器打开～/Local/Ollama目录，然后无法使用。查了一些资料还是无法解决，我就换了VirtualBox+Ubuntu再部署

引用
评论
加载评论中，请稍候...
200字以内，仅用于支线交流，主线讨论请采用回复功能。
折叠评论
豆腐干
1个月18天前 IP:浙江
938196
2楼

确实需要性能可堪一用的电脑，我的小笔记本根本跑不了

引用
评论
加载评论中，请稍候...
200字以内，仅用于支线交流，主线讨论请采用回复功能。
折叠评论

想参与大家的讨论？现在就 登录 或者 注册。

所属专业
软件综合
上级专业
计算机科学
同级专业
计算机电子学
Gdeestan
机友
文章
22
回复
353
学术分
0
2023/04/09注册，2时40分前活动

玄学爱好者

主体类型：个人
所属领域：无
认证方式：手机号
IP归属地：广西
名片私信
作者最新文章
一种恐血症发病症状及体验
医学Gdeestan 25天1时前
[集思广益]讨论编写大语言模型汉语化学微调数据集
化学Gdeestan 4个月23天前
Termux简单脚本爽用cloudflare Workers AI REST API
软件综合Gdeestan 4个月29天前
快速部署本地LLM
软件综合Gdeestan 5个月7天前
化工相关资料分享
化学Gdeestan 9个月22天前
【云谈】业余氨催化氧化制硝为何困难
化学Gdeestan 1年0个月前
一种制备AN的方法（思路）
化学Gdeestan 1年3个月前
开一个人脑潜能开发帖
巫术与玄学Gdeestan 1年4个月前
伪诗：邕城寄雨
语言文学Gdeestan 1年5个月前
两种工业制硫酸的方法的猜想
化学Gdeestan 1年5个月前
相似文章推荐
【OCR】简单的做法 [XXXXXT CODE]
软件综合93° 15年7个月前
我对ChromeOs的一些研究和资料
软件综合smith 9年8个月前
解剖一个U盘病毒~
软件综合ldc 16年0个月前
解决发布VB程序时携带大量ocx、dll文件的问题
软件综合ldc 16年0个月前
【x86向量化】三种不同方式的AGC算法代码运行速度对比
软件综合warmonkey 5年11个月前
SVPWM的通俗讲解~
软件综合yanli12321 10年8个月前
自己动手写STM32多任务调度器
软件综合张静茹 9年7个月前
在自然语言文本中隐藏信息
软件综合zx-16533 8年0个月前
Visual C++中的正则表达式支持
软件综合acmilan 9年7个月前
开源！发行！超强步进伺服电机运动控制
软件综合motioncontrol 10年8个月前
文件下载
加载中...
{{errorInfo}}
{{downloadWarning}}
你在 {{downloadTime}} 下载过当前文件。
文件名称：{{resource.defaultFile.name}}
下载次数：{{resource.hits}}
上传用户：{{uploader.username}}
所需积分：{{costScores}}，{{holdScores}}下载当前附件免费{{description}}
下载地址：{{l.name}}
积分不足，去充值
文件已丢失
当前账号的附件下载数量限制如下：
时段 个数
{{f.startingTime}}点 - {{f.endTime}}点 {{f.fileCount}}
视频暂不能访问，请登录试试
登录注册
仅供内部学术交流或培训使用，请先保存到本地。本内容不代表科创观点，未经原作者同意，请勿转载。
预览
音频暂不能访问，请登录试试
登录注册
支持的图片格式：jpg, jpeg, png
插入公式
评论控制
加载中...
文号：{{pid}}
投诉或举报
加载中...
{{tip}}
请选择违规类型：
{{reason.type}}

空空如也

提交成功！
加载中...
详情
详情
推送到专栏从专栏移除
设为匿名取消匿名
查看作者
回复
只看作者
加入收藏取消收藏
收藏
取消收藏
折叠回复
置顶取消置顶
评学术分
鼓励
设为精选取消精选
管理提醒
编辑
通过审核
评论控制
退修或删除
历史版本
违规记录
投诉或举报
加入黑名单移除黑名单
查看IP
{{format('YYYY/MM/DD HH:mm:ss', toc)}}