加载中
加载中
表情图片
评为精选
鼓励
加载中...
分享
加载中...
文件下载
加载中...
修改排序
加载中...
所有教程由网友发布,仅供参考,请谨慎采纳。科创不对教程的科学性、准确性、可靠性负责。
Termux简单脚本爽用cloudflare Workers AI REST API
Gdeestan2024/06/30原创 软件综合 IP:中国
中文摘要
简单的脚本接入api在termux上玩
关键词
大模型部署脚本
termuxcloudflareAILLM

事前准备:  

  1. 流畅稳定的国际互联网环境 

  2. cloudflare账号 

  3. Termux或Linux


  老众所周知了,cloudflare作为赛博活佛能给广大网友嫖的东西实在太多了,但是就原生的cloudflare ai api的那个使用体验,可以说是极其难受,具体来说就是:  

 .../usr/worker $ curl -X POST \ ","content":"You are a friendly assista>   https://api.cloudflare.com/client/v4/accounts/acID/ai/run/@cf/meta/llama-2-7b-chat-int8 \ >   -H "Authorization: Bearer (api key)" \ >   -d

   毕竟只是一个简陋的接口哈。GitHub上也有不少可以用的UI嘛。不过我这个人比较喜欢在命令行一类的东西上玩,所以啊,就…(瞎折腾)    

  所以我就火速让隔壁的deepseek给我码了一个可还行的脚本出来 

Bash
#!/bin/bash # 默认的API URL和模型标识 API_URL="https://api.cloudflare.com/client/v4/accounts/(替换为账号ID)/ai/run/@cf/meta/llama-2-7b-chat-int8" MODEL_ID="@cf/meta/llama-2-7b" MASK_CONTENT="You are a friendly assistant that helps write stories" #默认的,更改全部更改 # 函数:启动交互模式 start_interactive_mode() {     echo "Koop 脚本已启动。输入 'koop end' 结束脚本。"     while truedo         read -p "想说些什么: " user_input         if [[ "$user_input" == "koop end" ]]; then             echo "Koop 脚本已结束。"             break         elif [[ "$user_input" == "koop now" ]]; then             echo "当前模型是:$MODEL_ID"         elif [[ "$user_input" == "koop uow" ]]; then             echo "当前Mask是:$MASK_CONTENT"         elif [[ "$user_input" == koop\ run* ]]; then             new_model=$(echo "$user_input" | awk '{print $3}')             MODEL_ID="$new_model"             API_URL="https://api.cloudflare.com/client/v4/accounts/(替代为账号ID)/ai/run/$MODEL_ID"             echo "模型已变更!"         elif [[ "$user_input" == koop\ mask* ]]; then             new_mask=$(echo "$user_input" | awk '{$1=""; $2=""; print $0}' | sed 's/^ *//')             MASK_CONTENT="$new_mask"             echo "Mask已变更!"         else             response=$(curl -s -X POST "$API_URL" \                 -H "Authorization: Bearer (替代为API key)" \                 -d '{"messages":[{"role":"system","content":"'"$MASK_CONTENT"'"},{"role":"user","content":"'"$user_input"'"}]}')             echo "响应: $(echo "$response" | jq -r '.result.response')"         fi     done } # 主逻辑 if [[ "$1" == "sir" ]]; then     start_interactive_mode else     echo "用法: ./koop.sh sir" fi

其中的

账号ID:登录cloudflare,点击左边菜单,找到AI,点击WorkerAI,点击“使用REST API”,见“获取账户ID”。API key就是在此页面上点击创建 Workers AI API 令牌,点击创建API令牌,点击管理API令牌,见Global API Key


脚本使用

修改自己的信息上去

  打开termux用命令nano shellname.sh创建一个脚本,粘贴保存退出,输入命令chmod +x .sh确保脚本有执行权限,输入./shellname.sh sir启动脚本

脚本命令集

./koop.sh sir 启动脚本(脚本在当前目录时)
 koop end 结束脚本

koop run (newtxt)修改模型链接(自行查看脚本源码和cloudflare模型库)

koop now 查看当前模型链接

koop mask (newtxt)修改模型设定

koop uow 查看当前模型设定

效果图

IMG_20240630_225536.jpg

注意

可能需要挂VPN才能运行

重启脚本后模型链接和设定都会恢复默认状态

该脚本不具有上下文功能

IMG_20240630_231144.jpg


额,好像不太行啊,凑合着玩玩吧…

[修改于 6个月24天前 - 2024/06/30 23:17:01]

来自:计算机科学 / 软件综合严肃内容:教程/课程
2
1
新版本公告
~~空空如也
章鱼wheat
6个月24天前 IP:美国
933668

cloudflare Workers 还能免费搭建XX 只需要丢个JS脚本上去  测速最高可以达到330Mbps 实测去访问各种知名网站很流畅  不过用它自己去访问使用了cloudflare cdn的网站很大概率是过不去人机验证的了 比如chatgpt

image.png

引用
评论
加载评论中,请稍候...
200字以内,仅用于支线交流,主线讨论请采用回复功能。
折叠评论
Gdeestan作者
6个月20天前 IP:中国
933842
引用章鱼wheat发表于1楼的内容
cloudflare Workers 还能免费搭建XX 只需要丢个JS脚本上去  测速最高可以达到3...

我怀疑cloudflare自己内部也有墙,我访问一些没有人机验证的网站也根本上不去。

引用
评论
加载评论中,请稍候...
200字以内,仅用于支线交流,主线讨论请采用回复功能。
折叠评论

想参与大家的讨论?现在就 登录 或者 注册

所属专业
上级专业
同级专业
Gdeestan
机友
文章
22
回复
374
学术分
0
2023/04/09注册,4时40分前活动

玄学爱好者

主体类型:个人
所属领域:无
认证方式:手机号
IP归属地:广西
插入公式
评论控制
加载中...
文号:{{pid}}
投诉或举报
加载中...
{{tip}}
请选择违规类型:
{{reason.type}}

空空如也

笔记
{{note.content}}
{{n.user.username}}
{{fromNow(n.toc)}} {{n.status === noteStatus.disabled ? "已屏蔽" : ""}} {{n.status === noteStatus.unknown ? "正在审核" : ""}} {{n.status === noteStatus.deleted ? '已删除' : ''}}
  • 编辑
  • 删除
  • {{n.status === 'disabled' ? "解除屏蔽" : "屏蔽" }}
我也是有底线的