所有教程由网友发布,仅供参考,请谨慎采纳。科创不对教程的科学性、准确性、可靠性负责。
Termux简单脚本爽用cloudflare Workers AI REST API
Gdeestan2024/06/30原创 软件综合 IP:中国
中文摘要
简单的脚本接入api在termux上玩
关键词
大模型部署脚本
termuxcloudflareAILLM

事前准备:  

  1. 流畅稳定的国际互联网环境 

  2. cloudflare账号 

  3. Termux或Linux


  老众所周知了,cloudflare作为赛博活佛能给广大网友嫖的东西实在太多了,但是就原生的cloudflare ai api的那个使用体验,可以说是极其难受,具体来说就是:  

 .../usr/worker $ curl -X POST \ ","content":"You are a friendly assista>   XXXXXXXXXXXXXXXXXXXXXXXXXX/client/v4/accounts/acID/ai/run/@cf/meta/llama-2-7b-chat-int8 \ >   -H "Authorization: Bearer (api key)" \ >   -d

   毕竟只是一个简陋的接口哈。GitHub上也有不少可以用的UI嘛。不过我这个人比较喜欢在命令行一类的东西上玩,所以啊,就…(瞎折腾)    

  所以我就火速让隔壁的deepseek给我码了一个可还行的脚本出来 

#!/bin/bash

# 默认的API URL和模型标识
API_URL="https://api.cloudflare.com/client/v4/accounts/(替换为账号ID)/ai/run/@cf/meta/llama-2-7b-chat-int8"
MODEL_ID="@cf/meta/llama-2-7b"
MASK_CONTENT="You are a friendly assistant that helps write stories"
#默认的,更改全部更改
# 函数:启动交互模式
start_interactive_mode() {
    echo "Koop 脚本已启动。输入 'koop end' 结束脚本。"
    while true; do
        read -p "想说些什么: " user_input
        if [[ "$user_input" == "koop end" ]]; then
            echo "Koop 脚本已结束。"
            break
        elif [[ "$user_input" == "koop now" ]]; then
            echo "当前模型是:$MODEL_ID"
        elif [[ "$user_input" == "koop uow" ]]; then
            echo "当前Mask是:$MASK_CONTENT"
        elif [[ "$user_input" == koop\ run* ]]; then
            new_model=$(echo "$user_input" | awk '{print $3}')
            MODEL_ID="$new_model"
            API_URL="https://api.cloudflare.com/client/v4/accounts/(替代为账号ID)/ai/run/$MODEL_ID"
            echo "模型已变更!"
        elif [[ "$user_input" == koop\ mask* ]]; then
            new_mask=$(echo "$user_input" | awk '{$1=""; $2=""; print $0}' | sed 's/^ *//')
            MASK_CONTENT="$new_mask"
            echo "Mask已变更!"
        else
            response=$(curl -s -X POST "$API_URL" \
                -H "Authorization: Bearer (替代为API key)" \
                -d '{"messages":[{"role":"system","content":"'"$MASK_CONTENT"'"},{"role":"user","content":"'"$user_input"'"}]}')
            echo "响应: $(echo "$response" | jq -r '.result.response')"
        fi
    done
}

# 主逻辑
if [[ "$1" == "sir" ]]; then
    start_interactive_mode
else
    echo "用法: ./koop.sh sir"
fi

其中的

账号ID:登录cloudflare,点击左边菜单,找到AI,点击WorkerAI,点击“使用REST API”,见“获取账户ID”。API key就是在此页面上点击创建 Workers AI API 令牌,点击创建API令牌,点击管理API令牌,见Global API Key


脚本使用

修改自己的信息上去

  打开termux用命令nano XXXXXXXXXXXX创建一个脚本,粘贴保存退出,输入命令chmod +x .sh确保脚本有执行权限,输入./XXXXXXXXXXXX sir启动脚本

脚本命令集

./XXXXXXX sir 启动脚本(脚本在当前目录时)
 koop end 结束脚本

koop run (newtxt)修改模型链接(自行查看脚本源码和cloudflare模型库)

koop now 查看当前模型链接

koop mask (newtxt)修改模型设定

koop uow 查看当前模型设定

效果图

IMG_20240630_225536.jpg

注意

可能需要挂VPN才能运行

重启脚本后模型链接和设定都会恢复默认状态

该脚本不具有上下文功能

IMG_20240630_231144.jpg


额,好像不太行啊,凑合着玩玩吧…

[修改于 4个月23天前 - 2024/06/30 23:17:01]

来自:计算机科学 / 软件综合严肃内容:教程/课程
2
1
已屏蔽 原因:{{ notice.reason }}已屏蔽
{{notice.noticeContent}}
~~空空如也
章鱼wheat
4个月23天前 IP:美国
933668

cloudflare Workers 还能免费搭建XX 只需要丢个JS脚本上去  测速最高可以达到330Mbps 实测去访问各种知名网站很流畅  不过用它自己去访问使用了cloudflare cdn的网站很大概率是过不去人机验证的了 比如chatgpt

image.png

引用
评论
加载评论中,请稍候...
200字以内,仅用于支线交流,主线讨论请采用回复功能。
折叠评论
Gdeestan作者
4个月18天前 IP:中国
933842
引用章鱼wheat发表于1楼的内容
cloudflare Workers 还能免费搭建XX 只需要丢个JS脚本上去  测速最高可以达到3...

我怀疑cloudflare自己内部也有墙,我访问一些没有人机验证的网站也根本上不去。

引用
评论
加载评论中,请稍候...
200字以内,仅用于支线交流,主线讨论请采用回复功能。
折叠评论

想参与大家的讨论?现在就 登录 或者 注册

所属专业
上级专业
同级专业
Gdeestan
机友
文章
22
回复
352
学术分
0
2023/04/09注册,41分14秒前活动

玄学爱好者

主体类型:个人
所属领域:无
认证方式:手机号
IP归属地:广西
文件下载
加载中...
{{errorInfo}}
{{downloadWarning}}
你在 {{downloadTime}} 下载过当前文件。
文件名称:{{resource.defaultFile.name}}
下载次数:{{resource.hits}}
上传用户:{{uploader.username}}
所需积分:{{costScores}},{{holdScores}}下载当前附件免费{{description}}
积分不足,去充值
文件已丢失

当前账号的附件下载数量限制如下:
时段 个数
{{f.startingTime}}点 - {{f.endTime}}点 {{f.fileCount}}
视频暂不能访问,请登录试试
仅供内部学术交流或培训使用,请先保存到本地。本内容不代表科创观点,未经原作者同意,请勿转载。
音频暂不能访问,请登录试试
支持的图片格式:jpg, jpeg, png
插入公式
评论控制
加载中...
文号:{{pid}}
投诉或举报
加载中...
{{tip}}
请选择违规类型:
{{reason.type}}

空空如也

加载中...
详情
详情
推送到专栏从专栏移除
设为匿名取消匿名
查看作者
回复
只看作者
加入收藏取消收藏
收藏
取消收藏
折叠回复
置顶取消置顶
评学术分
鼓励
设为精选取消精选
管理提醒
编辑
通过审核
评论控制
退修或删除
历史版本
违规记录
投诉或举报
加入黑名单移除黑名单
查看IP
{{format('YYYY/MM/DD HH:mm:ss', toc)}}