已屏蔽 原因：{{ notice.reason }}已屏蔽
屏蔽解除屏蔽编辑详情
{{notice.noticeContent}}
~~空空如也
三水合番
1年4个月前 IP:四川
 操作
发表于《试用chatgpt进行科创B卷考试且成功通过》

6b的参数量还是太少了，参数少性能就上不去。huggingface的排行榜里，chatglm2-6b的排名还是差点意思

XXXXXXXXXXXXXXXXXXXXXX/spaces/HuggingFaceH4/open_llm_leaderboard 

image.png

image.png

最前面的模型平均得分在60多，chatglm2-6b是48.2。

大尺寸模型砍精度之后，消费级显卡的内存也能够用。比如有人用4bit量化的mpt30b，只需要大约20GB内存，层主有兴趣的话可以试试

image.png

XXXXXXXXXXXXXXXXXXXXXX/TheBloke/mpt-30B-instruct-GGML 

另外在类似尺寸的开源模型里，也有不少能超过chatglm2-6b的，也可以试试


回复
文号 / 922872
三水合番
千古风流
名片专栏发私信
学术分 4
总主题 76 帖总回复 1378 楼拥有证书：专家 高压局 进士 学者 机友 笔友
注册于 2014-04-30 20:05最后登录 2024-11-25 00:24
主体类型：个人
所属领域：无
认证方式：手机号
IP归属地：未同步

个人简介

从事基于天然神经网络的天线拓扑优化

文件下载
加载中...
{{errorInfo}}
{{downloadWarning}}
你在 {{downloadTime}} 下载过当前文件。
文件名称：{{resource.defaultFile.name}}
下载次数：{{resource.hits}}
上传用户：{{uploader.username}}
所需积分：{{costScores}}，{{holdScores}}下载当前附件免费{{description}}
下载地址：{{l.name}}
积分不足，去充值
文件已丢失
当前账号的附件下载数量限制如下：
时段 个数
{{f.startingTime}}点 - {{f.endTime}}点 {{f.fileCount}}
视频暂不能访问，请登录试试
登录注册
仅供内部学术交流或培训使用，请先保存到本地。本内容不代表科创观点，未经原作者同意，请勿转载。
预览
音频暂不能访问，请登录试试
登录注册
投诉或举报
加载中...
{{tip}}
请选择违规类型：
{{reason.type}}

空空如也

提交成功！
插入资源
全部
图片
视频
音频
附件
全部
未使用
已使用
正在上传
{{b.num+1}}{{b.num+1}}..
跳转到  确定
空空如也~
上传中..{{f.progress}}%
处理中..
上传失败，点击重试
等待中...
{{f.name}}
空空如也~
(视频){{r.oname}}
{{selectedResourcesId.indexOf(r.rid) + 1}}
处理中..
处理失败
插入表情
我的表情
共享表情
Emoji
上传
{{b.num+1}}{{b.num+1}}..
注意事项
最大尺寸100px，超过会被压缩。为保证效果，建议上传前自行处理。
建议上传自己DIY的表情，严禁上传侵权内容。
点击重试等待上传{{s.progress}}%处理中...已上传，正在处理中
空空如也~
处理中...
处理失败
加载中...
草稿箱
加载中...
此处只插入正文，如果要使用草稿中的其余内容，请点击继续创作。
刷新{{b.num+1}}{{b.num+1}}..
{{fromNow(d.toc)}}
{{getDraftInfo(d)}}
标题：{{d.t}}
内容：{{d.c}}
继续创作
删除插入插入
插入公式
评论控制
加载中...
文号：{{pid}}
加载中...
详情
详情
推送到专栏从专栏移除
设为匿名取消匿名
查看作者
回复
只看作者
加入收藏取消收藏
收藏
取消收藏
折叠回复
置顶取消置顶
评学术分
鼓励
设为精选取消精选
管理提醒
编辑
通过审核
评论控制
退修或删除
历史版本
违规记录
投诉或举报
加入黑名单移除黑名单
查看IP
{{format('YYYY/MM/DD HH:mm:ss', toc)}}
ID: {{user.uid}}
文章
{{user.threadCount - user.disabledThreadsCount}}
回复
{{user.postCount - user.disabledPostsCount}}
学术分
{{user.xsf}}
私信私信
专栏