侧边栏壁纸
博主头像
天马行空 博主等级

凡是过往,皆为序章

  • 累计撰写 884 篇文章
  • 累计创建 11 个标签
  • 累计收到 0 条评论

目 录CONTENT

文章目录

粗读代码这种概要性工作,本地大模型已经够用了(合集转寄)

sortie
2026-07-29 / 0 评论 / 0 点赞 / 0 阅读 / 0 字
转寄人: ZabraZoe (ZabraZoe)
标 题: 粗读代码这种概要性工作,本地大模型已经够用了
发信站: 水木社区 (Wed Jul 29 07:59:27 2026)
来 源: 120.245.107.123
【以下内容由 ZabraZoe 转寄于 AI 版】
poocp慢速随机指标
Tue Jul 28 10:28:35 2026 · #1
我把Qwen3.6 35B A3B跑在本地,开了256K词元的上下文,让它读代码然后写文档,大差不差,可堪一用。 可以让它整理需要精读的代码,只有做核心代码重构,才需要花钱买词元请高智商远程AI出手,省了不少。 就等本地资源能跑得动的1M词元上下文的那几个模型了
lvsoftLv(The Last Guardian
Tue Jul 28 12:43:07 2026 · #2
35b a3b和27b比还是差很多的。 27b基本可以和ds v4 flash打的有来有回。 两者的部署门槛差不多。27b要拉满,最简单的方法也是一张6000 pro。 ds v4 flash则是2张6000 pro。 以上不考虑各种量化。比如27b我一般是fp8,尝试过一段时间nv出的nvfp4版本,和fp8差距还是很大的,只是这个差距普通的任务不一定体现得出来,乍一看会觉得差不多。 我现在在努力打通完全靠qwen3.6 27b写代码的路径。在我看来能力是完全足够的。
【 在 poocp 的大作中提到: 】 : 我把Qwen3.6 35B A3B跑在本地,开了256K词元的上下文,让它读代码然后写文档,大差不差,可堪一用。 : 可以让它整理需要精读的代码,只有做核心代码重构,才需要花钱买词元请高智商远程AI出手,省了不少。 : 就等本地资源能跑得动的1M词元上下文的那几个模型了
poocp慢速随机指标
Tue Jul 28 12:48:53 2026 · #3
我让ChatGPT免费版写项目需求书,然后让Qwen本地做设计文档,然后把设计文档再扔给ChatGPT审阅,把修改意见转回给Qwen本地让它改,然后东西就做成了,benchmark跑下来还不错。 再等一两年本地大模型应该就能达到今年三季度的主流AI水平了。 内存产能估计还会继续维持缺口,哎。
【 在 lvsoft 的大作中提到: 】 : 35b a3b和27b比还是差很多的。 : 27b基本可以和ds v4 flash打的有来有回。 : 两者的部署门槛差不多。27b要拉满,最简单的方法也是一张6000 pro。
USSRCCCPU.S.S.R.
Wed Jul 29 01:17:11 2026 · #4
我觉得不行。我用5.6 sol review 5.5写的代码,还是review出一堆问题。
【 在 poocp 的大作中提到: 】 : 我把Qwen3.6 35B A3B跑在本地,开了256K词元的上下文,让它读代码然后写文档,大差不差,可堪一用。 : 可以让它整理需要精读的代码,只有做核心代码重构,才需要花钱买词元请高智商远程AI出手,省了不少。 : 就等本地资源能跑得动的1M词元上下文的那几个模型了
poocp慢速随机指标
Wed Jul 29 07:56:16 2026 · #5
粗读主要是把别人的大型代码库中的枝叶和主干部分梳理一下,整理出架构大致的轮廓和运作机制。 不是干review代码这种细活。 不粗读,让花费真金白银的远程AI直接上,会浪费很多词元在简单工作上。
【 在 USSRCCCP 的大作中提到: 】 : 我觉得不行。我用5.6 sol review 5.5写的代码,还是review出一堆问题。
博主关闭了所有页面的评论