粗读代码这种概要性工作,本地大模型已经够用了(合集转寄)
转寄人: ZabraZoe (ZabraZoe)
标 题: 粗读代码这种概要性工作,本地大模型已经够用了
发信站: 水木社区 (Wed Jul 29 07:59:27 2026)
来 源: 120.245.107.123
【以下内容由 ZabraZoe 转寄于 AI 版】
标 题: 粗读代码这种概要性工作,本地大模型已经够用了
发信站: 水木社区 (Wed Jul 29 07:59:27 2026)
来 源: 120.245.107.123
【以下内容由 ZabraZoe 转寄于 AI 版】
我把Qwen3.6 35B A3B跑在本地,开了256K词元的上下文,让它读代码然后写文档,大差不差,可堪一用。
可以让它整理需要精读的代码,只有做核心代码重构,才需要花钱买词元请高智商远程AI出手,省了不少。
就等本地资源能跑得动的1M词元上下文的那几个模型了
35b a3b和27b比还是差很多的。
27b基本可以和ds v4 flash打的有来有回。
两者的部署门槛差不多。27b要拉满,最简单的方法也是一张6000 pro。
ds v4 flash则是2张6000 pro。
以上不考虑各种量化。比如27b我一般是fp8,尝试过一段时间nv出的nvfp4版本,和fp8差距还是很大的,只是这个差距普通的任务不一定体现得出来,乍一看会觉得差不多。
我现在在努力打通完全靠qwen3.6 27b写代码的路径。在我看来能力是完全足够的。
【 在 poocp 的大作中提到: 】
: 我把Qwen3.6 35B A3B跑在本地,开了256K词元的上下文,让它读代码然后写文档,大差不差,可堪一用。
: 可以让它整理需要精读的代码,只有做核心代码重构,才需要花钱买词元请高智商远程AI出手,省了不少。
: 就等本地资源能跑得动的1M词元上下文的那几个模型了
我让ChatGPT免费版写项目需求书,然后让Qwen本地做设计文档,然后把设计文档再扔给ChatGPT审阅,把修改意见转回给Qwen本地让它改,然后东西就做成了,benchmark跑下来还不错。
再等一两年本地大模型应该就能达到今年三季度的主流AI水平了。
内存产能估计还会继续维持缺口,哎。
【 在 lvsoft 的大作中提到: 】
: 35b a3b和27b比还是差很多的。
: 27b基本可以和ds v4 flash打的有来有回。
: 两者的部署门槛差不多。27b要拉满,最简单的方法也是一张6000 pro。
我觉得不行。我用5.6 sol review 5.5写的代码,还是review出一堆问题。
【 在 poocp 的大作中提到: 】
: 我把Qwen3.6 35B A3B跑在本地,开了256K词元的上下文,让它读代码然后写文档,大差不差,可堪一用。
: 可以让它整理需要精读的代码,只有做核心代码重构,才需要花钱买词元请高智商远程AI出手,省了不少。
: 就等本地资源能跑得动的1M词元上下文的那几个模型了
粗读主要是把别人的大型代码库中的枝叶和主干部分梳理一下,整理出架构大致的轮廓和运作机制。
不是干review代码这种细活。
不粗读,让花费真金白银的远程AI直接上,会浪费很多词元在简单工作上。
【 在 USSRCCCP 的大作中提到: 】
: 我觉得不行。我用5.6 sol review 5.5写的代码,还是review出一堆问题。