求推荐基于本地文件的大模型？ - V2EX

首页注册登录

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

这是一个创建于 313 天前的主题，其中的信息可能已经有所发展或是发生改变。

想找个基于操作系统本地文件的大模型

新接手的项目，代码逻辑啥的都不熟悉。想借助于 GPT 帮着熟悉代码。例如：进入 xxx 目录 xxx 工程，解释 xxx 文件的第 xxx 代码，解析 xxx 函数的作用。类似这样的。

5 条回复 • 2024-02-02 13:22:54 +08:00

1

overstar

313 天前

我用的 LM Studio 配合 codellama uncensored 版本，Q6 或者 Q8 感觉还行

2

luguhu

313 天前 via iPhone

@overstar #1 uncensored 版本有什么区别？

3

overstar

313 天前

@luguhu 高清无码，有问必答😆

4

lithiumii

313 天前 via Android

@luguhu 大公司发布的大模型一般先有个 base 版本，只能补全文字不能对话；在 base 的基础上喂对话数据集训练出能对话的版本，就可以聊天了。但是这个对话数据集会包含很多拒绝回答的内容，用来让大模型有道德观，比如拒绝回答怎样制造生化武器或者怎样骂人。大公司们必须这样做，来表示自己开发 ai 不是为了危害社会。

但是其他人可以把这些拒绝回答的对话从数据集里拿掉，重新训练 base ，就获得了 uncensored 版本

5

luguhu

313 天前 via iPhone

@overstar #3 @lithiumii #4 谢谢科普，这就换 uncensored😆

关于 · 帮助文档 · 博客 · API · FAQ · 实用小工具 · 2270 人在线 最高记录 6679 ·

Select Language

创意工作者们的社区

World is powered by solitude

VERSION: 3.9.8.5 · 22ms · UTC 15:48 · PVG 23:48 · LAX 07:48 · JFK 10:48
Developed with CodeLauncher
♥ Do have faith in what you're doing.