V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
Ivone29
V2EX  ›  分享发现

找到一个 Obsidian 也能用上的免费 AI 方式

  •  
  •   Ivone29 · 254 天前 · 5598 次点击
    这是一个创建于 254 天前的主题,其中的信息可能已经有所发展或是发生改变。

    原文: https://mp.weixin.qq.com/s/at7K_8lEfVzQJq5qnpzvUg

    我长期使用本地笔记工具的主要原因,是不想受限制于云端服务,自己的笔记可以安全的存储在自己的电脑硬盘上,不会因为云笔记服务商的跑路,或者出现体验更好的笔记工具,来回横跳,最后笔记过于分散,没有形成系统,在查找所需材料的时候无从下手。

    一款可以直接编辑本地文件的 markdown ,才是我的趁手利器。

    而 Obsidian 恰好满足了我的全部需求,不仅有很好的码字体验,而且有很多第三方插件可以加强笔记的使用体验,也不会因为服务提供商的策略调整额外付费。在此之前,我使用的是 Typora 和 Ulysses 。

    从去年开始,在所有工具都在适配 AI 大模型功能,无论是常用的 Notion 还是去年火起来的 Craft 。在市场的培养中,我也适应了 AI 带来的便利,生成图片、编写文档、小范围写点代码,我已经把很多的工作外包给了 AI 。

    然而,自己的电脑肯定是没有带动大模型系统的条件。我有时也会想,如果想实现与本地笔记对话的 AI ,似乎只能把笔记全都手动搬到云端应用上,使用服务提供商的大模型。但这样一是费时间,二是不安全,三是还不确定云端服务的效果。

    我回头看了看我的全部笔记,几乎每天都会有至少 2000 字的内容,有习惯养成的复盘、计划和方法、阅读内容的笔记以及时间/精力的分配记录。一个月下来,再去回顾的时候,就要花费很多时间,另外因为笔记文件太多,要去查找的时候并不是特别方便,因此我需要一个 AI 来帮助我做一些总结和提醒。

    到此,我需求已经很明确了:找到一款本地可用的大模型工具,或者是把笔记系统搬到线上。不过我更倾向于前者,但不排除前者无法有效满足我需求的可能。

    所以,我从两个方向出发先尝试一下本地可用的大模型:一是要在 obsidian 市场中找到一款能使用 AI 的插件,二是要找到一个价格合适而且好用的 AI API 。

    得益于开发者提供的插件,我在 obsidian 社区中很快锁定了 copilot for obsidian 插件,理由很简单:不受限于 OpenAI 的服务,可以对接任意的大模型 API 。基于 OpenAI ,虽然效果很不错,但价格确实不便宜。

    208shots_so

    接着,我碰巧在 Twitter 中看到一条跟我在寻求相同解决方案的帖子,在下方的评论里面,我发现了一家名叫 openrouter.ai 的公司,这家公司提供很多开源模型的服务,无需自己 host 就可直接调用 API ,而且提供了很多大 token 模型的免费 API 调用( Grok 刚刚开源,估计很快就能体验到)。

    524shots_so

    一切准备就绪之后,就差把大模型应用到 obsidian 里面了。

    首先从 openrouter.ai 中生成一份新的密钥。

    944shots_so

    把密钥配置到 copilot for obsidian 插件中。

    这里有很多配置,你可以下拉就能找到 openrouter.ai

    特别注意的是在选择模型的时候,一定要从 openrouter.ai 提供的模型中复制代码出来,比如你填写「 ChatGPT 」肯定就不能用。可以通过输入框下方的链接中可以找到对应的模型,我使用的「 OpenChat 」模型,原因是携带的上下文比较大而且模型效率还不错,在 openrouter.ai 中免费版对应的代码是「 openchat/openchat-7b:free 」。

    填写完密钥和模型代码,记得回到页面顶部,点击保存,才能生效。

    864shots_so

    这时,在 obsidian 左侧就已经出现了「 Chat 」的图标,点击图标就可以跟实现跟 AI 的对话。

    244shots_so

    目前来说,我已经用了一个多星期,也切换了不少模型,整体的体验效果不错,免费的 API 速度相较于 GPT-4 来说都能快出很多,虽然效果不如 GPT-4 ,但能满足我的基本需求,剩下的就是我如何调校好写好 prompt 。

    635shots_so

    不过,唯一的不便是在手机和 iPad 上不能使用,copilot for obsidian 插件仅限电脑端使用。

    Reference

    欢迎关注我公众号,可以扫链接的二维码关注: https://mp.weixin.qq.com/s/at7K_8lEfVzQJq5qnpzvUg

    8 条回复    2024-03-22 18:14:36 +08:00
    BigBai
        1
    BigBai  
       254 天前
    点赞收藏,有时间研究一下
    woody3rd
        2
    woody3rd  
       254 天前
    有时间去看看
    pamphrey
        3
    pamphrey  
       254 天前
    op 的 obsidian 主题看起来很好看,求一个主题
    pamphrey
        4
    pamphrey  
       254 天前
    相比于免费的 Google 的 gemini1.5 的 api ,哪个模型更好一点呢
    karmaz
        5
    karmaz  
       254 天前
    @pamphrey 应该是一个叫 lifeos 的
    craiiz
        7
    craiiz  
       253 天前
    我用这个 local gpt + chatglm
    https://imgur.com/a/cTOgHoI
    wangrenhuan
        8
    wangrenhuan  
       253 天前
    一刀额度
    GPT-4 Turbo
    128,000 context
    $10 / 1M input tokens
    $30 / 1M output tokens
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2577 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 22ms · UTC 05:22 · PVG 13:22 · LAX 21:22 · JFK 00:22
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.