Web  收录于 VXNA 的 5 个网站
10 篇文章 feed address
34 篇文章 feed address
7 篇文章 feed address
Livid

Livid

Remember the bigger green
🏢  V2EX / Builder
V2EX 第 1 号会员,加入于 2010-04-25 21:45:46 +08:00
具有管理社区的权限
txt.dev · 一个很精致有趣的设计
设计  •  Livid  •  2 小时 36 分钟前  •  最后回复来自 CSGO
21
Llama 3.3 70B
Local LLM  •  Livid  •  23 小时 19 分钟前  •  最后回复来自 beginor
21
exo + MindMac = 完全跑在 localhost 上的接近 ChatGPT 的体验
  •  1   
    Local LLM  •  Livid  •  1 天前  •  最后回复来自 Livid
    15
    pywb
    Python  •  Livid  •  12 天前  •  最后回复来自 user23125
    5
    GitHub Copilot for Xcode
  •  2   
    GitHub Copilot  •  Livid  •  43 天前  •  最后回复来自 ShinichiYao
    4
    UniFi 新出的 2.5G 小交换机
    UBNT  •  Livid  •  45 天前  •  最后回复来自 whileFalse
    11
    一个用 Vanilla HTML/JS 当 UI 的游戏 Universal Paperclips
    游戏  •  Livid  •  55 天前  •  最后回复来自 studyingss
    2
    这个 UI 实在是太酷了
    以太坊  •  Livid  •  61 天前  •  最后回复来自 ovtfkw
    12
    一个支持 Solana .sol 的 IPFS/IPNS 网关
    Planet  •  Livid  •  51 天前  •  最后回复来自 liudon
    41
    Livid 最近回复了
    @nrtEBH exo 如果在内网的几台机器上启动,会自动组成一个群集。

    只是,用一堆小机器跑超大模型这件事情可能本身就比较扯。
    4 天前
    回复了 Censhuang 创建的主题 问与答 v 站现在不让发 openai 相关内容吗
    1002 其实是 Rule ID

    @drymonfidelia 那个账号已经被彻底 ban 。
    4 天前
    回复了 haoyh1 创建的主题 macOS window server 到底是何方神圣?
    @xqzr 5 楼的账号已经被彻底 ban 。
    5 天前
    回复了 Livid 创建的主题 Local LLM Llama 3.3 70B
    5 天前
    回复了 Livid 创建的主题 Local LLM Llama 3.3 70B
    这里有 128G 的 M4 Max 用户么,谁能试试 Q8_0 在 M4 Max 上能有多少 t/s
    5 天前
    回复了 Livid 创建的主题 Local LLM Llama 3.3 70B
    @TonyG
    @vfx666

    2021 年的 M1 Max MBP 64GB 内存。

    LM Studio 会自动检测能跑的版本 Q3_K_L:



    实际跑起来之后大概能有 3.8 t/s:

    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   4494 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 106ms · UTC 05:39 · PVG 13:39 · LAX 21:39 · JFK 00:39
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.