lilin3035

LLM 的知识库是参数化的，更新周期太长，而且垂直领域的回答也不一定可靠，有胡编乱造的问题。听人说有 LLM 嵌入 KG 的方法，但只是听说。目前 langchain 和 llama_index 都是文本向量化然后和查询词交互提取 top k.另外有看到有人说 LLM 输入 KG,输出 KG 的。之前风向对 KG 都不看好，重要原因之一就是 KG 的构建自动化程度低。目前的 gpt 在知识图谱构建的实体识别、关系抽取、属性抽取方面表现得很好。可以试试互相迭代。使用 LLM 辅助构建 KG ，用 KG 向量化如 Tekgen 作为数据集对 LLM 的预训练。
另外 prompt 工程，比如 github 项目 Mr.Ranedeer ，教师模式挖掘 LLM 知识库，辅助教学，也是一个方向。
llama_index 用于把项目文档向量化，帮助用户通过聊天的形式查询项目问题，都是比较适合的方向把。

Telegram 不是没有提供端到端加密，但首先端到端加密肯定不支持聊天群加密，聊天群加密或安全方案记得看到过，但本身就不成熟而且缺乏意义，人数上来后你怎么加密都能泄露信息。而且端到端加密也是两个人的事，你开启了端到端加密，和你聊天的人不开启，有什么意义呢

使用非对称加密在不可靠信道中建立安全通信本身就是可行的。重点不在于这些聊天内容。而在于你没法加密自己的元信息，除非使用类似邮件重邮器，其实就类似 tor 了。但是你居然加密了自己的私人信息，是不是有什么不可告人的秘密。以及转移聊天阵地造成的对社群的破坏。本身很多小众软件易用性不是很好，还要考虑新手友好度。聊天软件提供的不止是本身的功能，还提供的是社区服务。element ，irc ，xmpp ，DeltaChat ，还有 Signal 。Briar ，Jami 。只能说你自己搭建一个 irc ，提供端到端加密，代码安全可信而且不重。事实上聊天软件很多功能都是繁琐多余的，但已经形成的社区迁移成本太重。