V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
NGINX
NGINX Trac
3rd Party Modules
Security Advisories
CHANGES
OpenResty
ngx_lua
Tengine
在线学习资源
NGINX 开发从入门到精通
NGINX Modules
ngx_echo
abcbuzhiming
V2EX  ›  NGINX

Nginx 是否存在低成本的性能监控/日志统计方案

  •  
  •   abcbuzhiming · 2021-07-14 15:22:13 +08:00 · 4857 次点击
    这是一个创建于 1246 天前的主题,其中的信息可能已经有所发展或是发生改变。
    GoAccess 的统计方式和显示方式都不太对胃口,ELK 那种超重型方案不太适合。

    我其实最多就像知道十几天内的 Nginx 运行情况,包括:一段时间内,哪些接口被访问过,访问过多少次,按照响应时间排个序让我知道最慢的几个接口。统计出未能成功响应的地址。就这些也就行了
    26 条回复    2021-07-15 14:11:07 +08:00
    helone
        1
    helone  
       2021-07-14 15:25:05 +08:00
    prometheus + grafana
    gqkkk
        2
    gqkkk  
       2021-07-14 15:34:47 +08:00
    nginx 日志输出为 json 格式
    filebeat+elasitcsearch+kibana
    gqkkk
        3
    gqkkk  
       2021-07-14 15:49:20 +08:00
    elk 属于超重型吗?按你说的是只是需要一个日志工具! web-log-parser 之类的
    knightdf
        4
    knightdf  
       2021-07-14 16:01:23 +08:00
    自己写个 shell 统计得了
    0ZXYDDu796nVCFxq
        5
    0ZXYDDu796nVCFxq  
       2021-07-14 16:03:17 +08:00 via Android
    可以改代码自己编译二进制的话,Prometheus 确实是最佳选择
    darrh00
        6
    darrh00  
       2021-07-14 16:11:18 +08:00
    #5

    有 NGINX Prometheus Exporter,不需要改 nginx 任何东西吧。
    ivyliner
        7
    ivyliner  
       2021-07-14 16:24:17 +08:00   ❤️ 1
    https://dystroy.org/rhit/ 今天无意看见的, 看起来蛮轻量的.
    thet
        8
    thet  
       2021-07-14 16:27:02 +08:00 via iPhone
    shell 可以满足
    so1n
        9
    so1n  
       2021-07-14 16:42:08 +08:00
    prometheus 或者 loki
    eason1874
        10
    eason1874  
       2021-07-14 16:51:15 +08:00
    写个 shell 脚本,在想看的时候直接读日志文件就行了,可以搜下网上例子
    indev
        11
    indev  
       2021-07-14 17:14:41 +08:00
    我就写个脚本定时用 goaccess 生成网页
    wxdiy
        12
    wxdiy  
       2021-07-14 17:18:30 +08:00
    从我的使用中,感觉最便宜的方案,可以试下阿里云腾讯云的日志服务,类似于 elk,可以图形化操作收集数据到分析数据,而且价格很便宜,按存储的日志量收费
    lplusk
        13
    lplusk  
       2021-07-14 17:19:45 +08:00
    公有云上的日志服务
    Pursue9
        14
    Pursue9  
       2021-07-14 17:22:31 +08:00
    用 loki, 如果你的 nginx 也用 docker 部署的话,你可以装 docker 的 loki 插件直接过滤日志
    vincent927
        15
    vincent927  
       2021-07-14 17:41:40 +08:00
    Shell
    maxbon
        16
    maxbon  
       2021-07-14 18:05:13 +08:00
    写个 shell 脚本就好了,想统计啥统计啥
    0ZXYDDu796nVCFxq
        17
    0ZXYDDu796nVCFxq  
       2021-07-14 18:18:20 +08:00
    @darrh00 并不能按 URL 粒度采集,所以需要集成第三方模块
    BQsummer
        18
    BQsummer  
       2021-07-14 18:56:34 +08:00 via Android
    自己用的话可以考虑阿里云的日志服务,每月 500m 的免费额度
    yeqizhang
        19
    yeqizhang  
       2021-07-14 21:32:37 +08:00 via Android
    lua +shell ?
    learningman
        20
    learningman  
       2021-07-14 21:37:43 +08:00
    awk 吧
    huangzxx
        21
    huangzxx  
       2021-07-14 21:42:12 +08:00
    二楼方案 +1
    低成本的话,es 单机就行
    v2orz
        22
    v2orz  
       2021-07-14 22:00:13 +08:00
    nginx 有个模块自己就有相关统计
    dusu
        23
    dusu  
       2021-07-15 02:44:36 +08:00 via iPhone
    用 fseek+fopen 自己撸一个 定时任务 要统计什么就统计什么 开销小 无依赖 一个字:舒服
    hahahahahahahah
        24
    hahahahahahahah  
       2021-07-15 08:34:11 +08:00 via iPhone
    awk+sort 呗
    shanghai1943
        25
    shanghai1943  
       2021-07-15 10:54:50 +08:00
    @ivyliner 感觉还不错👍
    Judoon
        26
    Judoon  
       2021-07-15 14:11:07 +08:00   ❤️ 1
    你说的成本是指应用复杂度成本,服务器成本还是你的时间成本?

    如果在云上,直接发给云上的日志系统搞分析。
    如果有 Prometheus 了,那 nginx 的 vts 模块可以直接输出 Prometheus 格式,grafana 画个图就行
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   4330 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 26ms · UTC 01:07 · PVG 09:07 · LAX 17:07 · JFK 20:07
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.