nginx的access日志与error日志分析方法

# 1. nginx日志简介**

nginx日志是记录服务器请求和错误信息的文本文件。它分为两种类型：access日志和error日志。access日志记录每个HTTP请求的信息，如请求时间、请求方法、请求URL、响应状态代码和响应大小。error日志记录服务器在处理请求时遇到的错误信息。

日志文件通常存储在`/var/log/nginx/`目录下。access日志的文件名为`access.log`，error日志的文件名为`error.log`。日志文件的格式可以根据需要进行自定义，但默认格式是Common Log Format (CLF)和Error Log Format (ELF)。

# 2. access日志分析

### 2.1 日志格式详解

nginx access日志的默认格式为：

$remote_addr - $remote_user [$time_local] "$request" $status $body_bytes_sent "$http_referer" "$http_user_agent"

其中，各个字段的含义如下：

| 字段 | 含义 |
|---|---|
| `$remote_addr` | 客户端IP地址 |
| `$remote_user` | 客户端用户（通常为空） |
| `$time_local` | 本地时间，格式为`[dd/mm/yyyy:hh:mm:ss +0800]` |
| `$request` | 请求行，包括请求方法、URL和协议版本 |
| `$status` | HTTP状态码 |
| `$body_bytes_sent` | 响应体大小 |
| `$http_referer` | 引用页面的URL |
| `$http_user_agent` | 客户端浏览器信息 |

### 2.2 日志分析工具和方法

#### 2.2.1 awk和grep命令

awk和grep是两个强大的文本处理工具，可用于分析access日志。

**awk命令示例：**

{
    print $1,$4,$9
}

**功能：** 输出客户端IP、请求行和引用页面。

**grep命令示例：**

grep "200" access.log

**功能：** 过滤出状态码为200的日志行。

#### 2.2.2 日志分析软件

也有许多专门用于分析nginx日志的软件，例如：

* **Logstash**：一个开源的日志处理框架，可用于收集、解析和存储日志。
* **Kibana**：一个可视化工具，可用于探索和分析Logstash收集的日志。
* **Graylog**：一个商业日志管理平台，提供强大的日志分析和监控功能。

### 2.3 常见日志分析场景

#### 2.3.1 访问量统计

通过统计不同URL的访问次数，可以了解网站的热门页面和流量分布情况。

**awk命令示例：**

{
    url[$7]++
}
END {
    for (i in url) {
        print i,url[i]
    }
}

**功能：** 统计每个URL的访问次数。

#### 2.3.2 访问来源分析

通过分析引用页面，可以了解用户从哪些渠道访问网站。

**awk命令示例：**

{
    if ($9 != "-") {
        referrers[$9]++
    }
}
END {
    for (i in referrers) {
        print