NetBackup教程FG033-NetBackup日志聚合与分析（ELK）实战
本文档风哥主要介绍NetBackup日志聚合与分析（ELK）的实战方法，包括ELK的概念、NetBackup日志的概念、ELK与NetBackup的集成和实战案例等内容，风哥教程参考NetBackup官方文档NetBackup Logging Guide，适合备份管理员和系统工程师在学习和测试中使用。学习交流加群风哥微信: itpux-com
Part01-基础概念与理论知识
1.1 ELK概述
ELK是Elasticsearch、Logstash和Kibana的缩写，是一套用于日志聚合、分析和可视化的开源工具。ELK的主要组件包括：
- Elasticsearch：分布式搜索引擎，用于存储和索引日志数据
- Logstash：日志收集和处理工具，用于收集、过滤和转换日志数据
- Kibana：可视化工具，用于展示和分析日志数据
1.2 NetBackup日志概述
NetBackup生成多种类型的日志，用于记录系统的运行状态、备份和恢复操作的执行情况等。NetBackup的主要日志类型包括：
1.2.1 日志类型
- 进程日志：记录NetBackup进程的运行状态
- 作业日志：记录备份和恢复作业的执行情况
- 设备日志：记录存储设备的操作情况
- 客户端日志：记录客户端的备份和恢复操作
1.2.2 日志级别
- 0：仅记录错误
- 1：记录警告和错误
- 2：记录信息、警告和错误
- 3：记录详细信息、信息、警告和错误
- 4-7：更详细的调试信息
1.3 ELK与NetBackup集成
ELK与NetBackup集成，允许集中管理和分析NetBackup日志。集成的主要优势包括：
1.3.1 集成优势
- 集中管理：集中收集和管理NetBackup日志
- 实时分析：实时分析NetBackup日志
- 可视化：通过Kibana可视化日志数据
- 告警：设置告警规则，及时通知异常情况
- 历史查询：快速查询历史日志
1.3.2 集成架构
- Logstash：收集NetBackup日志
- Elasticsearch：存储和索引日志数据
- Kibana：展示和分析日志数据
- NetBackup服务器：生成日志数据
Part02-生产环境规划与建议
2.1 ELK规划
ELK规划应考虑以下因素：
– [ ] 节点数量：确定ELK集群的节点数量
– [ ] 硬件配置：确定节点的硬件配置
– [ ] 存储配置：确定存储的配置
– [ ] 网络配置：确定网络的配置
– [ ] 安全配置：确定安全的配置
– [ ] 监控配置：确定监控的配置
– [ ] 备份配置：确定备份的配置
2.2 NetBackup日志规划
NetBackup日志规划应考虑以下因素：
– [ ] 日志级别：确定日志的级别
– [ ] 日志位置：确定日志的存储位置
– [ ] 日志大小：确定日志的大小限制
– [ ] 日志保留：确定日志的保留时间
– [ ] 日志轮转：确定日志的轮转策略
– [ ] 日志收集：确定日志的收集方式
2.3 ELK系统要求
ELK的系统要求：
– Elasticsearch：
– 内存：至少8GB
– 存储：至少100GB
– CPU：至少4核
– Logstash：
– 内存：至少4GB
– 存储：至少50GB
– CPU：至少2核
– Kibana：
– 内存：至少4GB
– 存储：至少20GB
– CPU：至少2核
– 操作系统：
– Linux (RHEL 7.x/8.x/9.x, Oracle Linux 7.x/8.x/9.x)
– 网络要求：
– 网络带宽：至少1Gbps
– 网络延迟：低于100ms
Part03-生产环境项目实施方案
3.1 ELK设置
3.1.1 安装Elasticsearch
$ sudo rpm –import https://artifacts.elastic.co/GPG-KEY-elasticsearch
$ sudo vi /etc/yum.repos.d/elasticsearch.repo
[elasticsearch-7.x]
name=Elasticsearch repository for 7.x packages
baseurl=https://artifacts.elastic.co/packages/7.x/yum
gpgcheck=1
gpgkey=https://artifacts.elastic.co/GPG-KEY-elasticsearch
enabled=1
autorefresh=1
type=rpm-md
$ sudo yum install -y elasticsearch
# 2. 配置Elasticsearch
$ sudo vi /etc/elasticsearch/elasticsearch.yml
cluster.name: netbackup-cluster
node.name: node-1
path.data: /var/lib/elasticsearch
path.logs: /var/log/elasticsearch
network.host: 0.0.0.0
http.port: 9200
# 3. 启动Elasticsearch
$ sudo systemctl start elasticsearch
$ sudo systemctl enable elasticsearch
# 4. 验证Elasticsearch
$ curl -X GET “localhost:9200/”
{
“name” : “node-1”,
“cluster_name” : “netbackup-cluster”,
“cluster_uuid” : “_na_”,
“version” : {
“number” : “7.17.0”,
“build_flavor” : “default”,
“build_type” : “rpm”,
“build_hash” : “bee86328705acaa9a6daede7140defd4d9ec56bd”,
“build_date” : “2022-01-28T08:36:04.875279988Z”,
“build_snapshot” : false,
“lucene_version” : “8.11.1”,
“minimum_wire_compatibility_version” : “6.8.0”,
“minimum_index_compatibility_version” : “6.0.0-beta1”
},
“tagline” : “You Know, for Search”
}
3.1.2 安装Logstash
$ sudo vi /etc/yum.repos.d/logstash.repo
[logstash-7.x]
name=Logstash repository for 7.x packages
baseurl=https://artifacts.elastic.co/packages/7.x/yum
gpgcheck=1
gpgkey=https://artifacts.elastic.co/GPG-KEY-elasticsearch
enabled=1
autorefresh=1
type=rpm-md
$ sudo yum install -y logstash
# 2. 配置Logstash
$ sudo vi /etc/logstash/conf.d/netbackup.conf
input {
file {
path => [“/NetBackup/app/netbackup/logs/**/*.log”]
start_position => “beginning”
sincedb_path => “/var/lib/logstash/sincedb”
}
}
filter {
grok {
match => {
“message” => “%{TIMESTAMP_ISO8601:timestamp} %{LOGLEVEL:loglevel} \[%{DATA:component}\] %{GREEDYDATA:message}”
}
}
date {
match => [“timestamp”, “yyyy-MM-dd HH:mm:ss.SSS”]
target => “@timestamp”
}
}
output {
elasticsearch {
hosts => [“localhost:9200”]
index => “netbackup-%{+YYYY.MM.dd}”
}
}
# 3. 启动Logstash
$ sudo systemctl start logstash
$ sudo systemctl enable logstash
# 4. 验证Logstash
$ sudo systemctl status logstash
3.1.3 安装Kibana
$ sudo vi /etc/yum.repos.d/kibana.repo
[kibana-7.x]
name=Kibana repository for 7.x packages
baseurl=https://artifacts.elastic.co/packages/7.x/yum
gpgcheck=1
gpgkey=https://artifacts.elastic.co/GPG-KEY-elasticsearch
enabled=1
autorefresh=1
type=rpm-md
$ sudo yum install -y kibana
# 2. 配置Kibana
$ sudo vi /etc/kibana/kibana.yml
server.port: 5601
server.host: “0.0.0.0”
elasticsearch.hosts: [“http://localhost:9200”]
# 3. 启动Kibana
$ sudo systemctl start kibana
$ sudo systemctl enable kibana
# 4. 验证Kibana
# 访问 http://localhost:5601
3.2 NetBackup日志配置
3.2.1 配置NetBackup日志级别
$ /NetBackup/app/netbackup/bin/admincmd/bpsetconfig “LOG_LEVEL = 3”
# 2. 配置特定进程的日志级别
$ /NetBackup/app/netbackup/bin/admincmd/bpsetconfig “BPBRM_LOG_LEVEL = 3”
$ /NetBackup/app/netbackup/bin/admincmd/bpsetconfig “BPCD_LOG_LEVEL = 3”
$ /NetBackup/app/netbackup/bin/admincmd/bpsetconfig “BPDBM_LOG_LEVEL = 3”
# 3. 验证日志配置
$ /NetBackup/app/netbackup/bin/admincmd/bpgetconfig LOG_LEVEL
$ /NetBackup/app/netbackup/bin/admincmd/bpgetconfig BPBRM_LOG_LEVEL
$ /NetBackup/app/netbackup/bin/admincmd/bpgetconfig BPCD_LOG_LEVEL
$ /NetBackup/app/netbackup/bin/admincmd/bpgetconfig BPDBM_LOG_LEVEL
3.2.2 配置NetBackup日志轮转
$ sudo vi /etc/logrotate.d/netbackup
/NetBackup/app/netbackup/logs/**/*.log {
daily
rotate 7
compress
delaycompress
missingok
notifempty
}
# 2. 验证日志轮转配置
$ sudo logrotate -v /etc/logrotate.d/netbackup
3.3 ELK集成
3.3.1 配置Logstash收集NetBackup日志
$ sudo vi /etc/logstash/conf.d/netbackup.conf
input {
file {
path => [“/NetBackup/app/netbackup/logs/**/*.log”]
start_position => “beginning”
sincedb_path => “/var/lib/logstash/sincedb”
}
}
# 2. 配置Logstash过滤
filter {
grok {
match => {
“message” => “%{TIMESTAMP_ISO8601:timestamp} %{LOGLEVEL:loglevel} \[%{DATA:component}\] %{GREEDYDATA:message}”
}
}
date {
match => [“timestamp”, “yyyy-MM-dd HH:mm:ss.SSS”]
target => “@timestamp”
}
}
# 3. 配置Logstash输出
output {
elasticsearch {
hosts => [“localhost:9200”]
index => “netbackup-%{+YYYY.MM.dd}”
}
}
# 4. 重启Logstash
$ sudo systemctl restart logstash
3.3.2 配置Kibana索引模式
# 访问 http://localhost:5601
# 2. 创建索引模式
– 点击”Management” > “Index Patterns”
– 输入索引模式：netbackup-*
– 点击”Next step”
– 选择时间字段：@timestamp
– 点击”Create index pattern”
# 3. 验证索引模式
# 点击”Discover”，查看NetBackup日志
Part04-生产案例与实战讲解
4.1 ELK实战
4.1.1 案例1：ELK集群搭建
# 节点1：elk1.fgedu.net.cn
# 节点2：elk2.fgedu.net.cn
# 节点3：elk3.fgedu.net.cn
# 2. 配置Elasticsearch集群
$ sudo vi /etc/elasticsearch/elasticsearch.yml
cluster.name: netbackup-cluster
node.name: node-1
path.data: /var/lib/elasticsearch
path.logs: /var/log/elasticsearch
network.host: 0.0.0.0
http.port: 9200
discovery.seed_hosts: [“elk1.fgedu.net.cn”, “elk2.fgedu.net.cn”, “elk3.fgedu.net.cn”]
cluster.initial_master_nodes: [“node-1”, “node-2”, “node-3”]
# 3. 启动Elasticsearch集群
$ sudo systemctl start elasticsearch
$ sudo systemctl enable elasticsearch
# 4. 验证Elasticsearch集群
$ curl -X GET “localhost:9200/_cluster/health”
{
“cluster_name” : “netbackup-cluster”,
“status” : “green”,
“timed_out” : false,
“number_of_nodes” : 3,
“number_of_data_nodes” : 3,
“active_primary_shards” : 10,
“active_shards” : 20,
“relocating_shards” : 0,
“initializing_shards” : 0,
“unassigned_shards” : 0,
“delayed_unassigned_shards” : 0,
“number_of_pending_tasks” : 0,
“number_of_in_flight_fetch” : 0,
“task_max_waiting_in_queue_millis” : 0,
“active_shards_percent_as_number” : 100.0
}
# 5. 配置Logstash
$ sudo vi /etc/logstash/conf.d/netbackup.conf
input {
file {
path => [“/NetBackup/app/netbackup/logs/**/*.log”]
start_position => “beginning”
sincedb_path => “/var/lib/logstash/sincedb”
}
}
filter {
grok {
match => {
“message” => “%{TIMESTAMP_ISO8601:timestamp} %{LOGLEVEL:loglevel} \[%{DATA:component}\] %{GREEDYDATA:message}”
}
}
date {
match => [“timestamp”, “yyyy-MM-dd HH:mm:ss.SSS”]
target => “@timestamp”
}
}
output {
elasticsearch {
hosts => [“elk1.fgedu.net.cn:9200”, “elk2.fgedu.net.cn:9200”, “elk3.fgedu.net.cn:9200”]
index => “netbackup-%{+YYYY.MM.dd}”
}
}
# 6. 启动Logstash
$ sudo systemctl start logstash
$ sudo systemctl enable logstash
# 7. 配置Kibana
$ sudo vi /etc/kibana/kibana.yml
server.port: 5601
server.host: “0.0.0.0”
elasticsearch.hosts: [“http://elk1.fgedu.net.cn:9200”, “http://elk2.fgedu.net.cn:9200”, “http://elk3.fgedu.net.cn:9200”]
# 8. 启动Kibana
$ sudo systemctl start kibana
$ sudo systemctl enable kibana
# 9. 验证Kibana
# 访问 http://elk1.fgedu.net.cn:5601
4.1.2 案例2：NetBackup日志收集
$ /NetBackup/app/netbackup/bin/admincmd/bpsetconfig “LOG_LEVEL = 3”
$ /NetBackup/app/netbackup/bin/admincmd/bpsetconfig “BPBRM_LOG_LEVEL = 3”
$ /NetBackup/app/netbackup/bin/admincmd/bpsetconfig “BPCD_LOG_LEVEL = 3”
$ /NetBackup/app/netbackup/bin/admincmd/bpsetconfig “BPDBM_LOG_LEVEL = 3”
# 2. 执行备份作业
$ /NetBackup/app/netbackup/bin/bpbackup -w -p TestPolicy -s “Full Backup” /NetBackup/fgdata
Backup started, job id = 12345
Waiting for job to complete…
Job 12345 completed successfully
# 3. 检查Logstash日志
$ sudo tail -f /var/log/logstash/logstash-plain.log
# 4. 验证Elasticsearch索引
$ curl -X GET “localhost:9200/_cat/indices?v”
health status index uuid pri rep docs.count docs.deleted store.size pri.store.size
green open netbackup-2026.04.10 1234567890abcdefghij 1 1 100 0 1.2mb 600kb
# 5. 查看Kibana日志
# 访问 http://localhost:5601，查看NetBackup日志
4.2 NetBackup日志分析
4.2.1 案例1：备份失败分析
$ /NetBackup/app/netbackup/bin/bpjobinfo -jobid 12345 -detailed
Job ID: 12345
Status: Failed
Status Code: 15
Client: client1.fgedu.net.cn
Policy: TestPolicy
Schedule: Full Backup
Error: cannot connect to client
# 2. 在Kibana中搜索相关日志
# 访问 http://localhost:5601
# 在Discover中搜索：client1.fgedu.net.cn AND error
# 3. 分析日志
# 找到错误原因：客户端服务未运行
# 4. 解决方案：启动客户端服务
$ ssh client1.fgedu.net.cn “/NetBackup/app/netbackup/bin/bp.start_all”
4.2.2 案例2：性能分析
# 访问 http://localhost:5601
# 点击”Visualize” > “Create visualization”
# 选择”Line chart”
# 选择索引模式：netbackup-*
# 配置X轴：@timestamp，间隔：1h
# 配置Y轴：count()
# 配置筛选器：loglevel: ERROR
# 保存可视化
# 2. 分析性能趋势
# 查看错误率的变化趋势
# 找出性能瓶颈
# 3. 优化性能
# 根据分析结果，优化NetBackup配置
4.3 ELK故障排除
4.3.1 Logstash收集失败
# 1. 检查Logstash日志
$ sudo tail -f /var/log/logstash/logstash-plain.log
# 2. 检查文件权限
$ ls -la /NetBackup/app/netbackup/logs/
# 3. 检查Logstash配置
$ sudo vi /etc/logstash/conf.d/netbackup.conf
# 4. 解决方案：确保Logstash用户有读取NetBackup日志的权限
$ sudo chmod -R 755 /NetBackup/app/netbackup/logs/
$ sudo systemctl restart logstash
4.3.2 Elasticsearch索引问题
# 1. 检查Elasticsearch日志
$ sudo tail -f /var/log/elasticsearch/netbackup-cluster.log
# 2. 检查磁盘空间
$ df -h
# 3. 检查Elasticsearch状态
$ curl -X GET “localhost:9200/_cluster/health”
# 4. 解决方案：确保磁盘空间足够，Elasticsearch服务运行正常
$ sudo systemctl restart elasticsearch
Part05-风哥经验总结与分享
5.1 ELK最佳实践
ELK最佳实践：
- 合理规划：根据日志量和分析需求合理规划ELK集群
- 硬件配置：选择合适的硬件配置，确保ELK集群的性能
- 存储管理：定期清理过期索引，控制存储成本
- 安全配置：配置适当的安全措施，保护ELK集群
- 监控系统：配置监控和告警机制，及时发现和解决问题
- 备份策略：制定合理的备份策略，确保ELK数据安全
- 文档记录：记录ELK配置和操作，便于故障排查
5.2 NetBackup日志最佳实践
NetBackup日志最佳实践：
- 合理设置日志级别：根据需要设置适当的日志级别
- 日志轮转：配置合理的日志轮转策略
- 日志保留：根据需要设置合理的日志保留时间
- 日志收集：使用ELK等工具集中收集和分析日志
- 日志分析：定期分析日志，及时发现和解决问题
- 备份日志：备份重要的日志文件
- 安全：确保日志文件的安全，防止未授权访问
5.3 ELK与NetBackup集成未来趋势
ELK与NetBackup集成的未来趋势：
- 智能分析：使用AI技术自动分析NetBackup日志
- 实时告警：实时监控NetBackup日志，及时发现异常
- 预测性分析：预测可能的问题，提前采取措施
- 自动化：自动处理常见问题，减少人工干预
- 云集成：支持在云环境中部署ELK与NetBackup集成
- 容器化：支持容器化部署ELK与NetBackup集成
本文由风哥教程整理发布,仅用于学习测试使用,转载注明出处:http://www.fgedu.net.cn/10327.html
联系我们
在线咨询：
微信号：itpux-com
工作日：9:30-18:30，节假日休息
