写在前面： 在电影院里哭得稀里哗啦，好在隔壁的白人老太太投入更多，抽泣声显然盖过我的，才不至于那么尴尬。看完后才发现在拍摄期间，拍摄片场有虐狗视频流出，热门网站上的评分也因此被刷得很低。如果你正犹豫是否该去看这部电影，这里有一篇GQ出的相关报道，我认为比较中肯，你不妨先读读再决定是否要抵制该片。请戳：GQ - What, exactly is a dog's purpose? 

狗生 一

小Bailey还不叫Bailey，在车里几乎要闷死的时候，我心都悬到了嗓子眼。遇到小男孩Ethan，它有了名字“Bailey Bailey Bailey Bailey”。之后的岁月，它与teen Ethan一起作伴，玩耍，在被子里听Ethan讲故事，帮Ethan撩喜欢的女孩的裙底。。这个犯了错摇着尾巴，一脸呆萌不知道错在哪里的小家伙，好几次让人忍俊不禁啊～真想抱着这只红毛猎犬，好好亲一亲。在他的这个轮回里，他的使命就是Ethan。Ethan酗酒的父亲，在饭桌上莫名谈论政治；在和老板夫妇的饭桌上，准备显摆他收藏的rare coin；。。这些沉闷的成人细节里，Bailey的陪伴，捣蛋，为Ethan本该有些阴郁的童年，增添了诸多绚烂美妙的色彩。成年的Ethan求学远去，Bailey叼着球一路追赶Ethan乘坐的车时，我听到影院有断断续续抽泣的声音。可我眼眶的湿润还没缓过劲来，在等待中老去的Bailey就生了病。混沌中Ethan终于回来了，Bailey眼里，我的Ethan你正值青春，我却垂垂老矣。。在Ethan的注视下他视线越来越模糊，Bailey走向了死亡。






狗生 二

Bailey之后的轮回，他变成了威风凛凛的警犬Ellie。在这个狗生里，她被赋予的使命是协助人类破案。smell，find，and show，她总是陪伴在主人身边，站在领奖台上接受荣誉。在主人孤单只影的夜里，睡在狗窝的Ellie总是摇晃着尾巴蹭进主人房里。她多么期待能睡在主人身边，默默彼此陪伴，而主人总是冷冷的说no。Ellie眨着一对双眼，头耷拉在床榻，主人终于说了yes！她跃上主人的床，高兴的躺在主人身边，她夜晚终于不用夹着尾巴落寞回窝。主人接到营救人质的任务，Ellie在执行任务时表现勇猛，成功救起掉入湍急河流的人质。（这也是虐狗视频流出的镜头起因，狗狗因为恐惧不敢跳入水中，而视频中见到的工作人员多少有些强迫的意思，后来片方解释是为了训练，真相到底是如何这就得见仁见智了。）在关键的一刻，Ellie扑向绑匪，为了保护主人时不幸中枪。主人眼眶含泪，抚摸着濒死的Ellie，说：Ellie，you are a good dog， you are a good dog. 正如这张“好狗卡”，在Ellie的这一生里，就像人类的青年时期，她付出了她对工作的热情，履行了对主人对社会的责任。







狗生 三

这只萌翻人的小短腿叫“Tino”，在这个轮回里，他的主人是个不爱社交的吃货姑娘。Tino最擅长的是读懂这个姑娘的饮食喜好，姑娘说你猜我想要什么时，他们总能在美食面前想法一致。他总能在姑娘孤单寂寞冷的时候，在她身边陪她疯逗她笑。有一幕很日常的桥段，姑娘在泡澡，自卑孤独啜泣。生活在城市森林的寂寞心情，观众情绪秒被代入，大屏幕上小短腿呆萌加点人性的眼神，影院里此起彼伏的“soooo cute”，对tino的爱意溢于言表。小短腿tino成了寂寞女孩疗愈的存在。不仅如此，Tino把妹技术一流，小短腿竟然邂逅了大长腿狗，俘获妹心，改写狗生，走向狗生巅峰～ 大长腿狗的男主是个羞涩的小胖子，小tino再次成就一对害羞腼腆的男女。从此他的主人不再寂寞有了另一个害羞男人的陪伴，而Tino也有了大长腿狗的相守。这个狗生里，Tino过得波澜不惊，像人生来到了中年，已经懂了更多的人世，明白了无常。他的死亡少了很多怅惘。







狗生 四

Tino之后的狗生，轮回成了Buddy。在离开一对不负责任的夫妇以后，Buddy凭着身为Ellie时的搜寻本领，寻着前世熟悉的气味，一路来到了“Bailey”所生活过的地方，他遇到了曾经魂牵梦绕的主人Ethan。Ethan的母亲，祖父母早已不在，Buddy还是一眼就认出了他！经过了几世轮回，Buddy终于回到了原点。他感知Ethan的不开心，像曾为青年Ethan做的那样，找到Ethan的少时情人Hanna。年逾古稀的情人冰释前嫌，终于走在一起。Ethan回归到那个开心的Ethan，Buddy想，下一步是要让Ethan知道他就是他幼时一起成长的伙伴“Bailey”！当老年Ethan和Buddy重演那个幼时Ethan最钟爱的fetch，Buddy使出全身力气，ready，奔跑，jump，接住！他叼着球摇着尾巴走到Ethan旁边时，Ethan终于发现，这个突然出现的朋友不是别的buddy，他就是Bailey！这个时候他们对视，老年Ethan的眼里噙着泪水，他抚摸着他，无言。洗尽铅华的老朋友啊，转了好几世，Ethan，我终于再遇见你。






故事到这里结束了，镜头从高处看到Ethan，Hanna和Bailey在农场里玩fetch。独白里Bailey说，他终于明白他生存的意义：If I can get you licking and loving, I have my purpose. 赚了我一把老泪的电影，be here二字真是重重一击啊。隔壁老太太递给我一张纸巾：We should grow up。我破涕为笑，自嘲完后，用那句老套的话来为这篇影评作总结：陪伴是最长情的告白。简单的狗狗尚知此道理，况我们人类乎？
 版权归作者所有，任何形式转载请联系作者。
作者：六月小姐（来自豆瓣）
来源：https://movie.douban.com/review/8322878/ 查看全部

一、安装elasticsearch 5.2.2后，启动报错：





 
问题原因：elasticsearch版本和安装的Java版本不兼容，请教运维朋友后，建议安装elasticsearch 2.4版本，比较成熟稳定。目前市场上用的比较多。
 
二、安装elasticsearch 2.4.4后，启动报错：





 
问题原因：明显是目录权限不足。分配可写权限后解决。
 
三、再次启动，报错：





 
问题原因：输入switch java，显示：/usr/bin/java
解决方法：启动命令/etc/init.d/elasticsearch start
  查看全部

这一部分，我将描述一下如何安装配置 ELK 协议栈。

选取的实验平台为
 
Ubuntu 14.04Centos 7.1

其中用到的软件如下
 
Elasticsearch 使用的是 2.1.0Logstash 使用的是 2.1.1Kibana 使用的是 4.3.0
 除此之外，还需要用到以下软件，Nginx，Logstash-forwarder 以及 JDK。

实验系统架构见图1。





 
值得注意的是，在我们的实验中，使用了 Nginx 的反向代理，使得用户可以从外部访问到 Kibana，并且它本身具有负载均衡的作用，也能够提高性能。

特别还提到一下 Logstash-forwarder，这是一款使用 Go 语言编写的日志传输工具。由于 Logstash 是使用 Java 来运行，为了提升网络传输效率，我们并不在客户系统上面使用 Logstash 来传输数据。这款软件就是原来的 Lumberjack，今后慢慢将被 Elastic.co 公司的另外一款产品 Beat 吸收合并到 Filebeat 中，这个超出本文叙述的范畴，就不在这里详细讨论了。
 
具体安装过程如下 
步骤 1，安装 JDK步骤 2，安装 Elasticsearch步骤 3，安装 Kibana步骤 4，安装 Nginx步骤 5，安装 Logstash步骤 6，配置 Logstash步骤 7，安装 Logstash-forwarder步骤 8，最终验证
 
安装前的准备
 
两台 64 位虚拟机，操作系统是 Ubuntu 14.04，2 CPU，4G 内存，30G 硬盘两台 64 位虚拟机，操作系统是 CentOS 7.1，2 CPU，4G 内存，30G 硬盘创建用户 elk 和组 elk，以下所有的安装均由这个用户操作，并授予 sudo 权限如果是 CentOS，还需要配置官方 YUM 源，可以访问 CentOS 软件包

注意：以下所有操作都是在两个平台上完成。
 
步骤 1，安装 JDK

Elasticsearch 要求至少 Java 7。一般推荐使用 Oracle JDK 1.8 或者 OpenJDK 1.8。我们这里使用 OpenJDK 1.8。
 
Ubuntu 14.04

加入 Java 软件源（Repository）
$ sudo add-apt-repository ppa:openjdk-r/ppa更新系统并安装 JDK
$ sudo apt-get update
$ sudo apt-get install openjdk-8-jdk验证 Java
$ java -version
openjdk version "1.8.0_45-internal"
OpenJDK Runtime Environment (build 1.8.0_45-internal-b14)
OpenJDK 64-Bit Server VM (build 25.45-b02, mixed mode)CentOS 7.1

配置 YUM 源
$ cd /etc/yum.repos.d
$ sudo vi centos.repo加入以下内容
[base]
name=CentOS-$releasever - Base
mirrorlist=http://mirrorlist.centos.org/?release=$releasever&arch=$basearch&repo=os&infra=$infra
#baseurl=http://mirror.centos.org/centos/$releasever/os/$basearch/
gpgcheck=1
gpgkey=file:///etc/pki/rpm-gpg/RPM-GPG-KEY-CentOS-7
#released updates
[updates]
name=CentOS-$releasever - Updates
mirrorlist=http://mirrorlist.centos.org/?release=$releasever&arch=$basearch&repo=updates&infra=$infra
#baseurl=http://mirror.centos.org/centos/$releasever/updates/$basearch/
gpgcheck=1
gpgkey=file:///etc/pki/rpm-gpg/RPM-GPG-KEY-CentOS-7安装 JDK
$ sudo yum install java-1.8.0-openjdk验证Java
$ java -version
openjdk version "1.8.0_65"
OpenJDK Runtime Environment (build 1.8.0_65-b17)
OpenJDK 64-Bit Server VM (build 25.65-b01, mixed mode)步骤 2，安装 Elasticsearch

Ubuntu 14.04

下载 Elasticsearch 软件
$ wget https://download.elasticsearch ... ar.gz解压
$ tar xzvf elasticsearch-2.1.0.tar.gz文件目录结构如下：
$ pwd
/home/elk/elasticsearch-2.1.0
$ ls
bin config lib LICENSE.txt NOTICE.txt README.textile修改配置文件
$ cd config
$ vi elasticsearch.yml找到 # network.host 一行，修改成以下：
network.host: localhost启动 elasticsearch
$ cd ../bin
$ ./elasticsearch验证 elasticsearch
$ curl 'localhost:9200/'
{
"name" : "Surge",
"cluster_name" : "elasticsearch",
"version" : {
"number" : "2.1.0",
"build_hash" : "72cd1f1a3eee09505e036106146dc1949dc5dc87",
"build_timestamp" : "2015-11-18T22:40:03Z",
"build_snapshot" : false,
"lucene_version" : "5.3.1"
},
"tagline" : "You Know, for Search"
}CentOS 7.1

步骤和上述 Ubuntu 14.04 安装完全一致
 
步骤 3，安装 Kibana

Ubuntu 14.04

下载 Kibana 安装软件
$ wget https://download.elastic.co/ki ... ar.gz解压
$ tar xzvf kibana-4.3.0-linux-x64.tar.gz文件目录结构如下：
$ pwd
/home/elk/kibana-4.3.0-linux-x64
$ ls
bin config installedPlugins LICENSE.txt node node_modules optimize
package.json README.txt src webpackShims修改配置文件
$ cd config
$ vi kibana.yml找到 # server.host，修改成以下：
server.host:“localhost”启动 Kibana
$ cd ../bin
$ ./kibana
[…]
log [07:50:29.926] [info][listening] Server running at http://localhost:5601
[…]验证 Kibana

由于我们是配置在 localhost，所以是无法直接访问 Web 页面的。

可以使用 netstat 来检查缺省端口 5601，或者使用 curl：
$ curl localhost:5601
<script>var hashRoute = '/app/kibana';
var defaultRoute = '/app/kibana';

var hash = window.location.hash;
if (hash.length) {
window.location = hashRoute + hash;
} else {
window.location = defaultRoute;
}</script>CentOS 7.1

步骤和上述 Ubuntu 14.04 安装完全一致。
 
步骤 4，安装 Nginx

Nginx 提供了反向代理服务，可以使外面的请求被发送到内部的应用上。

Ubuntu 14.04

安装软件
$ sudo apt-get install nginx apache2-utils修改 Nginx 配置文件
$ sudo vi /etc/nginx/sites-available/default

找到 server_name，修改成正确的值。或者使用 IP，或者使用 FQDN。 然后在加入下面一段内容：server {
listen 80;
server_name example.com;
location / {
proxy_pass http://localhost:5601;
proxy_http_version 1.1;
proxy_set_header Upgrade $http_upgrade;
proxy_set_header Connection 'upgrade';
proxy_set_header Host $host;
proxy_cache_bypass $http_upgrade;
｝
}注意：建议使用 IP。

重启 Nginx 服务
$ sudo service nginx restart验证访问

http://FQDN 或者 http://IP
 
CentOS 7.1

配置 Nginx 官方 yum 源$ sudo vi /etc/yum.repos.d/nginx.repo
[nginx]
name=nginx repo
baseurl=http://nginx.org/packages/centos/7/$basearch/
gpgcheck=0
enabled=1安装软件
$ sudo yum install nginx httpd-tools修改 Nginx 配置文件
$ sudo vi /etc/nginx/nginx.conf检查是否 http 块（http{...}）含有下面这一行：
include /etc/nginx/conf.d/*conf为 Kibana 创建一个配置文件
$ sudo vi /etc/nginx/conf.d/kibana.conf加入以下这一段内容：
server {
listen 80;

server_name example.com;

location / {
proxy_pass http://localhost:5601;
proxy_http_version 1.1;
proxy_set_header Upgrade $http_upgrade;
proxy_set_header Connection 'upgrade';
proxy_set_header Host $host;
proxy_cache_bypass $http_upgrade;
}
｝注意：建议使用 IP。

启动 Nginx 服务
$ sudo systemctl enable nginx
$ sudo systemctl start nginx验证访问

http://FQDN 或者 http://IP
 
步骤 5，安装 Logstash

Ubuntu 14.04

下载 Logstash 安装软件
$ wget https://download.elastic.co/lo ... ar.gz解压
$ tar xzvf logstash-2.1.1.tar.gz文件目录结构如下：
$ pwd
/home/elk/logstash-2.1.1

$ ls
bin CHANGELOG.md CONTRIBUTORS Gemfile Gemfile.jruby-1.9.lock lib LICENSE NOTICE.TXT vendor验证 Logstash
$ cd bin
$ ./logstash -e 'input { stdin { } } output { stdout {} }'
Settings: Default filter workers: 1
Logstash startup completed显示如下：
hello elk stack
2015-12-14T01:17:24.104Z 0.0.0.0 hello elk stack说明 Logstash 已经可以正常工作了。按CTRL-D 退出
 
CentOS 7.1
步骤和上述 Ubuntu 14.04 安装完全一致。

步骤 6，配置 Logstash

我们需要配置 Logstash 以指明从哪里读取数据，向哪里输出数据。这个过程我们称之为定义 Logstash 管道（Logstash Pipeline）。

通常一个管道需要包括必须的输入（input），输出（output），和一个可选项目 Filter。见图2。





 
标准的管道配置文件格式如下：
# The # character at the beginning of a line indicates a comment. Use
# comments to describe your configuration.
input {
}
# The filter part of this file is commented out to indicate that it is
# optional.
#filter {
#}
output {
}每一个输入/输出块里面都可以包含多个源。Filter 是定义如何按照用户指定的格式写数据。

由于我们这次是使用 logstash-forwarder 从客户机向服务器来传输数据，作为输入数据源。所以，我们首先需要配置 SSL 证书（Certification）。用来在客户机和服务器之间验证身份。
 
Ubuntu 14.04

配置 SSL
$ sudo mkdir -p /etc/pki/tls/certs etc/pki/tls/private
$ sudo vi /etc/ssl/openssl.cnf找到 [v3_ca] 段，添加下面一行，保存退出。
subjectAltName = IP: logstash_server_ip执行下面命令：
$ cd /etc/pki/tls
$ sudo openssl req -config /etc/ssl/openssl.cnf -x509 -days 3650 -batch -nodes -newkey rsa:2048 -keyout
private/logstash-forwarder.key -out certs/logstash-forwarder.crt这里产生的 logstash-forwarder.crt 文件会在下一节安装配置 Logstash-forwarder 的时候使用到。

配置 Logstash 管道文件
$ cd /home/elk/logstash-2.1.1
$ mkdir conf
$ vi simple.conf添加以下内容：
input {
lumberjack {
port => 5043
type => "logs"
ssl_certificate => "/etc/pki/tls/certs/logstash-forwarder.crt"
ssl_key => "/etc/pki/tls/private/logstash-forwarder.key"
}
}
filter {
grok {
match => { "message" => "%{COMBINEDAPACHELOG}" }
}
date {
match => [ "timestamp" , "dd/MMM/yyyy:HH:mm:ss Z" ]
}
}
output {
elasticsearch { hosts => ["localhost:9200"] }
stdout { codec => rubydebug }
}启动 Logstsh
$ cd /home/elk/logstash-2.1.1/bin
$ ./logstash -f ../conf/simple.confCentOS 7.1

在 CentOS 7.1 上配置 Logstash，只有一步配置 SSL 是稍微有点不同，其他全部一样。
$ sudo vi /etc/pki/tls/openssl.cnf找到 [v3_ca] 段，添加下面一行，保存退出。
subjectAltName = IP: logstash_server_ip

$ cd /etc/pki/tls
$ sudo openssl req -config /etc/pki/tls/openssl.cnf -x509 -days 3650 -batch -nodes -newkey
rsa:2048 -keyout private/logstash-forwarder.key -out certs/logstash-forwarder.crt这里产生的 logstash-forwarder.crt 文件会在下一节安装配置 Logstash-forwarder 的时候使用到。

步骤 7，安装 Logstash-forwarder

注意：Logstash-forwarder 也是一个开源项目，最早是由 lumberjack 改名而来。在作者写这篇文章的时候，被吸收合并到了 Elastic.co 公司的另外一个产品 Beat 中的 FileBeat。如果是用 FileBeat，配置稍微有些不一样，具体需要去参考官网。

Ubuntu14.04

安装 Logstash-forwarder 软件

注意：Logstash-forwarder 是安装在另外一台机器上。用来模拟客户机传输数据到 Logstash 服务器。

配置 Logstash-forwarder 安装源

执行以下命令：
$ echo 'deb http://packages.elastic.co/log ... ebian
stable main' | sudo tee /etc/apt/sources.list.d/logstashforwarder.list
​$ wget -qO - https://packages.elastic.co/GPG-KEY-elasticsearch | sudo apt-key add -安装软件包$ sudo apt-get update
$ sudo apt-get install Logstash-forwarder配置 SSL
$ sudo mkdir -p /etc/pki/tls/certs把在步骤六中在 Logstash 服务器上产生的 ssl 证书文件拷贝到刚刚创建出来的目录下：
$ sudo scp user@logstash_server:/etc/pki/tls/certs/logstash_forwarder.crt /etc/pki/tls/certs/配置 Logstash-forwarder
$ sudo vi /etc/logstash-forwarder.conf在 network 段（"network": {），修改如下：
"servers": [ "logstash_server_private_address:5043" ],
"ssl ca": "/etc/pki/tls/certs/logstash-forwarder.crt",
"timeout": 15在 files 段（"files": [），修改如下：
{
"paths": [
"/var/log/syslog",
"/var/log/auth.log"
],
"fields": { "type": "syslog" }
}启动 Logstash-forwarder
$ sudo service logstash-forwarder start验证 Logstash-forwarder
$ sudo service logstash-forwarder status
logstash-forwarder is running如果有错误，则需要去/var/log/logstash-forwarder 目录下面检查。

CentOS 7.1

配置 Logstash-forwarder 安装源

执行以下命令：
$ sudo rpm --import http://packages.elastic.co/GPG-KEY-elasticsearch

$ sudo vi /etc/yum.repos.d/logstash-forwarder.repo加入以下内容：
[logstash-forwarder]
name=logstash-forwarder repository
baseurl=http://packages.elastic.co/log ... entos
gpgcheck=1
gpgkey=http://packages.elasticsearch. ... earch
enabled=1存盘退出。

安装软件包
$ sudo yum -y install logstash-forwarder剩余步骤和上述在 Ubuntu 14.04 上面的做法完全一样。

步骤 8，最后验证

在前面安装 Kibana 的时候，曾经有过验证。不过，当时没有数据，打开 Web 页面的时候，将如下所示：

图3. 无数据初始页面





 
现在，由于 logstash-forwarder 已经开始传输数据了，再次打开 Web 页面，将如下所示：

图4. 配置索引页面





 
点击创建按钮（Create），在选择 Discover，可以看到如下画面：

图5. 数据展示页面





 
至此，所有部件的工作都可以正常使用了。关于如何具体使用 Kibana 就不在本文中加以描述了，有兴趣的同学可以参考官网。 查看全部

$ sudo add-apt-repository ppa:openjdk-r/ppa

$ sudo apt-get update 

$ sudo apt-get install openjdk-8-jdk

$ java -version

openjdk version "1.8.0_45-internal"

OpenJDK Runtime Environment (build 1.8.0_45-internal-b14)

OpenJDK 64-Bit Server VM (build 25.45-b02, mixed mode)

$ cd /etc/yum.repos.d

$ sudo vi centos.repo

[base]

name=CentOS-$releasever - Base

mirrorlist=http://mirrorlist.centos.org/?release=$releasever&arch=$basearch&repo=os&infra=$infra

#baseurl=http://mirror.centos.org/centos/$releasever/os/$basearch/

gpgcheck=1

gpgkey=file:///etc/pki/rpm-gpg/RPM-GPG-KEY-CentOS-7

#released updates 

[updates]

name=CentOS-$releasever - Updates

mirrorlist=http://mirrorlist.centos.org/?release=$releasever&arch=$basearch&repo=updates&infra=$infra

#baseurl=http://mirror.centos.org/centos/$releasever/updates/$basearch/

gpgcheck=1

gpgkey=file:///etc/pki/rpm-gpg/RPM-GPG-KEY-CentOS-7

$ sudo yum install java-1.8.0-openjdk

$ java -version

openjdk version "1.8.0_65"

OpenJDK Runtime Environment (build 1.8.0_65-b17)

OpenJDK 64-Bit Server VM (build 25.65-b01, mixed mode)

$ wget https://download.elasticsearch ... ar.gz

$ tar xzvf elasticsearch-2.1.0.tar.gz

$ pwd

/home/elk/elasticsearch-2.1.0

$ ls

bin config lib LICENSE.txt NOTICE.txt README.textile

$ cd config

$ vi elasticsearch.yml

network.host: localhost

$ cd ../bin

$ ./elasticsearch

$ curl 'localhost:9200/'

{

 "name" : "Surge",

 "cluster_name" : "elasticsearch",

 "version" : {

 "number" : "2.1.0",

 "build_hash" : "72cd1f1a3eee09505e036106146dc1949dc5dc87",

 "build_timestamp" : "2015-11-18T22:40:03Z",

 "build_snapshot" : false,

 "lucene_version" : "5.3.1"

 },

 "tagline" : "You Know, for Search"

}

$ wget https://download.elastic.co/ki ... ar.gz

$ tar xzvf kibana-4.3.0-linux-x64.tar.gz

$ pwd

/home/elk/kibana-4.3.0-linux-x64

$ ls

bin config installedPlugins LICENSE.txt node node_modules optimize 

                               package.json README.txt src webpackShims

$ cd config

$ vi kibana.yml

server.host:“localhost”

$ cd ../bin

$ ./kibana

[…]

 log [07:50:29.926] [info][listening] Server running at http://localhost:5601

[…]

$ curl localhost:5601

<script>var hashRoute = '/app/kibana';

var defaultRoute = '/app/kibana';



var hash = window.location.hash;

if (hash.length) {

 window.location = hashRoute + hash;

} else {

 window.location = defaultRoute;

}</script>

$ sudo apt-get install nginx apache2-utils

$ sudo vi /etc/nginx/sites-available/default

server {

 listen 80;

 server_name example.com;

 location / {

 proxy_pass http://localhost:5601;

 proxy_http_version 1.1;

 proxy_set_header Upgrade $http_upgrade;

 proxy_set_header Connection 'upgrade';

 proxy_set_header Host $host;

 proxy_cache_bypass $http_upgrade; 

 ｝

 }

$ sudo service nginx restart

$ sudo vi /etc/yum.repos.d/nginx.repo

[nginx]

name=nginx repo

baseurl=http://nginx.org/packages/centos/7/$basearch/

gpgcheck=0

enabled=1

$ sudo yum install nginx httpd-tools

$ sudo vi /etc/nginx/nginx.conf

include /etc/nginx/conf.d/*conf

$ sudo vi /etc/nginx/conf.d/kibana.conf

server {

 listen 80;



 server_name example.com;



 location / {

 proxy_pass http://localhost:5601;

 proxy_http_version 1.1;

 proxy_set_header Upgrade $http_upgrade;

 proxy_set_header Connection 'upgrade';

 proxy_set_header Host $host;

 proxy_cache_bypass $http_upgrade; 

 }

｝

$ sudo systemctl enable nginx

$ sudo systemctl start nginx

$ wget https://download.elastic.co/lo ... ar.gz

$ tar xzvf logstash-2.1.1.tar.gz

$ pwd

/home/elk/logstash-2.1.1



$ ls

bin CHANGELOG.md CONTRIBUTORS Gemfile Gemfile.jruby-1.9.lock lib LICENSE NOTICE.TXT vendor

$ cd bin

$ ./logstash -e 'input { stdin { } } output { stdout {} }'

Settings: Default filter workers: 1

Logstash startup completed

hello elk stack

2015-12-14T01:17:24.104Z 0.0.0.0 hello elk stack

# The # character at the beginning of a line indicates a comment. Use

# comments to describe your configuration.

input {

}

# The filter part of this file is commented out to indicate that it is

# optional.

#filter {

#}

output {

}

$ sudo mkdir -p /etc/pki/tls/certs etc/pki/tls/private

$ sudo vi /etc/ssl/openssl.cnf

subjectAltName = IP: logstash_server_ip

$ cd /etc/pki/tls

$ sudo openssl req -config /etc/ssl/openssl.cnf -x509 -days 3650 -batch -nodes -newkey rsa:2048 -keyout 

         private/logstash-forwarder.key -out certs/logstash-forwarder.crt

$ cd /home/elk/logstash-2.1.1

$ mkdir conf

$ vi simple.conf

input {

 lumberjack {

 port => 5043

 type => "logs"

 ssl_certificate => "/etc/pki/tls/certs/logstash-forwarder.crt"

 ssl_key => "/etc/pki/tls/private/logstash-forwarder.key"

 }

}

filter {

 grok {

 match => { "message" => "%{COMBINEDAPACHELOG}" }

 }

 date {

 match => [ "timestamp" , "dd/MMM/yyyy:HH:mm:ss Z" ]

 }

}

output {

 elasticsearch { hosts => ["localhost:9200"] }

 stdout { codec => rubydebug }

}

$ cd /home/elk/logstash-2.1.1/bin

$ ./logstash -f ../conf/simple.conf

$ sudo vi /etc/pki/tls/openssl.cnf

subjectAltName = IP: logstash_server_ip



$ cd /etc/pki/tls

$ sudo openssl req -config /etc/pki/tls/openssl.cnf -x509 -days 3650 -batch -nodes -newkey 

         rsa:2048 -keyout private/logstash-forwarder.key -out certs/logstash-forwarder.crt

$ echo 'deb http://packages.elastic.co/log ... ebian 

                  stable main' | sudo tee /etc/apt/sources.list.d/logstashforwarder.list

                  ​$ wget -qO - https://packages.elastic.co/GPG-KEY-elasticsearch | sudo apt-key add -

$ sudo apt-get update

$ sudo apt-get install Logstash-forwarder

$ sudo mkdir -p /etc/pki/tls/certs

$ sudo scp user@logstash_server:/etc/pki/tls/certs/logstash_forwarder.crt /etc/pki/tls/certs/

$ sudo vi /etc/logstash-forwarder.conf

"servers": [ "logstash_server_private_address:5043" ],

"ssl ca": "/etc/pki/tls/certs/logstash-forwarder.crt",

"timeout": 15

{

"paths": [

 "/var/log/syslog",

 "/var/log/auth.log"

 ],

 "fields": { "type": "syslog" }

}

$ sudo service logstash-forwarder start

$ sudo service logstash-forwarder status

logstash-forwarder is running

$ sudo rpm --import http://packages.elastic.co/GPG-KEY-elasticsearch



$ sudo vi /etc/yum.repos.d/logstash-forwarder.repo

[logstash-forwarder]

name=logstash-forwarder repository

baseurl=http://packages.elastic.co/log ... entos

gpgcheck=1

gpgkey=http://packages.elasticsearch. ... earch

enabled=1

$ sudo yum -y install logstash-forwarder

本文分两大部分来对集中式日志系统 ELK 协议栈做详细探讨，第一部分详细介绍了 ELK 协议栈出现的背景、主要组成部分及其体系结构；第二部分详细描述了在 Ubuntu 和 CentOS 上面的安装配置过程。两相结合，帮助开发人员理解 ELK 协议栈。
 
简介
 
在我们日常生活中，我们经常需要回顾以前发生的一些事情；或者，当出现了一些问题的时候，可以从某些地方去查找原因，寻找发生问题的痕迹。无可避免需要用到文字的、图像的等等不同形式的记录。用计算机的术语表达，就是 LOG，或日志。

日志，对于任何系统来说都是及其重要的组成部分。在计算机系统里面，更是如此。但是由于现在的计算机系统大多比较复杂，很多系统都不是在一个地方，甚至都是跨国界的；即使是在一个地方的系统，也有不同的来源，比如，操作系统，应用服务，业务逻辑等等。他们都在不停产生各种各样的日志数据。根据不完全统计，我们全球每天大约要产生 2EB（1018）的数据。

面对如此海量的数据，又是分布在各个不同地方，如果我们需要去查找一些重要的信息，难道还是使用传统的方法，去登陆到一台台机器上查看？看来传统的工具和方法已经显得非常笨拙和低效了。于是，一些聪明人就提出了建立一套集中式的方法，把不同来源的数据集中整合到一个地方。

一个完整的集中式日志系统，是离不开以下几个主要特点的。 
收集－能够采集多种来源的日志数据传输－能够稳定的把日志数据传输到中央系统存储－如何存储日志数据分析－可以支持 UI 分析警告－能够提供错误报告，监控机制
 
市场上的产品

基于上述思路，于是许多产品或方案就应运而生了。比如，简单的 Rsyslog，Syslog-ng；商业化的 Splunk ；开源的有 FaceBook 公司的 Scribe，Apache 的 Chukwa，Linkedin 的 Kafak，Cloudera 的 Fluentd，ELK 等等。

在上述产品中，Splunk 是一款非常优秀的产品，但是它是商业产品，价格昂贵，让许多人望而却步。

直到 ELK 的出现，让大家又多了一种选择。相对于其他几款开源软件来说，本文重点介绍 ELK。
 
ELK 协议栈介绍及体系结构

ELK 其实并不是一款软件，而是一整套解决方案，是三个软件产品的首字母缩写，Elasticsearch，Logstash 和 Kibana。这三款软件都是开源软件，通常是配合使用，而且又先后归于 Elastic.co 公司名下，故被简称为 ELK 协议栈，见图 1。





 
Elasticsearch

Elasticsearch 是一个实时的分布式搜索和分析引擎，它可以用于全文搜索，结构化搜索以及分析。它是一个建立在全文搜索引擎 Apache Lucene 基础上的搜索引擎，使用 Java 语言编写。目前，最新的版本是 2.1.0。

主要特点
实时分析分布式实时文件存储，并将每一个字段都编入索引文档导向，所有的对象全部是文档高可用性，易扩展，支持集群（Cluster）、分片和复制（Shards 和 Replicas）。见图 2 和图 3接口友好，支持 JSON
 










 
Logstash

Logstash 是一个具有实时渠道能力的数据收集引擎。使用 JRuby 语言编写。其作者是世界著名的运维工程师乔丹西塞 (JordanSissel)。目前最新的版本是 2.1.1。

主要特点
几乎可以访问任何数据可以和多种外部应用结合支持弹性扩展

它由三个主要部分组成，见图 4：




Shipper－发送日志数据
Broker－收集数据，缺省内置 Redis
Indexer－数据写入
 
Kibana

Kibana 是一款基于 Apache 开源协议，使用 JavaScript 语言编写，为 Elasticsearch 提供分析和可视化的 Web 平台。它可以在 Elasticsearch 的索引中查找，交互数据，并生成各种维度的表图。目前最新的版本是 4.3，简称 Kibana 4。

ELK 协议栈体系结构

完整的 ELK 协议栈体系结构见图 5。基本流程是 Shipper 负责从各种数据源里采集数据，然后发送到 Broker，Indexer 将存放在 Broker 中的数据再写入 Elasticsearch，Elasticsearch 对这些数据创建索引，然后由 Kibana 对其进行各种分析并以图表的形式展示。





 
ELK 三款软件之间互相配合使用，完美衔接，高效的满足了很多场合的应用，并且被很多用户所采纳，诸如路透社，脸书（Facebook），StackOverFlow 等等。
 
ELK的安装请移步：https://ask.zkbhj.com/?/article/84 
https://segmentfault.com/a/1190000007728789
  查看全部