我们已经通过BASICauthentication运行了Elastic Search的HTTP前端。 我们希望使用DIGEST身份validation,但是Jetty文档很难与Jetty弹性search文档保持一致; 特别是,我们不确定在configuration链中的哪个位置需要设置身份validation方法(Jetty文档中的“auth-method”节点)。 仅供参考,我们使用stock jetty.xml , jetty-hash-auth.xml和jetty-restrict-all.xml文件。 仅供参考,我们在jetty-restrict-all.xml文件中看到“BASIC”一词,但将其改为“DIGEST”似乎没有启用摘要式身份validation。 有没有人能够得到这个组合工作?
我的目标是使用ElasticSearch v1.3.2来分析产品交叉销售,所以我需要筛选感兴趣的收据(例如含酒精产品)并查找每个类别的畅销产品。 新的数据将每月编入索引,同时我们将运行分析查询。 每个文档都是单个收据,包括总体信息(总销售额,商店编号等),单个产品信息(产品编号,产品编号,总价值)以及产品树不同级别上的汇总信息。 平均收据有8个项目,所以每个收据文件有10 – 100个嵌套文件。 总共有三千五百万份产品子文件(加上一些更多的产品树层次)。 目前,单个ES节点正在具有16 GB RAM(用于ES和OS的50/50)以及HDD上的虚拟磁盘上的Ubuntu虚拟机上运行。 总索引大小约为120 GB,由于较早的内存不足问题,所有字段都有“format:doc_values”。 在所有的数据caching在RAM上后,我得到了500 – 4000毫秒的响应时间,但是一旦数据变得足够大,ES就会停下来。 我有140个碎片(每个索引10个),大小从200 MB到2 GB不等。 运行一些基准查询后,ES失去它的性能,不断地使用CPU的50%做一些事情(甚至当查询没有运行时),头插件的查询到“localhost:9200 / stats?all = true”取决于45秒。 我安装了Marvel开发版本,并开始在/.marver-kibana/appdata/marvelOpts查询上报告404。 我真的需要更多的内存和/或更多的节点(目前内存是全部数据大小的13%),还是有一些调整我应该尝试? 我想索引4倍的当前数据量。 早些时候,我在一台8GB的虚拟机上进行了testing,在一半的数据上出现类似的症状。 我会提供更多的信息,如果它会有用的。
现有的答案都没有帮助,所以这里有一个新的问题。 用例 :redirectsyslog(或)监视静态文件。 我已经成功安装logstash(1.4.2),elasticsearch(1.1.1)和kibana(3.0.1),但努力摆脱错误 No results There were no results because no indices were found that match your selected time span 我可以访问http://example.com:9200 – >成功200邮件 访问http://example.com:9200/_aliases?pretty – > {} – >空字典! CLI /opt/logstash/bin/logstash -f </etc/logstash/conf.d/10-syslog.conf> 使用的示例logstash文件如下所示。 请让我知道,如果有什么需要从我的结束。 syslog(监听端口9000,是的,我已经添加了“@@ localhost:9000”到/etc/rsyslog.d/50-default.conf并重新启动rsyslog) sudo cat > /etc/logstash/conf.d/10-syslog.conf <<EOF input { tcp { port => 9000 type => syslog } udp […]
我需要build立一个图像/静态文件caching,可能会从1kb到〜200kb主机可能有几百到几千个静态文件。 我需要超快速读取(我正在使用redis,但它是一个线程,我不知道它是如何群集工作,因为它在testing中,我需要有多个caching服务器)。 我试过了:Redis,ElasticSearch和MongoDB。 你可以请给我一些build议,哪个数据库软件将是最好的: TTL或类似的东西 非常快的读取 聚类并不重要,但是如果有的话就好了 如果你决定冷静地知道你们中的很多人会做什么,请让我知道你为什么这么做。
我想要求auth_basic nginx身份validation保存所有kibana 4仪表板,但允许任何人查看仪表板没有身份validation。 我最近使用DigitalOcean 教程在Ubuntu 14.04上安装了ELK(Elasticsearch 1.4.5,Logstash 1:1.5.2-1和Kibana 4.1.1)堆栈。 由于kibana使用基于浏览器的JavaScript来发送查询到elasticsearch,我不知道如何找出保护什么。 DigitalOcean提供了一个nginxconfiguration来完全保护对kibana 4的访问。 FILE:/etc/nginx/sites-available/default server { listen 80; return 301 https://logstash.nyc.3top.com; } server { listen 443; ssl on; ssl_certificate /etc/nginx/ssl/server.crt; ssl_certificate_key /etc/nginx/ssl/server.key; server_name logstash.example.com; access_log /var/log/nginx/kibana.access.log; auth_basic "Restricted Access"; auth_basic_user_file /etc/nginx/htpasswd.users; location / { proxy_pass http://localhost:5601; proxy_http_version 1.1; proxy_set_header Upgrade $http_upgrade; proxy_set_header Connection 'upgrade'; proxy_set_header Host […]
我有一个健康的ES群集在ec2上运行。 我打算使用单播将Graylog服务器连接到群集,但是Graylog从单播主机收到一个空的响应。 使用curl,我可以重现空的回应。 curl的结果是10.10.198.233:9200/_cluster/health?pretty=true 是 "cluster_name" : "graylog-graylog-elasticsearch-scratch-Scratch-client-0otqGLpa", "status" : "green", "timed_out" : false, "number_of_nodes" : 3, "number_of_data_nodes" : 3, "active_primary_shards" : 1, "active_shards" : 2, "relocating_shards" : 0, "initializing_shards" : 0, "unassigned_shards" : 0, "number_of_pending_tasks" : 0 } curl10.10.198.233:9300的结果 给curl:(52)从服务器的空回复 这导致Graylog服务器在启动时失败。 如何解决Elasticsearch节点给出的空响应?
第一:有300名代表的人可以给“docker工人”做个标签吗? TYVM 我使用以下命令为elasticsearch运行docker容器: docker run -d -i -t -p 9200:9200 -p 9300:9300 elasticsearch:0.90.5 哪个启动正确,当我curl localhost:9200我得到了elasticsearch json hello world消息。 我无法弄清楚的是如何让端口暴露在盒子外面。 我想要做的是: docker run -d -i -t -p 123.123.123.123:9200:9200 -p 123.123.123.123:9300:9300 elasticsearch:0.90.5 其中123.123.123.123是eth0的IP地址。 这似乎并不奏效。 现在我的问题是:我如何正确运行这个容器并将这些端口暴露给外部世界呢? 这是我的“ip addr”,它是一个运行Ubuntu 12.04的无头虚拟机。 1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00 inet 127.0.0.1/8 scope host lo inet6 […]
我们将Logstash和Elasticsearch用于我们的鱿鱼日志存储和分析。在我们的freeBSD ZFS存储系统中,日志的大小以每天40Gb的速度增长。 Elasticsearch每五天进入一次失败,没有日志可以进一步写入。 我试了 index.number_of_shards: 1 index.number_of_replicas: 0 但似乎没有用。 附上的是插头的快照 任何人都可以解释我做错了什么? 我应该修改哪些configuration。 UPDATE 日志 [2013-12-08 19:51:16,916] [WARN] [index.engine.robin] [David Cannon] [logstash-2013.12.08] [0]引擎失败java.lang.OutOfMemoryError:Java堆空间 [2013-12-09 17:03:07,500] [DEBUG] [action.admin.cluster.node.info] [David Cannon]无法在节点上执行[sSoHeIz5TSG8fR3IRHj_Pg] org.elasticsearch.transport.RemoteTransportException:无法反序列化响应types为[org.elasticsearch.action.admin.cluster.node.info.NodeInfo]引起的:org.elasticsearch.transport.TransportSerializationException:无法反序列化[org.elasticsearch.action.admin.cluster.node.info .NodeInfo]
我们每晚做S3快照。 他们通常需要约2小时。 我有一个已经跑了4天了。 我试图用这个命令来阻止它: time curl -XDELETE -s localhost:9200/_snapshot/sim-s3-backup/sim-autobackup_2015-05-15/?pretty 但是,即使这个命令挂起。 所以我让它运行一段时间,这是完整的输出: time curl -XDELETE -s localhost:9200/_snapshot/sim-s3-backup/sim-autobackup_2015-05-15/?pretty ^C real 1544m19.284s user 0m0.508s sys 0m2.580s 有没有其他办法让这个快照停止? 作为参考,这是状态的输出: curl -XGET -s localhost:9200/_snapshot/sim-s3-backup/sim-autobackup_2015-05-15/?pretty { "snapshots" : [ { "snapshot" : "sim-autobackup_2015-05-15", "indices" : [ "7199", "7399", "7299", "7499", "7599", "6202085", "6202082", "6202083", "8099", "6202059", "6202055", "5099", "5299", "5199", "6202076", […]
我刚刚通过APT遵循Elasticsearch安装指南: https : //www.elastic.co/guide/en/elasticsearch/reference/5.0/deb.html 当我运行curl -X GET 'http://127.0.0.1:9200/' : Failed to connect to 127.0.0.1 port 9200: Connection refused curl -X GET 'http://127.0.0.1:9200/' (或localhost)时,我收到一个错误: Failed to connect to 127.0.0.1 port 9200: Connection refused 在我的configuration中,我正在使用: network.bind_host: localhost network.publish_host: 0.0.0.0 network.host: 0.0.0.0 http.port: 9200 我的日志/var/log/elasticsearch/ sudo journalctl –unit elasticsearch /var/log/elasticsearch/是空白的,但看着sudo journalctl –unit elasticsearch我看到: Starting Elasticsearch… Started Elasticsearch. elasticsearch.service: […]