我期待在Linux集群中使用使用MPI的并行文件系统。 我想知道像光泽/并行虚拟文件系统这样的并行文件系统是否需要特殊的硬件支持(特殊的硬盘)。
我有一个大约5G的目录。 我即将进行一系列testing,但是我想知道是否可以从中排除任何工具或方法: 我们准备去 首先 – tar整个目录 tar cp | SSH tar cp | NC rsync -av -e ssh scp -c arcfour b – 尝试直接复制目录 tar cpz | SSH tar cpz | / NC rsync -avz -e ssh scp -c arcfour 有什么我可以排除,不pipe是a)还是b),或者a或b的任何子集?
我有很多用于HPC /集群计算的服务器,我注意到,由于部分计算运行使用NFS上的大文件,这会导致严重的瓶颈。 我想知道如何解决这个问题。 设置: 使用Debian Squeeze的34个服务器(每个42 Gb RAM) 每台机器12个物理内核+ HT 2个“头”机器(头1和头2),每个500Gb驱动器 从头1进行PXE引导的32个“从属”机器 head1导出32个PXE服务器的NFS文件系统 head2通过NFS包含所有其他机器的数据文件导出一个“data”目录 “data”目录包含非常大的文件(5+ Gb) 机器之间的连接:千兆以太网 大多数机器不在同一个物理机架上 使用Open Grid Scheduler(又名Grid Engine)进行批量作业处理 这个集群运行的一个计算包括对于每个“从属”,在开始各种计算之前,读取一大组文件(3Gb + 3Gb + 1.5Gb + 750M)。 我注意到,当发生这种情况时,大多数奴隶在阅读这些消息时实际上花费了大量的时间(几分钟)(而实际的计算速度要快得多)。 目前,我已经提出了head2的NFS守护进程中的线程数量,并且在slave mount选项中将rsize和wsize为32k,但这仍然是一个很大的瓶颈。 我能做些什么来提高性能,还是让奴隶将这些文件存放在硬盘上? 或者我应该去一个完全不同的FS存储?
我们有一个Linux FTP服务器,客户端和项目经理上传文件来交换文件。 不幸的是,没有人会进入,删除任何东西,当他们完成它。 我正在寻找一种优雅的方式来在两周后自动删除文件。 我正在考虑用我在网上find的这个语法来做一个cron工作。 我的问题是考虑第二天的哪一天? 文件在用户的本地机器上创build的那一天,还是复制到Linux机器的那一天? find /path/to/directory/* -mtime +t -exec rm {} \;
有一天我在我的系统上运行bleachbit。 我已经启用了擦除磁盘空间选项。 花了几个小时,我的磁盘空间完全被占满了(100GB左右)。 永久等待后,我决定终止程序并手动删除文件。 现在的问题是:我无法删除文件或目录。 我不能在目录中做一个ls。 我尝试了rsync -a –delete,擦除,rm,find&rm等不同的组合 我按照这里的指示,注意到“目录索引已满!” 我的日志中也有错误。 在一个拥有数百万个文件的目录上 我注意到,stat命令返回了超过GB的exception大的目录大小。 通常是4096或者成千上万。 nameh@labs ~ % stat kGcdTIJ1H1 File: 'kGcdTIJ1H1' Size: 1065287680 Blocks: 2080744 IO Block: 4096 directory Device: 24h/36d Inode: 9969665 Links: 2 Access: (0777/drwxrwxrwx) Uid: ( 1000/ nameh) Gid: ( 1000/ nameh) Access: 2014-10-31 07:43:08.848104623 +0530 Modify: 2014-10-31 07:43:19.727719839 +0530 Change: 2014-10-31 […]
我有兴趣获得一个SSD专用服务器,可能是海盗船强制系列CSSD-F120GB2-BRKT。 这将是一个Linux服务器,最有可能运行XFS(但我打开其他select)。 许多文章(以及海盗船网站)都表示,为了从SSD中获得最高性能,需要“4Kalignment”文件系统。 “4Kalignment”是什么意思? 我怎么做? 在相关说明中,我正在使用此服务器来运行一个网站,其中关于RDBMS的使用量很大。 像Corsair Force这样的固态硬盘是否真正的执着? 如果我将数据刷新到SSD,是真的写入SSD还是通过caching数据来欺骗SSD? 谢谢。
从命令行: E:\menu\html\tom\val\.svn\tmp\text-base>ver Microsoft Windows [Version 5.2.3790] E:\menu\html\tom\val\.svn\tmp\text-base>dir Volume in drive E is DATA Volume Serial Number is F047-F44B Directory of E:\menu\html\tom\val\.svn\tmp\text-base 12/23/2010 04:36 PM <DIR> . 12/23/2010 04:36 PM <DIR> .. 12/23/2010 04:01 PM 0 wtf.com3.csv.svn-base 1 File(s) 0 bytes 2 Dir(s) 170,780,262,400 bytes free E:\menu\html\tom\val\.svn\tmp\text-base>rename wtf.com3.csv.svn-base com3.csv.svn-base A duplicate file name exists, or the […]
作为一个恢复,长时间的Windows用户,我一直试图澄清我的理解“正确”的地方放在Linux的东西(或UNIX我猜,但我很less工作在非OS X的UNIX和Mac OS X很难“适当”)。 我宁愿保持公平分配独立的问题,但如果正确的答案取决于特定的风味,那就好了。 我的目标是能够让其他人在我已经build立的系统中工作,并能够在逻辑上跟随组织。 1.当涉及到系统pipe理员的angular色(而不是用户angular色)时,人们普遍认为最适合安装服务器二进制文件(如Web服务器,数据库等)的地方? 从我所收集的一段时间看来,这两个都是正确的: /opt/<package> /usr/local/bin/<package> 文件系统层次结构标准似乎没有明确区分。 相互之间是否存在优势劣势,还是仅仅是偏好? 我也经常看到这种types的东西: /usr/local/bin/foo-bar-3.2.1-baz /usr/local/bar -> /usr/local/bin/foo-bar-3.2.1-baz 如果特定于版本的软件包是实际位置,则添加符号链接以使打字/升级更容易。 这是非常普遍的吗? 然后下一个合乎逻辑的问题是他们的二进制数据去哪里? 这似乎是常见的: /var/lib/<package> 有更好的位置吗?
我们有2台Drupal服务器可以read/write同一文件夹的副本(对于那些对Drupal有一些了解的人来说,这些sites/default/files夹就是sites/default/files夹)。 这两个文件夹应该同步。 我一直在寻找一些select,这是我发现的: 选项1:Rsync两种方式:不是一个选项 您将需要运行rsync两种方式,因为这两个文件夹被修改。 只要文件被修改,一切正常,因为你可以使用-u标志检查更新时间,只修改源是否比目标更新。 但是,因为rsync没有保存被删除的文件的历史logging,当rsync不知道如何处理被删除的文件时,是否应该保留在另一边,因为最近更新或丢弃以及。 选项2:networking共享:正常,但I / O等待性能问题 一种select是设置networking共享,消除同步的需要。 缺点是I / O等待,因为两个服务器都将在同一个磁盘上read/write 。 选项3:具有主副本的第三台服务器:正常,但潜在的性能/竞争条件问题另一种select是让第三台服务器保留该文件夹的主副本。 每当在一台Drupal服务器上进行更改时,Drupal服务器文件夹就会被rsync到主副本,从而避免了选项1中出现的问题。但是,为了实现这个function,需要按照顺序将更改同步到主副本在Drupal服务器上发生,提出了以下问题: – P1 :如果您同步到每个更改所做的更改和频繁更改您的服务器可以安静繁忙的同步过程 – P2 :即使您按顺序启动同步作业,由于各种元素(进程的执行速度,networking延迟等),您不能保证文件最终将在主副本上同步。 Q1:如何解决问题P1和P2? 问题2:是否有其他方法来保持2个远程文件夹同步? 附加信息: server OS: Ubuntu server 10.04 LTS Drupal v: Drupal 6.X Size of sites/default/files: 4.5G 更新1:testingUnison 我testing了Unison ,它不能像我期望的删除文件一样工作: [1]build立目录 FOLDER1 FOLDER2 file1 (new) (empty) [2]运行Unison( unison FOLDER1 FOLDER2 ) FOLDER1 […]
当我尝试在我的Ubuntu 12.04.2 LTS虚拟服务器上创build文件或目录时,我得到一个mkdir: cannot create directory b: Disk quota exceeded 。 但: Filesystem Size Used Avail Use% Mounted on /dev/simfs 438G 8.4G 406G 3% / tmpfs 16G 0 16G 0% /run/shm 光盘配额已禁用。 文件系统几乎没有使用。 pipe理员说,物理硬盘只有25%被使用。 quota -v什么也不返回 我怎样才能再次创build文件和文件夹?