我正在开发一个Web应用程序服务,并期望扩展我们的内部服务器。
我们目前的服务器有大约1TB的存储容量。 用户创build每天添加到我们的数据库〜10GB的数据。
正如你所看到的,我们目前的速度,我们只能够维持这个存储增长约100天。 我们预计不久的将来数据创造速度将放缓。 由于信息的性质,我们不打算使用商业云存储(aws,谷歌,微软,软件等)
我们希望构build一个可以不断扩展的服务器基础架构(超过100TB的限制)。 这将是一个渐进的过程,并将跨越多个4U服务器机架。
我的问题是,如果不过度复杂化我们的软件,那么标准的做法是什么? 我已经研究过ZFS和openNAS,但是在集中和不断扩展存储方面似乎有限制。
构build可以不断扩展以支持存储需求的同构存储架构的最佳方法是什么?
即使从我有限的经验,我应该说,你的问题是不明确的。 例如,您不要谈论负载,延迟和带宽要求。 查看更多的问答网页: 你可以帮助我进行容量规划吗?
我的经验是为我们的实验室build设和pipe理140TB(以及不断增长的80TB主+ 60备份)存储。 我们用它作为研究数据的存储(主要是成像数据,一些基因组学,没有数据库)。 系统由两台服务器组成,位于不同的服务器机房,devise为可扩展。 请把我写的东西写成一粒盐。
我们的服务器运行FreeBSD和ZFS, 带有SAS扩展器的4U盒子 。 每个盒子里塞满了4-5TB的驱动器。 备份更新,并有12x5TB驱动器,configuration为RAID6又名RAIDZ2。
可扩展性通过两条途径实现:
所以,从我所知道的:
更新
目前的系统带宽限制如下:
正如您所看到的,我们目前受到1Gbps以太网的限制,如果我们在机架(存储分析服务器)内部工作,我们会受到服务器吞吞吐量5Gbpsstream的限制。 我们的数据主要是大文件(5-500GB),所以我不确定IOPS。 为了提高带宽,我们需要在build筑物内安装光纤(我们的实验室和服务器机房位于不同的楼层),然后受到RAID60arrays速度的限制。 然后,我们要么增加额外的条纹,要么build立基于SSD的存储。 这个系统是build立在工作,而不是基于USB3的硬盘,它击败。