托pipe交付FLV的环境

在pipe网上推送大量带宽的理想硬件设置是什么?

我们有不断扩大的用户上传电影的云存储,然后我们有这些networking传输机器将FLV文件caching在本地硬盘上,并将其交付给用户。 如果具有SAS 8硬盘驱动器,则每个caching机器可以提供1200 mbits / s的速度。 这样的caching机器每个月的成本为850美元/月,所以每台机器在任何时候只能caching160GB。

如果我们想caching160GB以上,我们需要添加另一台机器,另外550美元/月..等等。 这是非常不经济的,所以我想知道是否有专家在这里可以找出更好的设置。

我一直在寻找“gluster FS”,但是我不确定这个东西是否能推动很多带宽。

任何想法高度赞赏。

谢谢!

一般来说,我会质疑在这里使用复制的智慧。 我会做的是…;)

  • 将文件转储到一个中央NAS / SAN(可能需要复制)。 YOu可能会使用一些SUperMicro存储案例–2个机架单位的24 x 2.5“驱动器,是的,这些服务器不适合,你需要自己组装。 。

  • build立一个dynamic分配文件到stream式服务器组的数据库,以允许这些服务器做一些caching。 这些与指向组中所有服务器的单独名称服务器条目相同,只是确保不是每个服务器都必须caching每个文件。

  • 创build一组服务器(按照之前的说法)负责stream式传输文件组

  • 让操作系统文件caching清理剩下的部分。 认真;)在这样的机器上放置最大的RAM,并做好了。

  • 而当你在这个时候,谁拥有运行SAS驱动器的超级聪明的想法…你检查oyu需要他们吗? 提示 – 把SATA驱动器,基本上… WD Velociraptors。 每个驱动器300GB,我敢打赌比你的SAS驱动器便宜很多。 几乎一样快,运行10.000转。 我在数据库上使用它们,并从中获得非常经济的IO。 而且我认为我的IO要求比你的要高(因为video往往比我工作的数据要大)。

基本上,你已经进入了中央存储系统有意义的范围,并且你试图解决它 – 对不起 – 平庸的存储项目88驱动器是不是令人印象深刻的一个服务器)。 其结果是硬件成本吨)现在你可以去特殊的情况下(看看我已经推出的超微型提供 – 他们也有一个大的3.5“光盘笼48光盘)或特殊的硬件(这将意味着,将花费甚至更多),一个不带大光盘的前端机器,以及使用适当的高端RAID控制器,大量光盘和一个或几个10gb适配器的中央存储器应该不错。

忘记关于文件系统集群的任何事情 – 你想要的东西是可以计划的。 问题是:你需要在系统内规划你的带宽。 你不能有太多的交叉stream量,除非你愿意把10GB的交换机放到一切。 即便如此,十字路口交通也可能会杀了你。

智能caching!

在你的情况下,networking带宽和I / O将是你目前的瓶颈。

如果你可以运行诸如zfs之类的东西,那么你可以使用一个大的SSD作为物理驱动和内存之间的dynamiccaching。

Zfs将pipe理这个caching。 如果您需要从SSD中获得更好的性能,只需将它们一起条带化即可获得更高的性能。

如果您没有zfs,请考虑在群集中标识“热”文件,并将它们移到本地SSD或专用的RAM磁盘上。 这样你可以使用一个缓慢的SAN到服务器文件,stream行的文件将从快速的SSD / RAM提供。 把SSD看成是扩展你的caching。 它不像ram那么快,但比磁盘速度快得多。 (更低的能量!)。

最大限度地减less服务器上的物理内存,这将改善caching。 如果你走下PC路线,我已经看到一些容量大于128GB的主板! :-)。

如果你不断增长,那么你将很快超过你的数据中心的IP传输。 如果你的用户在地理位置上是分散的,那就考虑把基础设施​​靠近用户。 即欧洲用户被引导到欧洲的数据中心。

另外看看使用优化的networking服务器stream媒体文件, http://nginx.org/popup。 您仍然可以保留现有的应用程序服务器,但可以指导用户专用videostream服务器。

Memcache很有趣,这取决于你的工作负载,这也可以帮助。

随着您的成长,瓶颈将出现在基础设施中,确保您有良好的性能/错误/安全日志。 如果知道基础架构在用户加载的情况下正在做什么,您将能够更好地进行容量计划。 在一段时间内对这些数据进行趋势分析,您将能够向pipe理层展示为什么需要新的硬件x来解决瓶颈问题。

如果没有内部技能做这一切,那么看看内容交付networking,他们的基础设施就是这样做的。 你只需支付使用它!

一旦你升级服务器到多个10Gbit以太网,你会发现你遇到了其他的瓶颈,机器的实际系统总线:-)。

我第二个ZFS和SSDcaching驱动器 – 工作正常。 也最大的RAM。 基于OpenSolaris的ZFS BTW,FreeBSD的实现并不如此可靠。

这不是你想在这里的答案,我很抱歉。 我是一个非常特别的Video-over-IP家伙,我已经在那里build立了一些最大的VoD系统,你现在正在做的事情对我来说似乎是一个巨大的浪费,有太多的问题,我不知道从哪里开始。

我所build议的是,你坐下来研究你的客户在什么地方,什么地方提供服务,你的资产数据和营业额是多less,你将如何获得和提供你的目录,你将如何处理你正在做的事情的交易方面,然后才重新审视你的整个部署devise。

正如我所说,抱歉是负面的,但我可以推荐的任何东西只是一个非常小的粘贴石膏在一个更广泛的问题。