最好的aws s3文件系统就像服务一样

我需要使用便宜的现有硬件构build一个容错,高可用性密钥/值存储(没有posix,只有与S3相同的function)。 存储应该能够处理几十亿的物品。 项目的最大尺寸大约是1GB,大多数只有几个KB。 什么是这个任务最好的软件/文件系统?

我已经对mogilefs,mongodb(grid-fs)和glusterfs进行了简单的介绍,但是我不确定哪个足够稳定和容错。 设置越简单,以后扩展越好:)。

科林

Minio正是为这样的用例而build造的。 它是开源的,兼容AWS S3的API作为单一的二进制文件。 你可以在Windows,Linux和Mac上运行它。

你可以在你的本地文件系统上运行Ext4,NTFS,XFS。

在Linux上安装:

$ wget https://dl.minio.io/server/minio/release/linux-amd64/minio $ chmod 755 $ ./minio server /datadir 

datadir:存储桶和对象的目录

您可以访问Minio客户端以及Minio浏览器 (与服务器捆绑在一起)

 mc implements the following commands. ls List files and folders. mb Make a bucket or folder. cat Display contents of a file. pipe Write contents of stdin to one or more targets. When no target is specified, it writes to stdout. share Generate URL for sharing. cp Copy one or more objects to a target. mirror Mirror folders recursively from a single source to many destinations. diff Compute differences between two folders. rm Remove file or bucket [WARNING: Use with care]. access Manage bucket access permissions. session Manage saved sessions of cp and mirror operations. config Manage configuration file. update Check for a new software update. version Print version. 

希望能帮助到你。

免责声明:我为Minio工作

还有其他的,但是OCFS2将完成所有这些。

我会看看GPFS和GLusterFS。 这是我们正在为我们的企业需要而正在探索的两个方面。

这实际上取决于您正在处理的存储目标,您要服务的客户以及您的性能和可靠性要求。 Ceph想到,如果这些问题的答案涉及到“Linux 2.6.43或更高版本的内核”,并且“相对不受企业所有权的困扰”,最近由Lustre(现由Oracle全资拥有) 。