Articles of 亚马逊 s3

Duplicity – > S3备份失败,出现“没有可用的缓冲区空间”

我在Ubuntu 10.04 VPS上有一个夜间脚本,它使用重复性 (0.6.24)将增量encryption备份运行到Amazon S3。 这个脚本一直工作到一个月前,当它开始失败,如下所示的错误: Upload 's3://s3.amazonaws.com/{BUCKET}/duplicity-full.20140519T222412Z.vol6.difftar.gpg' failed (attempt #5, reason: error: [Errno 105] No buffer space available) Giving up trying to upload s3://s3.amazonaws.com/{BUCKET}/duplicity-full.20140519T222412Z.vol6.difftar.gpg after 5 attempts Backend error detail: Traceback (most recent call last): File "/usr/local/bin/duplicity", line 1502, in <module> with_tempdir(main) File "/usr/local/bin/duplicity", line 1496, in with_tempdir fn() File "/usr/local/bin/duplicity", line 1345, in […]

svnadmin转储返回错误不足的磁盘空间

我有一个SVN回购,大约35GB后倾销。 我知道这是巨大的,但我们的业务需要跟踪所有文件和库的所有修订版本。 我有Apache Subversion托pipe在AWS EC2实例上,分区为8GB。 我将S3卷挂载为/ mnt / svn,另一个挂载为/ mnt / backup。 使用svnadmin转储运行备份时出现问题。 sudo svnadmin dump /mnt/svn/repos/repo1 > /mnt/backup/repo1_$(date +"%Y%m%d%H%M%S").dump 当备份运行时,我将看到/分区的可用空间减less,当它达到8GB(分区的大小)时,备份将返回错误“磁盘空间不足”。 我的问题是,为什么使用/进行备份? 有一些临时区域,它正在使用?

s3fs“无法确定如何build立安全凭证”

我正在尝试使用s3fs将S3存储桶挂接到标准AWS Amazon Linux AMI(安装了所有必需的依赖关系)。 但是,当我运行以下教程时: s3fs mybucketname -o allow_other myfolder或其变体,我得到的回应是: s3fs:无法确定如何build立安全凭证 我试过了: 在etc文件夹中创buildpasswd-s3fs,格式为:accessID:secretAccessKey 在主文件夹中创build.passwd-s3fs 设置AWS_ACCESS_KEY_ID和AWS_SECRET_ACCESS_KEY环境variables 尽可能地打开passwd-s3fs的权限( 这个问题变得更加安全) 为与此访问密钥pipe理员访问关联的IAM用户提供服务 成功通过本地客户端连接相同的访问和秘密访问密钥的详细信息 一般双重检查一切错别字等 我有一种感觉,我正在做一些愚蠢的AWS方面(我完全是新来的AWS),有什么具体的我需要应用到S3桶权限,政策等? 这让我很生气,非常感谢!

Nginx代理caching对s3的无效请求

我已经从我的应用程序服务器设置了一个代理到一个专用的s3存储区来caching请求。 在s3拒绝我的下载请求(403禁止)时,我遇到了一些麻烦,经过一些实验,看起来禁用caching允许有效的请求通过。 但是代理的全部目的是作为一个caching。 我猜这个代理以某种方式改变了这个请求,但我不明白怎么做。 有没有人有任何洞察如何启用caching在Nginx中改变请求,如果有什么办法来超过这个? 这是相关的configuration。 http { proxy_cache_path /home/cache levels=1:2 keys_zone=S3_CACHE:10m inactive=24h max_size=500m; proxy_temp_path /home/cache/tmp; server { server_name my-cache-server.com; listen 80; proxy_cache S3_CACHE; location / { proxy_buffering on; proxy_pass http://MY_BUCKET.s3.amazonaws.com/; proxy_pass_request_headers on; } } } 如果我删除了行proxy_cache S3_CACHE;

AWS S3 Sync选项重复/奇怪的行为

我试图同步一个文件夹与2M +文件到S3,一切正常,但然后40,000文件没有上传(服务器随机崩溃),当我试图做一个同步命令再次,它从0开始,即使我们有2M-在S3上的40K图像,它重新上传2M图像,具有“重复”。 为什么我说“重复”? 因为当我在S3重新同步之前做了一个列表,它说我有一个-40K的文件差异,当我几分钟后做了重新同步,说它有+ 80K的差异,它怎么可能+ 80K文件比起源? 重复/版本/历史 所以我想上传只有缺less的40K文件,因为thoose文件在文件夹的末尾,所以如果重新开始,它必须等待另一天上传相同的2M文件… 我希望我解释正确。 TL; DR:针对S3的2M文件中断同步命令没有上传40K文件,我怎样才能上传40k文件而不是2M?

在ec2中使用s3ping的jboss集群

我试图在wildfly 8.0.0中使用sping的发现方法。 我正在使用默认的Amazon Linux AMI,并使用大厨根据本教程http://aws.typepad.com/awsaktuell/tutorial/在ec2中启动实例。 我已经部署了一个示例Web应用程序,这是聚类。 截至目前,我有一个单一的节点。 但在不久的将来,我不想在群集中添加更多的节点。 我使用所需的s3凭证和存储区详细信息修改了文件standalone-full-ha.xml。 <subsystem xmlns="urn:jboss:domain:jgroups:2.0" default-stack="s3ping"> …… <stack name="s3ping"> <transport type="TCP" socket-binding="jgroups-tcp" diagnostics-socket-binding="jgroups-diagnostics"/> <protocol type="S3_PING"> <property name="access_key"> XXXXXXXXXXXXXXXXXXX </property> <property name="secret_access_key"> XXXXXXXXXXXXXXXXXXXXXXXX </property> <property name="prefix"> jboss-config </property> <property name="timeout"> 60000 </property> </protocol> <protocol type="MERGE2"/> <protocol type="FD_SOCK" socket-binding="jgroups-tcp-fd"/> <protocol type="FD"/> <protocol type="VERIFY_SUSPECT"/> <protocol type="BARRIER"/> <protocol type="pbcast.NAKACK"/> <protocol type="UNICAST2"/> <protocol type="pbcast.STABLE"/> […]

AWS S3存储桶权限

我已经创build了具有数千个对象的AWS s3存储桶,最初访问策略仅限于经过validation的用户,但后来由于某些要求,我们需要使此存储桶中的所有对象都可公开显示。 为此,我们做了以下更改。 增加了新的权限设置“所有人”与“列表”访问。 增加了新的政策桶。 ** { "Version": "2012-10-17", "Id": "Policy1111", "Statement": [ { "Sid": "makeitpublic", "Effect": "Allow", "Principal": "*", "Action": "s3:GetObject", "Resource": "arn:aws:s3:::bucketname/*" } ] } ** 在这之后,我可以看到桶中的一些物体可以公开访问,而其他的则不可以。 我的问题是使这个桶“公开”后,新的权限将被应用于所有现有的对象,或只对新上传的对象? 如果是,那么有没有办法批量更改存储桶中的对象的权限。

为什么AWS S3redirect显示为302而不是301?

我在S3中使用这个博客post实现了一个301redirect。 它明确表示redirect将是一个301,这是我想要的。 元数据的屏幕截图: redirect是从http://www.trevormckendrick.com/legal-entity到http://www.zerotoentrepreneur.com/basic-legal-entity-info-start-here/ 但是当我curl的第一个url,它出现为302。 此外,Moz显示了两个单独的redirect,一个用于 “ http://www.trevormckendrick.com/legal-entity ” 和另一个 “ http://www.trevormckendrick.com/legal-entity/ ” (注意string末尾的尾部“/”)。 我错过了什么? (不知道这是否会影响它,但我刚刚从Github Pages网站移动到AWS昨晚。)

针对预先签名的URL或IP地址拒绝的桶策略?

我希望能够以多种方式限制对S3存储桶中文件的访问。 这是由于存储的文件可以以不同的方式访问。 我们这样做是因为我们有TB的文件,所以我们不想复制桶。 一种访问方法是通过使用S3存储桶作为源的标记化CDN传送。 所以,文件可能被拉,我已经设置文件的权限,以允许下载给大家。 使用桶策略,我可以限制可以获取桶中文件的IP地址。 所以我把它们限制在CDN IP块中。 另一种是访问方法是使用我们的商店系统直接下载生成S3时间到期的预先签名的URL。 有没有办法先检查一个有效的预先签名的URL,然后回落到IP地址限制,以防止进一步的访问? 我有一个工作的IP限制存储桶策略工作,但是踩了预先签名的访问…删除存储桶策略修复了预先签名的访问,但是这些文件是公开的。

有没有办法从S3控制台获得Amzon S3存储桶的大小?

我想知道是否有某种方法可以直接从控制台获取Amazon S3存储桶的大小https://console.aws.amazon.com/s3/单击属性会返回大量的信息,但不是字节中存储桶的大小。 ..这是我得到当我popup属性… Permissions Static Website Hosting Logging Events Versioning Lifecycle Cross-Region Replication Tags Requester Pays 我可以使用s3cmd获取信息,但直接从控制台获取信息会很方便。