Articles of amazon s3

使用亚马逊S3作为存储附件在networking邮件系统

我正在寻找使用S3作为邮件系统的数据存储服务。 这个想法是允许用户上传文件作为电子邮件的附件,然后通过链接到S3上托pipe的文件从Web服务下载。 我面临的问题是: 当用户select他们的文件名,会有碰撞,所以S3上的文件必须有唯一生成的文件名,或存储在不同的文件夹中,用户是否仍然可以使用一些API或configuration下载文件的原始文件名? (例如:用户上传文件dog.gif,存储在存储桶中为A3f23_dog.gif,下载链接返回文件为dog.gif,可能使用HTTP标头) 包含在单个存储桶(位于根目录下)的文件/文件夹的数量是否会对性能造成影响? 或者我需要做一些文件分配到文件夹等 我可以使用URL公开提供这些文件,但仍然不允许枚举文件桶中的文件吗? (即文件列表) 非常感谢,我希望这是有道理的。

什么AWS服务,以避免与S3静态内容和后端的CORS问题

介绍 我已经在Amazon AWS上部署了以下架构。 目标是在https://app.acmecorp.com上公开一个作为入口点的Web应用程序(单页应用程序)。 这是一个单页面应用程序: 提供静态资源(html / js / css) 需要通过JavaScript访问REST后端 后端 这个想法是将后端部署在Elastic Container Service Cluster(通过docker)中。 然后,这些资源会被生成/自动扩展到由负载均衡器提供服务的目标组中。 后端通过https://backend.acmecorp.com公开。 (指向AWS负载均衡器的DNS CNAME) 前端 单页面应用程序部署在Amazon S3 Bucket中,并通过S3静态站点托pipe显示。 ( http://frontend.s3-website-us-west-2.amazonaws.com )。 这也可以通过http://frontend.acmecorp.com上的DNS CNAME公开 反向代理 我想要的是以下。 用户通过https://app.acmecorp.com访问应用程序。 这应该服务于静态内容。 为避免CORS设置,我希望单页面应用程序能够将该域调用的API调用转换为/api ,因此对https://app.acmecorp.com/api/ **的调用应映射到后端。 https://app.acmecorp.com/api – > https://backend.acmecorp.com https://app.acmecorp.com/ – > http://frontend.acmecorp.com/index.html 显然,这可以用Nginx之类的东西来完成,但是我想知道是否有亚马逊为此提供的东西,以及需要什么样的构build块才能拥有这个function

在Route53中configurationALIASlogging时,s3端点应该是什么样的?

我试图把我的根域指向一个s3存储桶,redirect到www.mywebsite.com。 但是,当我尝试将ALIASloggingconfiguration为指向s3端点时,对话提供给我的唯一端点是: s3-website-us-east-1.amazonaws.com 这个值应该是非常可怕的 mywebsite.com.s3-website-us-east-1.amazonaws.com 当我试图改变它,但Route53告诉我这是一个无效的值。 这里是我popup的屏幕截图。 这可能是正确的吗? 有没有人见过这个/知道一种方法来解决它,如果不是? 所有的想法赞赏。

项目或包来模拟带有Amazon S3或OpenStack Swift兼容后端的磁带机?

我有一些数据是通过bacula备份到磁带上的,在某些时候,我将需要迁移到非磁带存储。 Bacula支持磁盘存档,但是我发现如果只有一些虚拟磁带库接口到S3或者OpenStack Swift或者其他一些对象存储服务,我可以换掉configuration并保持原有的存档,老化和调度configuration无缝。 我有一个谷歌,我可以看到,阿曼达(使用设备API)和一堆备份产品有S3对象存储的后端,但我没有看到任何项目,将放入replace使用* nix / dev / st0设备接口语义。 这可能是因为我不知道,这个想法是荒谬的,不可能的,等等,但是我有兴趣知道在深入研究一些被黑客入侵之前,我是否已经错过了任何明显的事情。 因此,澄清平台选项 – 它没有托pipe在AWS上,目前没有EBS可用,目标是内部S3兼容的openStack Swift对象存储,因此带宽和存储成本是内部的。

Linux文件系统或CDN数百万个带有复制的文件

请告诉我这种情况的解决scheme: 几百万个文件,位于一个目录(“img / 8898f6152a0ecd7997a68631768fb72e9ac2efe1_1.jpg”) 〜平均80k文件大小 90%的随机读取权限 备份(复制)到其他服务器(每5分钟或立即) 图像的元数据保存到数据库中 当文件数量超过200万时,我们遇到了随机访问时间慢的问题。 文件系统是使用noatime和dir_index选项的ext3,但不需要使用诸如“ls”或“find”之类的命令。 我认为可能的解决scheme: 留在ext3并简单地将目录树结构转换为“img / 889 / 8f6 / 152 / a0ecd7997a68631768fb72e9ac2efe1_1.jpg” 迁移到其他文件系统(ReiserFS,XFS,EXT4等) 使用分布式文件系统设置存储引擎(举例) 或者其他… 如果我们select1或2,我们如何复制? rsync无法在ext3文件系统上处理这么多的数据。 对我们来说最好的解决scheme是使用Amazon S3,但是对于我们的stream量来说,这太昂贵了…也许你会推荐一些类比(便宜的CDN或开源项目)

CNAME不能用nslookup解决,但挖工作

我正在尝试将CNAME指向S3存储桶,但是仍然遇到了无法通过nslookup (以及我的浏览器)findCNAME的问题。 但是,当我使用dig时,它会显示域的正确输出。 我相当肯定,我在这里失去了一些愚蠢的东西,但我似乎无法find问题:( 任何帮助表示赞赏! ➜ ~ nslookup img.springe.st Server: 8.8.8.8 Address: 8.8.8.8#53 ** server can't find img.springe.st: NXDOMAIN ➜ ~ dig img.springe.st ; <<>> DiG 9.8.3-P1 <<>> img.springe.st ;; global options: +cmd ;; Got answer: ;; ->>HEADER<<- opcode: QUERY, status: NXDOMAIN, id: 8429 ;; flags: qr rd ra; QUERY: 1, ANSWER: 1, AUTHORITY: 1, […]

Amazon S3存储如何计费?

各种亚马逊S3的问题 嘿大家, 我刚刚得到一个Amazon S3帐户,我正在开发我的生产备份脚本/策略,只是有几个问题。 每月存储 – 这是如何测量,什么时候? 这是一个基于快照的东西,在特定的时间,你的使用量是衡量? IE什么是阻止某人在这个月内保存一个2GB的文件29天,然后在结算时删除它? 我会认为这是比例或什么? 费率 – “每GB0.150美元 – 首次使用50TB /月存储”。 为了确认 – 如果我将2GB的数据保存在我的存储桶里一个月,我的账单是0.30美元,但是如果我在下个月清理掉只有1GB,我的账单将降到0.30美元? 这种关系到我最后一个关于什么时候存储被测量的问题。 FTP – 根本没有FTP访问我的桶? 这是如何限制? 编辑:最后一个 – 我知道它被广泛使用,但这项服务有多可靠? 亚马逊在注册时提供了哪些贵族? 它有没有下降? 谢谢,

Elastic Beanstalk S3通过.ebextensions访问

我在.ebextensions文件夹中有一个简单的文件: 00 myconfig.config Resources: AWSEBAutoScalingGroup: Metadata: AWS::CloudFormation::Authentication: S3Access: type: S3 roleName: aws-elasticbeanstalk-ec2-role buckets: my-bucket files: "/tmp/ca-bundle.zip": mode: "000755" owner: root group: root source: https://s3-ap-southeast-2.amazonaws.com/my-bucket/ca/ca-bundle.zip authentication: S3Access 根据多个答案是授予S3存储区访问aws-elasticbeanstalk-ec2-roleangular色的方式。 但是我继续在/var/log/eb-activity.log得到403错误 [2015-08-26T01:27:03.544Z] INFO [22320] – [Application update/AppDeployStage0/EbExtensionPreBuild/Infra-EmbeddedPreBuild] : Activity execution failed, because: Failed to retrieve https://s3-ap-southeast-2.amazonaws.com/my-bucket/ca/ca-bundle.zip: HTTP Error 403 : <?xml version="1.0" encoding="UTF-8"?> (ElasticBeanstalk::ExternalInvocationError) 如果我手动添加S3访问策略到aws-elasticbeanstalk-ec2-roleangular色一切正常,所以我知道我没有在URLS或任何其他的拼写错误,EC2实例是在正确的angular色。 哪里不对? PS。 我试过或没有'身份validation'设置的files部分。

复制共享文件系统

我正在研究在AWS(EC2)基础架构上设置共享文件系统/文件服务器,该服务器提供复制和相当轻松的故障转移。 这个文件系统可能会承载数百万个大小只有几百万的文件。 这些文件将被从几个客户端虚拟机访问(读/写)。 如果主文件服务器失败,我希望客户端能够故障转移到副本文件服务器,而不会丢失任何文件(即我想复制实时)。 我看了几个选项: 使用S3和s3fs。 我担心在数千个文件上执行操作时(例如,当复制/移动文件时),每个请求的延迟都会有问题。 我也听到一些报告,让我质疑s3fs的稳定性 – 不知道是否仍然如此。 在EC2实例上安装NFS服务器,使用drbd在两个实例之间复制块。 缺点: 在过去,我遇到了drbd的可靠性问题,特别是高延迟链接 如果主NFS服务器出现故障,则它将取下客户端,要求系统pipe理员进行干预和/或重新启动以使其重新连接到辅助服务器。 没有自动故障切换。 有没有更好的解决scheme?

CloudFront上S3严格的传输安全?

由于速度和成本的原因,我公司的网站有一个静态主页。 我们使用S3作为CloudFront的原点。 现在,我们要声明整个域的Strict-Transport-Security,但是S3似乎没有发送任何我们指定的头文件(除了像x-aws–开头的头文件之外)。 CloudFront似乎也没有任何自定义标题选项。 这可能吗?