python - s3批量下载 - 亚马逊云市场




从S3存储桶下载300万个对象的最快方法 (2)

使用eventlet为您提供I / O并行性,编写一个简单的函数来使用urllib下载一个对象,然后使用GreenPile将其映射到输入URL列表 - 一个50到100个greenlet的堆应该做...

我尝试过使用Python + boto +多处理,S3cmd和J3tset,但是他们都在苦苦挣扎。

任何建议,也许是你一直在使用的现成脚本或其他我不知道的方式?

编辑:

eventlet + boto是一个有价值的解决方案,如下所述。 在http://web.archive.org/web/20110520140439/http://teddziuba.com/2010/02/eventlet-asynchronous-io-for-g.html找到了一篇很好的活动参考文章

我已经在下面添加了我正在使用的python脚本。


好吧,我根据@Matt Billenstien的提示想出了一个解决方案。 它使用eventlet库。 第一步是最重要的(猴子修补标准IO库)。

使用nohup在后台运行此脚本,您已完成所有设置。

from eventlet import *
patcher.monkey_patch(all=True)

import os, sys, time
from boto.s3.connection import S3Connection
from boto.s3.bucket import Bucket

import logging

logging.basicConfig(filename="s3_download.log", level=logging.INFO)


def download_file(key_name):
    # Its imp to download the key from a new connection
    conn = S3Connection("KEY", "SECRET")
    bucket = Bucket(connection=conn, name="BUCKET")
    key = bucket.get_key(key_name)

    try:
        res = key.get_contents_to_filename(key.name)
    except:
        logging.info(key.name+":"+"FAILED")

if __name__ == "__main__":
    conn = S3Connection("KEY", "SECRET")
    bucket = Bucket(connection=conn, name="BUCKET")

    logging.info("Fetching bucket list")
    bucket_list = bucket.list(prefix="PREFIX")

    logging.info("Creating a pool")
    pool = GreenPool(size=20)

    logging.info("Saving files in bucket...")
    for key in bucket.list():
        pool.spawn_n(download_file, key.key)
    pool.waitall()






eventlet