AWS は、誰もが無料でアクセスできるさまざまなパブリックデータセットをホストします。

以前は、ヒト遺伝子のマッピングなどの膨大なデータセットを位置特定、ダウンロード、カスタマイズ、分析するには何時間も何日もかかっていました。現在では、Amazon EC2 インスタンスまたは Amazon EMR(ホストされた Hadoop)クラスターを使用し、AWS の集中データリポジトリを介して、誰もがそのようなデータセットにアクセスし、分析できます。この重要なデータをホストし、伸縮自在なコンピューティングリソースですばやく簡単に処理できることで、AWS はより多くのイノベーションが、より短期間で可能になることを期待しています。

利用可能なデータセットの詳細なリストについては、こちらをクリックしてください。特によく利用されているパブリックデータセットには次のようなものがあります。

  • AWS でのランドサット: ランドサット 8 号衛星により作成中の地球全土の衛星画像コレクション(解像度は中程度)
  • NEXRAD on AWS: 次期世代気象レーダーからのリアルタイムデータとアーカイブデータ
  • NASA NEX: NASA が保守管理する地球の科学的データセットのコレクション。気候変化予測や地表の衛星画像などが含まれる
  • 共通クロールコーパス: 50 億を超えるウェブページから構成されるウェブクロールデータのコーパス
  • Multimedia Commons: オーディオビジュアル機能と注釈を備えた 1 億近い画像と動画のコレクション
  • Google Books Ngrams: Google Books n-gram コーパスを含むデータセット
  • 米国人口調査データ: 1980 年度、1990 年度、および 2000 年度の米国人口調査からの米国人口統計データ
  • AWS での TCGA: がんゲノムアトラス (TCGA) からの未処理および処理済みのゲノム、トランスクリプトミクス、およびエピゲノミクスのデータで、がんゲノムクラウドを介して認定された研究者のみが利用可能
  • AWS での ICGC: ゲノム配列全体のデータで、国際がんゲノムコンソーシアム (ICGC) を介して認定された研究者のみが利用可能
  • 1000 ゲノムプロジェクト: 人の遺伝的多様性の詳細なマップ
  • AWS での 3000 のイネゲノム: 3,024 のイネ品種のゲノム配列

パブリックデータセットは、Amazon Elastic Block Store(Amazon EBS)スナップショットまたは Amazon Simple Storage Service(Amazon S3)バケットのいずれか 2 つのフォーマットでホストされます。

Amazon EBS スナップショットとしてホストされているデータセットにアクセスするには: AWS アカウントにサインアップして、Amazon EC2 インスタンスを起動し、上記のカタログにあるスナップショット ID を使用して Amazon EBS ボリュームを作成します。または、Amazon EC2 入門ガイドをご参照ください。

Amazon S3 にホストされているパブリックデータセットにアクセスするには: シンプル HTTP リクエストを実行するか、AWS コマンドラインツールおよび SDK(Ruby、Java、Python、.NET、PHP など)を使用するか、Amazon EC2 を使用してデータをダウンロードするか、あるいは Hadoop を使用して Amazon EMR でデータを処理することができます。

質問がある場合、またはパブリックデータセットコミュニティに参加を希望する場合は、メールで opendata@amazon.com までご連絡ください。