AWS は、誰もが無料でアクセスできるさまざまなパブリックデータセットをホストします。
以前は、ヒト遺伝子のマッピングなどの膨大なデータセットを位置特定、ダウンロード、カスタマイズ、分析するには何時間も何日もかかっていました。現在では、Amazon EC2 インスタンスまたは Amazon EMR(ホストされた Hadoop)クラスターを使用し、AWS の集中データリポジトリを介して、誰もがそのようなデータセットにアクセスし、分析できます。この重要なデータをホストし、伸縮自在なコンピューティングリソースですばやく簡単に処理できることで、AWS はより多くのイノベーションが、より短期間で可能になることを期待しています。
利用可能なデータセットの詳細なリストについては、こちらをクリックしてください。特によく利用されているパブリックデータセットには次のようなものがあります。
- AWS でのランドサット: ランドサット 8 号衛星により作成中の地球全土の衛星画像コレクション(解像度は中程度)
- NEXRAD on AWS: 次期世代気象レーダーからのリアルタイムデータとアーカイブデータ
- NASA NEX: NASA が保守管理する地球の科学的データセットのコレクション。気候変化予測や地表の衛星画像などが含まれる
- 共通クロールコーパス: 50 億を超えるウェブページから構成されるウェブクロールデータのコーパス
- Multimedia Commons: オーディオビジュアル機能と注釈を備えた 1 億近い画像と動画のコレクション
- Google Books Ngrams: Google Books n-gram コーパスを含むデータセット
- 米国人口調査データ: 1980 年度、1990 年度、および 2000 年度の米国人口調査からの米国人口統計データ
- AWS での TCGA: がんゲノムアトラス (TCGA) からの未処理および処理済みのゲノム、トランスクリプトミクス、およびエピゲノミクスのデータで、がんゲノムクラウドを介して認定された研究者のみが利用可能
- AWS での ICGC: ゲノム配列全体のデータで、国際がんゲノムコンソーシアム (ICGC) を介して認定された研究者のみが利用可能
- 1000 ゲノムプロジェクト: 人の遺伝的多様性の詳細なマップ
- AWS での 3000 のイネゲノム: 3,024 のイネ品種のゲノム配列
パブリックデータセットは、Amazon Elastic Block Store(Amazon EBS)スナップショットまたは Amazon Simple Storage Service(Amazon S3)バケットのいずれか 2 つのフォーマットでホストされます。
Amazon EBS スナップショットとしてホストされているデータセットにアクセスするには: AWS アカウントにサインアップして、Amazon EC2 インスタンスを起動し、上記のカタログにあるスナップショット ID を使用して Amazon EBS ボリュームを作成します。または、Amazon EC2 入門ガイドをご参照ください。
Amazon S3 にホストされているパブリックデータセットにアクセスするには: シンプル HTTP リクエストを実行するか、AWS コマンドラインツールおよび SDK(Ruby、Java、Python、.NET、PHP など)を使用するか、Amazon EC2 を使用してデータをダウンロードするか、あるいは Hadoop を使用して Amazon EMR でデータを処理することができます。
質問がある場合、またはパブリックデータセットコミュニティに参加を希望する場合は、メールで opendata@amazon.com までご連絡ください。