Japan 公式ブログ
Google の企業向けソリューションに関する公式な情報やユーザーの事例などを、いち早く皆さんにお届けします。
[GCP] Cloud Dataflow SDK for Java をオープンソース公開
2015年1月8日木曜日
データの持つ「価値」は、その分析を通じて得られるインテリジェンスにあります。しかし、データセットの巨大化や、多様なストレージ システムへのデータの分散の影響で、データからインテリジェンスを導くことは容易ではありません。さらにリアルタイム分析のニーズの増加など、いまエンジニアはさまざまな課題に直面しています。
Google は 2014 年 7 月、データ処理のためのまったく新しいマネージド サービス、
Google Cloud Dataflow
のアルファ版を発表しました。このサービスは、ビッグデータ処理基盤の運用の負荷を大きく引き下げ、エンジニアが開発のみに集中できる環境を提供します。データサイエンティストやデータアナリスト、そしてデータ処理に関わるエンジニアが、データを今以上に簡単に、より広い範囲で扱えるようにするものです。用途や使い方を問わず、分散システムを扱うための労力を不要とし、シンプルで直感的なプログラミング コンセプトを用いたデータからのインテリジェンスの抽出を可能とします。
今回 Google では、
Google Cloud Dataflow
の導入を促し、またさまざまなプログラミング言語や実行環境へポーティングできる土台を提供すべく、同サービスにアクセスするためのライブラリである「Cloud Dataflow SDK」をオープンソース化しました。
Gooole Cloud Dataflow は、Google 社内で用いられてきた
FlumeJava
と呼ばれるプログラミング モデルをベースとしています。FlumeJava の導入の過程で、データをインテリジェンスへ転換する上での多くの知見を得られました。この知見を基盤に、Cloud Dataflow SDK をオープンソースとして共有することで、次の 3 点で開発者コミュニティによるさらなる発展を促します。
ストリーム処理とバッチ処理の統合によるイノベーション
:Cloud Dataflow SDK では、バッチ処理とストリーム処理の両方を統合したモデルを導入します。この統合がもたらす再利用可能なプログラミング パターンが、開発効率の向上を実現するカギとなります。また、時間軸でのデータ集約のための
豊富なウィンドウ関数
を提供し、バッチとストリーム両方の種類のデータソースに対して同じ処理を適用できます。
さまざまなプログラミング言語による Dataflow プログラミング モデルのサポート
:Dataflow がサポートするプログラミング言語とプログラミング パターンは、今後も増加していきます。Dataflow をより多くのアプリケーションから使えるように、現在 Python 3 版 SDK の開発が進められています。
サードパーティのサービス環境での Dataflow の実行
:現在のIT開発、とりわけクラウド分野おいては、多種多様なサービスをいかにして組み合わせ構成するかが重要なポイントとなります。Cloud Dataflow は、大規模にスケール可能で、高い信頼性と一貫性を備えるマネージド サービスとして構築されていますが、一方で外部サービスへのポータビリティも重視されています。例えば Apache Storm や Spark、 Hadoop 製品ファミリーは引き続きは発展を続けているものの、それにともなうプログラミングモデルの分裂が開発者にとっての課題となります。大規模データ処理の実行環境やサービス環境のポータビリティを確保することで、そうした苦労をなるべくなくし、デプロイ先プラットフォームの選択肢を広げます。
バックグラウンドのさまざまに異なる開発者が分散データ処理を行えるシステムを、皆さんと協力して構築していけることが楽しみです。 GitHub の
Dataflow SDK for Java
リポジトリを通じたコミュニティへの参加をお待ちしています。
Cloud Dataflow コミュニティには、以下の方法で参加できます。
- Google Cloud Dataflow の
利用申し込み
-
ドキュメント
(英)による詳細の確認
- StackOverflow での議論への参加 [タグ:
google-cloud-dataflow
]
0 件のコメント :
コメントを投稿
Labels
77 min Lunch
add on
admin
Android
API
App Engine
apps
atmosphere
Atmosphere Tokyo
bigquery
Case Study
Chorme OS
Chrome for Work
Chrome ウェブストア
chromebook
chromebooks
Chromebooks for Education
Chromebooks for meeting
Chromebooks for Work
Chromebox for digital signage
Chromebox for meetings
Cloud
cloud connect
Cloud monitoring
Cloud Ranking
compliance
compute engine
Deloitte
developers
Drive for Work
earth api
Education
enterprise
Enterprise Japan
event
Firebase
G+
gadget
GAE
GCE
GCP
GEO
GEP
GfWtips
GKE
gmail
Gmail、新機能
Gone Google
GoneGoogle
Google App Engine
Google Apps
Google Apps Blog
Google Apps for Work
Google Apps Script
Google Apps ユーザー事例
Google atmosphere
Google calendar
Google calender
Google classroom
google cloud platform
Google Commerce Search
Google Derive
Google Docs
google drive
Google Drive for Work
google enterprise
Google Enterprise Day
Google for Work
Google form
Google hang-out
Google hung-out
google map
Google maps
google maps api
google maps api premier
Google Message Continuity
google search appliance
Google Shopping
Google Sites
Google Storage for Developers
Google Video
Google Wave
Google スライド
Google ドキュメント
Google フォーム
GoogleApps
GoogleApps、ユーザ事例
GoogleApps、新機能、spreadsheets
groups
gsa
healthcare
iOS
iphone
ISAE 3402 Type II
ISO 27018
IT
japan
Lotus Notes
map
maps api
media
microsoft office
migration
mobile
new features
Office 365
partner
partner program
postini
pricing
research
RSA
SAS70
search
Security
seminar
Shizuoka
Signage
Sites
SMB
SSAE 16 Type II
SSO
startup
Status Dashboard
Trial
Upload any files
vault
Virtual Conference
VMware
あっぷす先生
あっぷす先生 誤解をとく!
あっぷす先生会社訪問
イベント
おしえて!あっぷす先生
オフライン
クラウド
サイネージ
サポート
テレワーク
ハングアウト
プライバシー
ランキング
企業検索
互換性
事例
新機能
働き方
Archive
2016
2月
1月
2015
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
1月
[GCP] VMware が Google Cloud Platform の提供を開始します。
[GCP] コンテナ、Kubernetes、最新のクラウド コンピューティングの動向
[GCP] Google Cloud Monitoring: Stackdriver で Googl...
[GCP] プライベート Docker リポジトリーを、高セキュリティ環境にホスティング - Goo...
Google 主催、集中講座「クラウドを使うリスク、使わないリスク、Google のセキュリティ」を...
[GCP] モバイル アプリ 事業者向けのビッグイベント「 Google for モバイル アプリ」を開催
Google 社員の働き方紹介 vol.1
[GCP] データサイエンティストが起こす、社会的なインパクト。Google Cloud Platf...
Google Maps for Work サイト 「Maps going to Google」 の第...
[GCP] Google Cloud Trace で、アプリケーションのパフォーマンスを診断する
[GCP] MITx では、Google Compute Engine 上で Akselos を実行...
[GCP] Cloud Dataflow SDK for Java をオープンソース公開
[GCP] 12 月の Google Cloud Platform の動向を振り返る: 6 つの事例...
#77minLunch 株式会社 JTB 情報システム
2014
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
1月
2013
12月
11月
10月
9月
7月
6月
5月
4月
3月
1月
2012
12月
11月
10月
9月
8月
7月
6月
5月
4月
2月
2011
12月
10月
9月
8月
7月
5月
4月
2月
1月
2010
12月
11月
10月
9月
7月
6月
5月
3月
2月
1月
2009
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
1月
2008
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
2007
12月
Feed
Follow @GoogleforWorkJa
Useful Links
Google Apps for Work
Google Cloud Platform
Google 検索アプライアンス
Google Maps for Work
企業向けソリューション
Google Apps公式アップデート情報
0 件のコメント :
コメントを投稿