arrow_back

Dataflow: Qwik Start - Python

Gabung Login
Test and share your knowledge with our community!
done
Get access to over 700 hands-on labs, skill badges, and courses

Dataflow: Qwik Start - Python

Lab 30 menit universal_currency_alt 1 Kredit show_chart Pengantar
Test and share your knowledge with our community!
done
Get access to over 700 hands-on labs, skill badges, and courses

GSP207

Lab Mandiri Google Cloud

Ringkasan

Di lab ini, Anda akan menyiapkan lingkungan pengembangan Python, mendapatkan Cloud Dataflow SDK untuk Python, dan menjalankan contoh pipeline menggunakan Konsol Cloud.

Penyiapan dan persyaratan

Sebelum mengklik tombol Mulai Lab

Baca petunjuk ini. Lab memiliki timer dan Anda tidak dapat menjedanya. Timer, yang dimulai saat Anda mengklik Start Lab, akan menampilkan durasi ketersediaan resource Google Cloud untuk Anda.

Lab praktik ini dapat Anda gunakan untuk melakukan sendiri aktivitas lab di lingkungan cloud sungguhan, bukan di lingkungan demo atau simulasi. Untuk mengakses lab ini, Anda akan diberi kredensial baru yang bersifat sementara dan dapat digunakan untuk login serta mengakses Google Cloud selama durasi lab.

Untuk menyelesaikan lab ini, Anda memerlukan:

  • Akses ke browser internet standar (disarankan browser Chrome).
Catatan: Gunakan jendela Samaran atau browser pribadi untuk menjalankan lab ini. Hal ini akan mencegah konflik antara akun pribadi Anda dan akun Siswa yang dapat menyebabkan tagihan ekstra pada akun pribadi Anda.
  • Waktu untuk menyelesaikan lab. Ingat, setelah dimulai, lab tidak dapat dijeda.
Catatan: Jika Anda sudah memiliki project atau akun pribadi Google Cloud, jangan menggunakannya untuk lab ini agar terhindar dari tagihan ekstra pada akun Anda.

Cara memulai lab dan login ke Google Cloud Console

  1. Klik tombol Start Lab. Jika Anda perlu membayar lab, jendela pop-up akan terbuka untuk memilih metode pembayaran. Di sebelah kiri adalah panel Lab Details dengan berikut ini:

    • Tombol Open Google Console
    • Waktu tersisa
    • Kredensial sementara yang harus Anda gunakan untuk lab ini
    • Informasi lain, jika diperlukan, untuk menyelesaikan lab ini
  2. Klik Open Google Console. Lab akan menjalankan resource, lalu membuka tab lain yang menampilkan halaman Login.

    Tips: Atur tab di jendela terpisah secara berdampingan.

    Catatan: Jika Anda melihat dialog Choose an account, klik Use Another Account.
  3. Jika perlu, salin Username dari panel Lab Details dan tempel ke dialog Sign in. Klik Next.

  4. Salin Password dari panel Lab Details dan tempel ke dialog Welcome. Klik Next.

    Penting: Anda harus menggunakan kredensial dari panel sebelah kiri. Jangan menggunakan kredensial Google Cloud Skills Boost. Catatan: Menggunakan akun Google Cloud sendiri untuk lab ini dapat dikenai biaya tambahan.
  5. Klik halaman berikutnya:

    • Setujui persyaratan dan ketentuan.
    • Jangan tambahkan opsi pemulihan atau autentikasi 2 langkah (karena ini akun sementara).
    • Jangan daftar uji coba gratis.

Setelah beberapa saat, Cloud Console akan terbuka di tab ini.

Catatan: Anda dapat melihat menu dengan daftar Produk dan Layanan Google Cloud dengan mengklik Menu navigasi di kiri atas. Ikon menu navigasi

Mengaktifkan Cloud Shell

Cloud Shell adalah mesin virtual yang dilengkapi dengan berbagai alat pengembangan. Mesin virtual ini menawarkan direktori beranda persisten berkapasitas 5 GB dan berjalan di Google Cloud. Cloud Shell menyediakan akses command-line untuk resource Google Cloud Anda.

  1. Klik Activate Cloud Shell Ikon Activate Cloud Shell di bagian atas konsol Google Cloud.

Setelah terhubung, Anda sudah diautentikasi, dan project ditetapkan ke PROJECT_ID Anda. Output berisi baris yang mendeklarasikan PROJECT_ID untuk sesi ini:

Project Cloud Platform Anda dalam sesi ini disetel ke YOUR_PROJECT_ID

gcloud adalah alat command line untuk Google Cloud. Alat ini sudah terinstal di Cloud Shell dan mendukung pelengkapan command line.

  1. (Opsional) Anda dapat menampilkan daftar nama akun yang aktif dengan perintah ini:
gcloud auth list
  1. Klik Authorize.

  2. Output Anda sekarang akan terlihat seperti ini:

Output:

ACTIVE: * ACCOUNT: student-01-xxxxxxxxxxxx@qwiklabs.net Untuk menyetel akun aktif, jalankan: $ gcloud config set account `ACCOUNT`
  1. (Opsional) Anda dapat menampilkan daftar project ID dengan perintah ini:
gcloud config list project

Output:

[core] project = <project_ID>

Contoh output:

[core] project = qwiklabs-gcp-44776a13dea667a6 Catatan: Untuk mendapatkan dokumentasi gcloud yang lengkap di Google Cloud, baca panduan ringkasan gcloud CLI.

Menetapkan region

  • Di Cloud Shell, jalankan perintah berikut untuk menetapkan region project untuk lab ini:
gcloud config set compute/region {{{project_0.default_region | "REGION"}}}

Pastikan Dataflow API berhasil diaktifkan

Untuk memastikan akses ke API yang diperlukan, mulai ulang koneksi ke Dataflow API.

  1. Di Konsol Cloud, masukkan "Dataflow API" di kotak penelusuran atas. Klik hasil untuk Dataflow API.

  2. Klik Manage.

  3. Klik Disable API.

Jika diminta untuk mengonfirmasi, klik Disable.

  1. Klik Enable.

Jika API sudah diaktifkan kembali, halaman akan menampilkan opsi untuk menonaktifkannya.

Tugas 1. Membuat bucket Cloud Storage

  1. Pada Navigation menu (Ikon Menu navigasi), klik Cloud Storage > Buckets.
  2. Klik Create bucket.
  3. Pada dialog Create bucket, tentukan atribut berikut:
  • Name: Untuk memastikan nama unik bucket, gunakan nama berikut ini: -bucket. Perlu diperhatikan bahwa nama ini tidak boleh berisi informasi sensitif pada nama bucket, karena namespace bucket bersifat global dan dapat dilihat oleh publik.
  • Location type: Multi-region
  • Location: us
  • Lokasi tempat data bucket akan disimpan.
  1. Klik Create.

  2. Jika melihat pesan Public access will be prevented, klik Confirm.

Menguji tugas yang sudah selesai

Klik Periksa progres saya untuk memverifikasi tugas yang telah diselesaikan. Jika berhasil menyelesaikan tugas, Anda akan diberi skor penilaian.

Membuat bucket Cloud Storage.

Tugas 2. Menginstal pip dan Cloud Dataflow SDK

  1. Cloud Dataflow SDK untuk Python terbaru memerlukan Python versi >= 3.7.

Untuk memastikan Anda menjalankan proses dengan versi yang tepat, jalankan Image Docker Python3.9:

docker run -it -e DEVSHELL_PROJECT_ID=$DEVSHELL_PROJECT_ID python:3.9 /bin/bash

Perintah ini menarik container Docker dengan versi stabil terbaru Python 3.9, lalu membuka shell perintah untuk menjalankan perintah berikut di dalam container.

  1. Setelah container berjalan, instal versi terbaru Apache Beam untuk Python dengan menjalankan perintah berikut dari lingkungan virtual:
pip install 'apache-beam[gcp]'==2.42.0

Anda akan melihat beberapa peringatan yang ditampilkan berkaitan dengan dependensi. Peringatan tersebut aman untuk diabaikan di lab ini.

  1. Jalankan contoh wordcount.py secara lokal dengan menjalankan perintah berikut:
python -m apache_beam.examples.wordcount --output OUTPUT_FILE Catatan: Anda menginstal `google-cloud-dataflow` tetapi menjalankan `wordcount` dengan `Apache_beam`. Alasannya, Cloud Dataflow adalah distribusi [Apache Beam](https://github.com/Apache/beam).

Anda akan melihat pesan yang mirip dengan yang berikut ini:

INFO:root:Missing pipeline option (runner). Executing pipeline using the default runner: DirectRunner. INFO:oauth2client.client:Attempting refresh to obtain initial access_token

Anda dapat mengabaikan pesan ini.

  1. Kini Anda dapat menampilkan daftar file yang ada di lingkungan cloud lokal untuk mendapatkan nama OUTPUT_FILE:
ls
  1. Salin nama OUTPUT_FILE dan cat ke dalamnya:
cat <file name>

Hasil Anda menampilkan setiap kata dalam file dan frekuensi munculnya kata tersebut.

Tugas 3. Menjalankan contoh pipeline dari jarak jauh

  1. Tetapkan variabel lingkungan BUCKET ke bucket yang Anda buat sebelumnya:
BUCKET=gs://<bucket name provided earlier>
  1. Sekarang Anda akan menjalankan contoh wordcount.py dari jarak jauh:
python -m apache_beam.examples.wordcount --project $DEVSHELL_PROJECT_ID \ --runner DataflowRunner \ --staging_location $BUCKET/staging \ --temp_location $BUCKET/temp \ --output $BUCKET/results/output \ --region {{{project_0.default_region | "filled in at lab start"}}}

Tunggu sampai Anda melihat pesan di output:

JOB_MESSAGE_DETAILED: Workers have started successfully.

Lalu lanjutkan lab.

Tugas 4. Memeriksa apakah pekerjaan telah berhasil

  1. Buka Navigation menu, lalu klik Dataflow dari daftar layanan.

Di awal, Anda akan melihat tugas wordcount Anda dengan status Running.

  1. Klik nama untuk melihat proses. Jika semua kotak telah dicentang, Anda dapat melanjutkan melihat log di Cloud Shell.

Prosesnya selesai saat statusnya Succeeded.

Menguji tugas yang sudah selesai

Klik Check my progress untuk memverifikasi tugas yang telah dijalankan. Jika berhasil menyelesaikan tugas, Anda akan diberi skor penilaian.

Menjalankan Contoh Pipeline dari Jarak Jauh.
  1. Klik Navigation menu > Cloud Storage di Cloud Console.

  2. Klik nama bucket Anda. Di bucket, Anda akan melihat direktori results dan staging.

  3. Klik folder results dan Anda akan melihat file output yang dibuat oleh tugas Anda:

  4. Klik file untuk melihat jumlah katanya:

Tugas 5. Uji pemahaman Anda

Berikut ini beberapa pertanyaan pilihan ganda untuk memperkuat pemahaman Anda terhadap konsep lab ini. Jawab pertanyaan tersebut sebaik mungkin.

Selamat!

Selesaikan Quest

Lab mandiri ini adalah bagian dari Quest Baseline: Data, ML, AI. Quest adalah serangkaian lab terkait yang membentuk jalur pembelajaran. Dengan menyelesaikan quest ini, Anda mendapatkan badge sebagai pengakuan atas pencapaian Anda. Anda dapat memperlihatkan badge atau beberapa badge kepada publik dan menautkannya di resume online atau akun media sosial Anda. Daftar ke Quest ini atau Quest apa pun yang berisi lab ini dan segera dapatkan kredit penyelesaian. Lihat Katalog Google Cloud Skills Boost untuk melihat semua Quest yang tersedia.

Langkah berikutnya/Pelajari lebih lanjut

Lab ini merupakan bagian dari rangkaian lab yang disebut Qwik Start. Lab ini dirancang untuk memungkinkan Anda merasakan banyak fitur yang tersedia di Google Cloud. Telusuri "Qwik Starts" di katalog Google Cloud Skills Boost untuk menemukan lab berikutnya yang ingin Anda ikuti.

Jika ingin mendapatkan salinan buku Anda sendiri, lab ini didasarkan pada: Data Science on the Google Cloud Platform: O'Reilly Media, Inc.

Sertifikasi dan pelatihan Google Cloud

...membantu Anda mengoptimalkan teknologi Google Cloud. Kelas kami mencakup keterampilan teknis dan praktik terbaik untuk membantu Anda memahami dengan cepat dan melanjutkan proses pembelajaran. Kami menawarkan pelatihan tingkat dasar hingga lanjutan dengan opsi on demand, live, dan virtual untuk menyesuaikan dengan jadwal Anda yang sibuk. Sertifikasi membantu Anda memvalidasi dan membuktikan keterampilan serta keahlian Anda dalam teknologi Google Cloud.

Manual Terakhir Diperbarui pada 4 Mei 2023

Lab Terakhir Diuji pada 4 Mei 2023

Hak cipta 2024 Google LLC Semua hak dilindungi undang-undang. Google dan logo Google adalah merek dagang dari Google LLC. Semua nama perusahaan dan produk lain mungkin adalah merek dagang masing-masing perusahaan yang bersangkutan.