لطفا جهت اطلاع از آخرین دوره ها و اخبار سایت در
کانال تلگرام
عضو شوید.
آموزش پردازش دادههای سرورلس با Dataflow: توسعه پایپلاینها
- آخرین آپدیت
دانلود Serverless Data Processing with Dataflow: Develop Pipelines em Português Brasileiro
نکته:
ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
توضیحات دوره:
در این بخش دوم از سری دورههای Dataflow، به بررسی عمیقتر توسعه پایپلاینها با استفاده از Beam SDK را میپردازیم. در ابتدا با مرور konsep-های کلی Apache Beam را شروع میکنیم. سپس، پردازش دادههای استریمینگ (Streaming) را با استفاده از پنجرهها (Windows)، واترمارکها (Watermarks) و تریگرها (Triggers) بررسی میکنیم. در ادامه، گزینههای مربوط به منابع (Sources) و سینکها (Sinks) در پایپلاینها، طرحوارههای (Schemas) بیان دادههای ساختاریافته و نحوه انجام تغییرات حالتدار (Stateful Transformations) با استفاده از APIهای State و Timer را پوشش میدهیم. سپس به بررسی بهترین شیوههای (Best Practices) بهینهسازی عملکرد پایپلاینها میپردازیم. در پایان دوره، با SQL و Dataframes برای نمایش منطق کسبوکار در Beam و نحوه توسعه تکرارپذیر پایپلاینها با استفاده از Beam Notebooks آشنا میشویم.
سرفصل ها و درس ها
مقدمه
Introduçao
مقدمه دوره
Introdução ao curso
مرور مفاهیم Beam
Resumo dos conceitos do Beam
مبانی Beam
Fundamentos do Beam
تبدیلات کاربردی
Transformações de utilitário
چرخه حیات DoFn
Ciclo de vida da DoFn
شروع کار با Google Cloud Platform و Qwiklabs
Como começar a usar o Google Cloud Platform e o Qwiklabs
پنجرهها، تریگرها و واترمارکها
Janelas, gatilhos de marcas d'água
پنجرهها
Janelas
واترمارکها
Marcas d’água
تریگرها
Gatilhos
منابع و سینکها
Origens e coletores
منابع و سینکها
Origens e coletores
ورودی/خروجی متن و فایلها
E/S de texto e arquivos
ورودی/خروجی BigQuery
E/S do BigQuery
ورودی/خروجی Pub/Sub
E/S do Pub/Sub
ورودی/خروجی Kafka
E/S do Kafka
ورودی/خروجی BigTable
E/S do BigTable
ورودی/خروجی Avro
E/S do Avro
DoFn تقسیمپذیر
DoFn divisível
طرحوارهها (Schemas)
Esquemas
طرحوارههای Beam
Esquemas do Beam
مثالهای کدنویسی
Exemplos de código
حالت و تایمرها
Estado e Timers
رابط API State
API State
رابط API Timer
API Timer
جمعبندی
Resumo
بهترین شیوهها
Práticas Recomendadas
طرحوارهها
Esquemas
مدیریت دادههای غیرقابل پردازش
Como lidar com dados que não podem ser processados
رفع خطاها
Como resolver erros
تولیدکننده کدهای AutoValue
Gerador de códigos AutoValue
پردازش دادههای JSON
Processamento de dados JSON
استفاده از چرخه حیات DoFn
Use o ciclo de vida da DoFn
بهینهسازی پایپلاینها
Otimizações de pipeline
Dataflow SQL و DataFrames
Dataflow SQL e DataFrames
نمایش نظرات