آموزش طراحی خط لوله‌های ETL با زبان Rust - آخرین آپدیت

دانلود ETL Pipelines with Rust

نکته: ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
توضیحات دوره: خط لوله‌های ETL در سطح صنعتی با زبان Rust بسازید که هرگز داده‌ها را به‌طور بی‌صدا حذف نکنند و در مواجهه با ورودی‌های نامعتبر دچار Panic نشوند. در این دوره پنج هفته‌ای، شما مرز استخراج (Extract) را با استفاده از Readerهای تایپ‌شده در serde طراحی می‌کنید، یک قرارداد جامع برای تبدیل (Transform) پیاده می‌کنید که در آن هر ردیف یا به یک رکورد تایید شده تبدیل می‌شود و یا از طریق یک کانال خطای ساختاریافته منتقل می‌گردد، و در نهایت با استفاده از trait Write، خروجی‌های NDJSON و CSV را از یک خط لوله تایپ‌شده تولید می‌کنید. شما بر مفاهیم thiserror enums، انتشار خطا با ?، تست‌های ویژگی مبتنی بر proptest، ناورداهای Round-trip و جداسازی stderr از stdout برای قابلیت حسابرسی کامل مسلط خواهید شد. دوره با پیش‌نمایشی از نحوه انتقال این قراردادها به محیط Async با استفاده از tokio به پایان می‌رسد (ناورداهای یکسان، محیط اجرای متفاوت). تمام مفاهیم با کدهای واقعی Rust که توسط مدرس در مخزن عمومی نوشته شده است آموزش داده می‌شوند، نه با شبه‌کد. این دوره مخصوص مهندسانی است که پیش از این اسکریپت‌های ETL پایتونی نوشته‌اند که در ساعات غیرمنتظره باعث حذف داده‌ها شده و اکنون می‌خواهند از سیستم تایپ Rust برای غیرممکن کردن چنین اتفاقاتی استفاده کنند.

سرفصل ها و درس ها

استخراج — مرز ورودی Extract — The Input Boundary

  • چرا خط لوله‌های تایپ‌شده بر اسکریپت‌های Bash برتری دارند Why Typed Pipelines Beat Bash Glue

  • جذب داده‌های CSV با csv::ReaderBuilder CSV Ingestion with csv::ReaderBuilder

  • پیاده‌سازی Deserialize برای ردیف‌های CSV Deriving Deserialize for CSV Rows

  • مدیریت داده‌های نامعتبر در ردیف‌های ورودی When Row 847 Is Garbage

  • فایل‌ها، Stdin و Byte Slices: بررسی Read Trait Files, Stdin, Byte Slices: The Read Trait

تبدیل — لایه منطق کسب‌وکار Transform — The Business Logic Layer

  • قرارداد جامع: حذف صفر داده‌ها The Totality Contract: Zero Data Loss

  • اعتبارسنجی و رد داده‌ها Validation and Rejection

  • نرمال‌سازی فیلدها: تبدیل دلار به سنت Normalizing Fields: Dollars to Cents

  • استخراج ستون‌های محاسباتی Deriving Computed Columns

  • ترکیب عملیات Filter، Map و Enrich Composing Filter, Map, and Enrich

  • جمع‌آوری نتایج بدون استفاده از unwrap Accumulating Results Without unwrap

بارگذاری — مرز خروجی Load — The Output Boundary

  • کار با JSON خط‌به‌خط (NDJSON) در serde_json Newline-Delimited JSON with serde_json

  • خروجی CSV با استفاده از csv::Writer CSV Output with csv::Writer

  • اثبات امنیت Round Trip داده‌ها Proving Round-Trip Safety

  • مقصد‌های دو فرمته: داده یکسان، دو فایل متفاوت Dual-Format Sinks: Same Data, Two Files

  • بازیابی خطای مقصد: نادیده گرفتن، ثبت و ادامه Sink Error Recovery: Skip, Log, Continue

  • فایل‌ها، Stdout و بافرها: بررسی Write Trait Files, Stdout, Buffers: The Write Trait

ترکیب، تست و مشاهده‌پذیری Composition, Testing, and Observability

  • اتصال مراحل E→T→L در تابع main Wiring E→T→L in main

  • رسمی‌سازی خطاها با thiserror Formalizing Errors with thiserror

  • تست‌های مبتنی بر ویژگی (Property Based Testing) برای خط لوله‌ها Property-Based Testing for Pipelines

  • تست‌های یکپارچگی با داده‌های Fixture Integration Tests with Fixture Data

  • گزارش‌دهی ساختاریافته از خط لوله Structured Pipeline Reporting

  • از Sync به Async: تغییرات در مدل C4 From Sync to Async: What C4 Changes

پروژه نهایی Capstone

نمایش نظرات

آموزش طراحی خط لوله‌های ETL با زبان Rust
جزییات دوره
5h 29m
23
(آخرین آپدیت)
35
- از 5
دارد
دارد
دارد
Chris Croft
جهت دریافت آخرین اخبار و آپدیت ها در کانال تلگرام عضو شوید.

Google Chrome Browser

Internet Download Manager

Pot Player

Winrar

Chris Croft Chris Croft

مربی مدیریت، سخنران، نویسنده