آموزش مدل‌های زبانی محلی با Ollama و LM Studio – راهنمای عملی - آخرین آپدیت

سرفصل ها و درس ها

مقدمه Introduction

• خوش آمدید به دوره! Welcome To The Course!

• مدل‌های زبان بزرگ باز (Open LLMs) دقیقا چه هستند؟ What Exactly Are "Open LLMs"?

• چرا می‌خواهید مدل‌های زبان بزرگ باز را به صورت محلی اجرا کنید؟ Why Would You Want To Run Open LLMs Locally?

• مدل‌های زبان بزرگ باز محبوب – برخی مثال‌ها Popular Open LLMs - Some Examples

• مدل‌های زبان بزرگ باز را از کجا می‌توان پیدا کرد؟ Where To Find Open LLMs?

• اجرای مدل‌های زبان بزرگ به صورت محلی – گزینه‌های موجود Running LLMs Locally - Available Options

• مجوزهای مدل را بررسی کنید! Check The Model Licenses!

• اسلایدهای دوره Course Slides

درک نیازمندی‌های سخت‌افزاری و کمی سازی Understanding Hardware Requirements & Quantization

• مقدمه‌ی ماژول Module Introduction

• نیازمندی‌های سخت‌افزاری مدل‌های زبان بزرگ – گام‌های اول LLM Hardware Requirements - First Steps

• استخراج نیازمندی‌های سخت‌افزاری از پارامترهای مدل Deriving Hardware Requirements From Model Parameters

• کمی سازی به کمک می‌آید! Quantization To The Rescue!

• آیا روی دستگاه شما اجرا می‌شود؟ Does It Run On Your Machine?

بررسی عمیق LM Studio LM Studio Deep Dive

• مقدمه‌ی ماژول Module Introduction

• اجرا به صورت محلی در مقابل از راه دور Running Locally vs Remotely

• نصب و استفاده از LM Studio Installing & Using LM Studio

• یافتن، دانلود و فعال‌سازی مدل‌های زبان بزرگ باز Finding, Downloading & Activating Open LLMs

• استفاده از رابط چت LM Studio Using the LM Studio Chat Interface

• کار با پیام‌های سیستمی و تنظیمات از پیش تعیین شده Working with System Prompts & Presets

• مدیریت چت‌ها Managing Chats

• ویژگی‌های کاربران حرفه‌ای برای مدیریت مدل‌ها و چت‌ها Power User Features For Managing Models & Chats

• استفاده از مدل‌های چندوجهی و استخراج محتوا از تصاویر (OCR) Leveraging Multimodal Models & Extracting Content From Images (OCR)

• تجزیه و تحلیل و خلاصه‌سازی اسناد PDF Analyzing & Summarizing PDF Documents

• به سوی تنظیمات پیشرفته‌تر Onwards To More Advanced Settings

• درک پارامترهای Temperature, top_k و top_p Understanding Temperature, top_k & top_p

• کنترل پارامترهای Temperature, top_k و top_p در LM Studio Controlling Temperature, top_k & top_p in LM Studio

• مدیریت زمان اجرا و پیکربندی سخت‌افزار Managing the Underlying Runtime & Hardware Configuration

• مدیریت طول متن Managing Context Length

• استفاده از Flash Attention Using Flash Attention

• کار با خروجی‌های ساختاریافته Working With Structured Outputs

• استفاده از مدل‌های زبان بزرگ محلی برای تولید کد Using Local LLMs For Code Generation

• تولید محتوا و درخواست‌های چند شات (مهندسی درخواست) Content Generation & Few Shot Prompting (Prompt Engineering)

• به سوی استفاده برنامه‌نویسی Onwards To Programmatic Use

• LM Studio و سازگاری آن با OpenAI LM Studio & Its OpenAI Compatibility

• مثال‌های کد بیشتر! More Code Examples!

• بررسی عمیق‌تر APIهای LM Studio Diving Deeper Into The LM Studio APIs

• استفاده از SDKهای پایتون/جاوا اسکریپت Using the Python / JavaScript SDKs

بررسی عمیق Ollama Ollama Deep Dive

• مقدمه‌ی ماژول Module Introduction

• نصب و راه‌اندازی Ollama Installing & Starting Ollama

• یافتن مدل‌های باز قابل استفاده Finding Usable Open Models

• اجرای مدل‌های زبان بزرگ باز به صورت محلی از طریق Ollama Running Open LLMs Locally via Ollama

• افزودن یک رابط گرافیکی کاربری با Open WebUI Adding a GUI with Open WebUI

• برخورد با پیام‌های چند خطی و ورودی تصویر (چندوجهی) Dealing with Multiline Messages & Image Input (Multimodality)

• بازرسی مدل‌ها و استخراج اطلاعات مدل Inspecting Models & Extracting Model Information

• ویرایش پیام‌های سیستمی و پارامترهای مدل Editing System Messages & Model Parameters

• ذخیره و بارگذاری جلسات و مدل‌ها Saving & Loading Sessions and Models

• مدیریت مدل‌ها Managing Models

• ایجاد طرح‌های مدل از طریق فایل‌های مدل Creating Model Blueprints via Modelfiles

• ایجاد مدل‌ها از فایل‌های مدل Creating Models From Modelfiles

• درک قالب‌های مدل Making Sense of Model Templates

• ساخت مدل از ابتدا از یک فایل GGUF Building a Model From Scratch From a GGUF File

• شروع به کار با سرور Ollama (API) Getting Started with the Ollama Server (API)

• کاوش در API Ollama و دسترسی برنامه‌نویسی به مدل‌ها Exploring the Ollama API & Programmatic Model Access

• دریافت خروجی ساختاریافته Getting Structured Output

• مثال‌های کد بیشتر! More Code Examples!

• استفاده از SDKهای پایتون/جاوا اسکریپت Using the Python / JavaScript SDKs

خلاصه‌ی دوره Course Roundup

• خلاصه Roundup

• سخنرانی جایزه Bonus Lecture