LLM های منبع باز: هوش مصنوعی بدون سانسور و ایمن به صورت محلی با RAG

سرفصل ها و درس ها

مقدمه و بررسی اجمالی Introduction and Overview

• خوش آمدید Welcome

• بررسی اجمالی دوره Course Overview

• هدف من و چند نکته My Goal and Some Tips

• توضیح لینک ها Explanation of the Links

• لینک های مهم Important Links

چرا LLM های منبع باز؟ تفاوت ها، مزایا و معایب Why Open-Source LLMs? Differences, Advantages, and Disadvantages

• این بخش در مورد چیست؟ What is this Section about?

• LLM ها مانند ChatGPT، Llama، Mistral و غیره چیست؟ What are LLMs like ChatGPT, Llama, Mistral, etc.

• کدام LLM ها در دسترس هستند و چه چیزی باید استفاده کنم: پیدا کردن "بهترین LLM" Which LLMs are available and what should I use: Finding "The Best LLMs"

• معایب LLM های منبع بسته مانند ChatGPT، Gemini و Claude Disadvantages of Closed-Source LLMs like ChatGPT, Gemini, and Claude

• مزایا و معایب LLM های منبع باز مانند Llama3، Mistral و موارد دیگر Advantages and Disadvantages of Open-Source LLMs like Llama3, Mistral & more

• خلاصه: این را فراموش نکنید! Recap: Don't Forget This!

ساده ترین راه برای اجرای LLM های منبع باز محلی و آنچه شما نیاز دارید The Easiest Way to Run Open-Source LLMs Locally & What You Need

• الزامات استفاده از LLM های منبع باز محلی: GPU، CPU و Quantization Requirements for Using Open-Source LLMs Locally: GPU, CPU & Quantization

• نصب LM Studio و روش های جایگزین برای اجرای LLM Installing LM Studio and Alternative Methods for Running LLMs

• استفاده از مدل‌های منبع باز در LM Studio: Llama 3، Mistral، Phi-3 و موارد دیگر Using Open-Source Models in LM Studio: Llama 3, Mistral, Phi-3 & more

• 4 LLM سانسور شده در مقابل بدون سانسور: Llama3 با Dolphin Finetuning 4 Censored vs. Uncensored LLMs: Llama3 with Dolphin Finetuning

• موارد استفاده از LLM های کلاسیک مانند Phi-3 Llama و موارد دیگر The Use Cases of classic LLMs like Phi-3 Llama and more

• Vision (تشخیص تصویر) با LLMهای منبع باز: Llama3، Llava و Phi3 Vision Vision (Image Recognition) with Open-Source LLMs: Llama3, Llava & Phi3 Vision

• چند نمونه از تشخیص تصویر (Vision) Some Examples of Image Recognition (Vision)

• جزئیات بیشتر در مورد سخت افزار: GPU Offload، CPU، RAM و VRAM More Details on Hardware: GPU Offload, CPU, RAM, and VRAM

• خلاصه ای از آنچه یاد گرفتید و چشم انداز سرورهای Lokal و مهندسی سریع Summary of What You Learned & an Outlook to Lokal Servers & Prompt Engineering

مهندسی سریع برای LLMهای منبع باز و استفاده از آنها در فضای ابری Prompt Engineering for Open-Source LLMs and Their Use in the Cloud

• HuggingChat: رابطی برای استفاده از LLM های منبع باز HuggingChat: An Interface for Using Open-Source LLMs

• درخواست های سیستم: بخش مهمی از مهندسی سریع System Prompts: An Important Part of Prompt Engineering

• چرا مهندسی سریع مهم است؟ [یک مثال] Why is Prompt Engineering Important? [A example]

• ارتباط معنایی: مهم ترین مفهومی که باید درک کنید Semantic Association: The most Importnant Concept you need to understand

• درخواست ساختاریافته: درخواست‌های من را کپی کنید The structured Prompt: Copy my Prompts

• دستور العمل و چند ترفند جالب Instruction Prompting and some Cool Tricks

• درخواست نقش برای LLM Role Prompting for LLMs

• درخواست شات: اعلان‌های صفر شات، یک شات و چند شات Shot Prompting: Zero-Shot, One-Shot & Few-Shot Prompts

• مهندسی سریع معکوس و ترفند "OK". Reverse Prompt Engineering and the "OK" Trick

• تحریک زنجیره ای از فکر: بیایید قدم به قدم فکر کنیم Chain of Thought Prompting: Let`s think Step by Step

• درخواست درخت افکار (ToT) در LLM Tree of Thoughts (ToT) Prompting in LLMs

• ترکیبی از مفاهیم انگیزشی The Combination of Prompting Concepts

• ایجاد دستیاران خود در HuggingChat Creating Your Own Assistants in HuggingChat

• Groq: استفاده از LLM های منبع باز با تراشه LPU سریع به جای GPU Groq: Using Open-Source LLMs with a Fast LPU Chip Instead of a GPU

• خلاصه: آنچه باید به خاطر بسپارید Recap: What You Should Remember

فراخوانی تابع، RAG، و پایگاه داده برداری با LLM های منبع باز Function Calling, RAG, and Vector Databases with Open-Source LLMs

• در این بخش چه مواردی پوشش داده خواهد شد؟ What Will Be Covered in This Section?

• فراخوانی تابع در LLM چیست؟ What is Function Calling in LLMs

• پایگاه‌های داده برداری، مدل‌های جاسازی و نسل افزوده بازیابی (RAG) Vector Databases, Embedding Models & Retrieval-Augmented Generation (RAG)

• نصب Anything LLM و راه اندازی یک سرور محلی برای خط لوله RAG Installing Anything LLM and Setting Up a Local Server for a RAG Pipeline

• ربات محلی RAG Chatbot با Anything LLM & LM Studio Local RAG Chatbot with Anything LLM & LM Studio

• تماس تابع با Llama 3 & Anything LLM (جستجو در اینترنت) Function Calling with Llama 3 & Anything LLM (Searching the Internet)

• فراخوانی تابع، خلاصه کردن داده ها، ذخیره و ایجاد نمودارها با پایتون Function Calling, Summarizing Data, Storing & Creating Charts with Python

• سایر ویژگی های Anything LLM: TTS و API های خارجی Other Features of Anything LLM: TTS and External APIs

• دانلود Olama & Llama 3، ایجاد و پیوند یک سرور محلی Downloading Ollama & Llama 3, Creating & Linking a Local Server

• خلاصه این را فراموش نکنید! Recap Don't Forget This!

بهینه سازی برنامه های RAG: نکاتی برای آماده سازی داده ها Optimizing RAG Apps: Tips for Data Preparation

• آنچه در این بخش پوشش داده خواهد شد: Better RAG، Data & Chunking What Will Be Covered in This Section: Better RAG, Data & Chunking

• نکاتی برای برنامه های RAG بهتر: Firecrawl برای داده های شما از وب سایت ها Tips for Better RAG Apps: Firecrawl for Your Data from Websites

• RAG کارآمدتر با LlamaIndex و LlamaParse: آماده‌سازی داده‌ها برای فایل‌های PDF و موارد دیگر More Efficient RAG with LlamaIndex & LlamaParse: Data Preparation for PDFs &more

• به روز رسانی LlamaIndex: LlamaParse آسان شد! LlamaIndex Update: LlamaParse made easy!

• اندازه تکه و همپوشانی تکه برای یک برنامه RAG بهتر Chunk Size and Chunk Overlap for a Better RAG Application

• خلاصه: آنچه در این بخش یاد گرفتید Recap: What You Learned in This Section

عوامل هوش مصنوعی محلی با LLMهای منبع باز Local AI Agents with Open-Source LLMs

• آنچه در این بخش در مورد عوامل هوش مصنوعی پوشش داده خواهد شد What Will Be Covered in This Section on AI Agents

• عوامل هوش مصنوعی: تعریف و ابزارهای موجود برای ایجاد عامل‌های AI منبع باز AI Agents: Definition & Available Tools for Creating Opensource AI-Agents

• ما از Langchain با Flowise و Locally با Node.js استفاده می کنیم We use Langchain with Flowise, Locally with Node.js

• نصب Flowise با Node.js (محیط زمان اجرا جاوا اسکریپت) Installing Flowise with Node.js (JavaScript Runtime Environment)

• رابط Flowise برای AI-Agents و RAG ChatBots The Flowise Interface for AI-Agents and RAG ChatBots

• چت بات محلی RAG با Flowise، LLama3 و Ollama: یک برنامه محلی Langchain Local RAG Chatbot with Flowise, LLama3 & Ollama: A Local Langchain App

• اولین عامل هوش مصنوعی ما: کد پایتون و اسناد با Superwicer و 2 Worker Our First AI Agent: Python Code & Documentation with Superwicer and 2 Worker

• عوامل هوش مصنوعی با قابلیت تماس، اینترنت و سه کارشناس برای رسانه های اجتماعی AI Agents with Function Calling, Internet and Three Experts for Social Media

• کدام عامل هوش مصنوعی را باید با رندر میزبانی و میزبانی خارجی بسازید Which AI Agent Should You Build & External Hosting with Render

• چت بات با مدل‌های منبع باز از Huggingface و Embeddings در HTML (Mixtral) Chatbot with Open-Source Models from Huggingface & Embeddings in HTML (Mixtral)

• استنتاج بسیار سریع با Groq API Insanely fast inference with the Groq API

• آنچه را که باید به خاطر بسپارید خلاصه کنید Recap What You Should Remember

تنظیم دقیق، اجاره GPU، TTS منبع باز، یافتن بهترین LLM و نکات بیشتر Finetuning, Renting GPUs, Open-Source TTS, Finding the BEST LLM & More Tips

• این بخش درباره چیست؟ What Is This Section About?

• تبدیل متن به گفتار (TTS) با Google Colab Text-to-Speech (TTS) with Google Colab

• Moshi Talk با یک هوش مصنوعی منبع باز Moshi Talk to an Open-Source AI

• تنظیم دقیق یک مدل منبع باز با Huggingface یا Google Colab Finetuning an Open-Source Model with Huggingface or Google Colab

• تنظیم دقیق LLMهای منبع باز با Google Colab، Alpaca + Llama-3 8b از Unsloth Finetuning Open-Source LLMs with Google Colab, Alpaca + Llama-3 8b from Unsloth

• بهترین LLM منبع باز که باید استفاده کنم چیست؟ What is the Best Open-Source LLM I Should Use?

• اطلاعات Llama 3.1 و مدل هایی که باید استفاده کنید Llama 3.1 Infos and What Models should you use

• Grok از xAI Grok from xAI

• اگر رایانه محلی شما کافی نیست، یک GPU با Runpod یا Massed Compute اجاره کنید Renting a GPU with Runpod or Massed Compute if Your Local PC Isn't Enough

• خلاصه: آنچه باید به خاطر بسپارید! Recap: What You Should Remember!

حریم خصوصی داده ها، امنیت، و بعد از آن چه می شود؟ Data Privacy, Security, and What Comes Next?

• بخش آخر: این درباره چیست؟ THE LAST SECTION: What is This About?

• Jailbreaks: خطرات امنیتی ناشی از حملات به LLM با درخواست Jailbreaks: Security Risks from Attacks on LLMs with Prompts

• تزریق سریع: مشکل امنیتی LLM Prompt Injections: Security Problem of LLMs

• مسمومیت داده ها و حملات درب پشتی Data Poisoning and Backdoor Attacks

• حریم خصوصی و امنیت داده ها: آیا داده های شما در معرض خطر است؟ Data Privacy and Security: Is Your Data at Risk?

• استفاده تجاری و فروش محتوای تولید شده توسط هوش مصنوعی Commercial Use and Selling of AI-Generated Content

• با تشکر از من و چه خبر؟ My Thanks and What's Next?

• پاداش Bonus