نکته: این دوره شامل استفاده از هوش مصنوعی است.
این دوره نحوه ساخت ایجنتهای هوش مصنوعی بر پایه مدل Hermes شرکت NousResearch را پوشش میدهد؛ یک مدل با وزنهای باز که به جای فراخوانی APIهای ابری، آن را شخصاً اجرا میکنید. همه چیز به صورت محلی از طریق Ollama روی مدل Hermes 3 8B اجرا میشود، بنابراین دوره هیچ هزینه API ندارد و به صورت آفلاین کار میکند. کدها به زبان پایتون ساده با فراخوانیهای استاندارد requests و ollama هستند (نه یک فریمورک پیچیده)، به این معنی که شما مستقیماً با نقطه انتهایی چت مدل کار میکنید و ChatML خام را که مدل دریافت میکند، میبینید.
شما با محیط اجرا شروع میکنید: نصب Ollama، دریافت Hermes و فراخوانی هر دو مسیر /api/chat بومی و /v1 سازگار با OpenAI. شما مستقیماً ChatML، شامل توکنهای <|im_start|> و <|im_end|>، نوبتهای نقشها و نحوه هدایت تولید توسط System Prompt را بررسی خواهید کرد. این دوره به جای نوشتن دستی توکنها، از apply_chat_template استفاده میکند و تفاوت این دو را توضیح میدهد.
فراخوانی توابع (Function calling) هسته اصلی این دوره است. شما با فرمت بومی ابزارهای Hermes، بلوکهای
برای خروجیهای ساختاریافته، طرحهایی را با Pydantic تعریف میکنید، طرح JSON را به سیستم پرامپت میفرستید، پاسخ را تجزیه کرده و خطاهای اعتبارسنجی را برای اصلاح مجدد بازمیگردانید. برای ایجنتها، حلقه ReAct را مستقیماً پیادهسازی میکنید (استدلال، اقدام، مشاهده) و تعداد تکرارها را محدود میکنید و یک نسخه چند-ابزاری با ماشینحساب، خواننده فایل و ابزار fetch میسازید. ماژول RAG یک خط لوله بازیابی محلی با مدل Embedding، جستجوی شباهت کسینوسی روی قطعات اسناد شما و پاسخی مستند که منبع خود را ذکر میکند، ایجاد میکند.
بخش چند-ایجنت، یک حلقه نویسنده-منتقد و یک برنامهریزی را میسازد که یک سوال را به زیر-سوالات تقسیم میکند، هر کدام را به یک محقق میفرستد که اطلاعات را بازیابی و پاسخ میدهد و یافتهها را به نویسنده منتقل میکند. شما محدودیتهای حفاظتی را اضافه میکنید که ترکیبی از Regex و مدل برای حذف ایمیلها، شماره تلفنها و نامهاست، یک ارزیاب LLM-as-judge با طرح نمرهدهی و یک سیستم safe_json برای تلاش مجدد در صورت عدم تجزیه پاسخ ایجاد میکنید.
بخش نهایی مربوط به فاینتیونینگ (Fine-tuning) است. شما LoRA و QLoRA و دلیل گنجاندن آداپتورهای 4-بیتی در حافظه مک را بررسی میکنید، یک مجموعه آموزشی کوچک ChatML تولید میکنید، یک آداپتور را آموزش میدهید و تعداد پارامترهای قابل آموزش و منحنی Loss را در هر Epoch بررسی میکنید. سپس نتیجه را صادر کرده و دوباره در Ollama بارگذاری میکنید تا مدلی که آموزش دادهاید را اجرا کنید. دوره با ایجنت Hermes میزبانیشده، فایلهای حافظه و مهارتهای Markdown، زمانبند Cron و اتصال به تلگرام به پایان میرسد.
این دوره برای افرادی است که میخواهند بدانند ایجنتها در سطح واقعی پرامپت و تجزیه فراخوانی ابزارها چگونه کار میکنند، نه از طریق انتزاعهای یک فریمورک. در پایان، درک کاملی از نحوه عملکرد واقعی ایجنتهای مدرن هوش مصنوعی در پشت صحنه خواهید داشت.
Meadowwave AI
آکادمی هوش مصنوعی
نمایش نظرات