امروز وسط کارها یه مقاله خوندم که یک جمله جالب داشت: "همه فرصتهای پیشروی شما خارج از منطقه آسایشتون هست، به زندگی کردن خارج از منطقه آسایش عادت کنید."
یلدا آمد، شبِ بلندِ عشق و خاطره،
در آغوشِ خانواده، زمستان را بهار میکنیم،
تا سحرِ امید، شمعِ دوستی بتابد.
بعد از یلدا قراره بیشتر درباره خدمات و سرویس های بوم رنگ باهم صحبت کنیم.
بات تلگرام بوم رنگ 👇
https://t.co/YL3wNnq8R7
Implementing vector search in a distributed database brings unique challenges. @ScyllaDB's Pawel Pery will cover the trade-offs from their design choices and how they impacted latency and throughput. Save your spot at this #P99CONF session > https://t.co/VjGUXoSJzq
#ScyllaDB
یک بلاگ فوق العاده راجع به اینکه دیپلوی کردن AI Agent ها توی محیط پروداکشن خیلی فرق داره با درست کردن یک دمو!
ساخت یه حلقهی ساده برای ایجنتهای مبتنی بر مدلهای زبانی (LLM agents) خیلی آسونه. شاید با کمتر از ۲۰ خط کد! ولی این سادگی در واقع مشکلات پشت پردهٔ اجرای واقعی در محیط تولید (production) رو میپوشونه.
من خلاصه مقاله را میذارم ولی باید کامل خود مقاله بخونید.
- فاصلهی پنهان بین دمو و اجرا در عمل
۱. دمو مساوی نیست با محصول واقعی: شاید توی دمو همهچی خوب پیش بره، ولی توی محیط واقعی اتفاقاتی مثل:
-از کنترل خارج شدن ایجنتها
- نشت اطلاعات توی context
- گیر کردن توی حلقههای بیپایان
- یا خراب شدن زنجیره ابزارها خیلی رایجه.
- همچنین، تصمیمگیریهای معماری مثل مدیریت context، احراز هویت ابزارها یا ذخیرهسازی state، اگر از اول درست انتخاب نشن، بعداً تغییر دادنشون کلی دردسر داره.
۲. دنیای کنفرانسها با واقعیت فرق داره: شرکتهای بزرگ ممکنه از زیرساختهای خاص خودشون برای اجرای چندایجنت بهصورت موازی استفاده میکنن. ولی اکثر تیمها کار رو سادهتر میگیرن:
- با Docker و GitHub Actions
- یا اجرای ایجنتها روی AWS Lambda فقط برای صرفهجویی ماهانه ۱۰ دلار!
۳. کی اوضاع بهم میریزه؟
وقتی لازم باشه ایجنتهاتون حافظه داشته باشن، بتونن بعد از قطع شدن ادامه بدن، یا با context طولانی کار کنن، همه چی پیچیدهتر میشه. بعضی تیمها تجربهشون رو اینطوری به اشتراک گذاشتن:
- ذخیرهی state توی دیتابیس (مثلاً PostgreSQL) برای بررسی و بازیابی
- استفاده از پردازش غیرهمزمان مثل job queue و webhook
- حذف فریمورکهای سنگین مثل LangChain و استفاده از FastAPI و کلاینت ساده OpenAI
- چیها واقعاً مهمن؟
- زیرساخت موجود: همون جایی deploy کنید که تیمتون بلده (K8s، AWS Lambda، Docker و …)
- سرعت توسعه: گاهی اینکه زود به نتیجه برسید مهمتر از طراحیهای پیچیدهست
- هزینهها: حتی صرفهجوییهای کوچیک هم مهمه، مخصوصاً برای استارتاپها
- نیازهای سازمانی برای ایجنتها
- تناقض پلتفرم: شما دنبال قدرت یه پلتفرم کامل هستید (احراز هویت، حافظه، ارزیابی)، ولی در عین حال نمیخواید به یه vendor خاص وابسته بشید. استانداردهایی مثل MCP دارن کمک میکنن تا ابزارها باهم سازگار بشن.
- قابلیت اطمینان و مشاهدهپذیری: ایجنتهاتون باید بعد از crash شدن بتونن ادامه بدن. باید ردگیری کامل، حافظه پایدار، و توانایی بررسی لاگ داشته باشید. Redis برای سرعت، PostgreSQL برای ماندگاری.
- مقیاسپذیری و انعطاف: وقتی کار جدی میشه، باید ایجنتها بتونن از صفر تا هزاران اجرا در لحظه مقیاس پیدا کنن. اگه ایجنتهاتون کدنویسی انجام میدن، احتمالاً نیاز به sandbox برای امنیت و ایزوله کردن دارن.
- یکپارچهسازی و استانداردها: MCP داره نشون میده که همه دنبال یه راهحل استاندارد برای اجرای ایجنتها روی پلتفرمهای مختلف هستن.
- نتیجه اخلاقی:
- ساده شروع کنید، نیازهای واقعیتون رو تخمین بزنید
- اول با deploy ساده مثل Docker یا Lambda برید جلو
- زود تست کنید، چون مشکلات واقعی فقط توی دنیای واقعی مشخص میشن
- کمکم پیچیدگی اضافه کنید. هر چیزی رو وقتی لازمه پیادهسازی کنید.
حتما کامل بخونید اگه ایجنت تو پرداکشن دیپلوی میکنید!
Link: https://t.co/gGeafAytON
@mo7596 در اکثر مواقع مشکل فقط communication نیست. در کنارش کار کردن روی انتخاب و پخته کردن فیچرهاو ... است.
تو تیم های کوچیک موافقم ولی بقیه موارد خیر
من این قضیه LinkedList خیلی رفته رو مخم 🤣 اینجا میخوام یه مثال بزنم که چرا لازمه بدونیم چیه و چطوری کار میکنه!
#رشتو
این روزا بحث AI خیلی داغه و همه میخوان یه چیزی باهاش بسازن. اگه بخواید این کار رو بکنید احتمالا در استفاده از Vector database ها ناگزیر هستید.
۱/