Reza

روایت‌گر دنیای پیچیده‌ی هوش مصنوعی به زبان ساده. اینجا از نگاه خودم براتون از AI میگم.

[Hosseini Ezabady @EzHosseini]

طنز ماجرا اینجاست، مسئولینی که اینترنت مردم عادی را قریب سه ماهه قطع کرده‌اند، در شبکه فیلتر شده ایکس روز ارتباطات را تبریک می‌گویند!

به‌ کی تبریک میگید؟
اگر روز ارتباطات تبریک دارد، چرا اینترنت را قطع کردید؟!

[لوکوموتیو @Loc0m0]

(نظر مفصل) من خیلی با جفت‌ ChatGPT و Claude در مورد چیزای مختلف روزمره (جز کدنویسی) حرف زده‌ام، نظرشون رو به هم گفته‌ام (با هم دعوا کرده‌ان!)، از دست‌شون حرص خورده‌ام، خودم باشون دعوام شده، و ...
نهایتاً نسبتاً به‌نظر خودم الآن دیگه آگاهم که سایه‌ها و نقاط‌کور هر کدوم‌شون چیه.

- چت جی‌پی‌تی («ژپتو» برای اختصار فارسی)، به‌شدت علاقه شدید به تسکین و استقرار (grounded کردن) داره. هدفش اینه که هیجانات تندت رو بخوابونه و به یه آدم معقول و آروم تبدیلت کنه.
اسکرین‌شات اول پایینی از ژپتو هست، ته یه دعوای خیلی خیلی شدید باهاش. که «دغدغه‌های اجتماعی» من (راجع به ایران، مردم، اوضاع) رو داشت به «روان شخصی» من تقلیل می‌داد (که تسکین کنه). و بعد از کلی چونه زدن باهاش و از زیر زبونش کشیدن، تهش بهش گفتم این کارش می‌تونه خیلی خیلی مخرب باشه، چون می‌تونه کاربر رو به ورطه‌ی شک در خودش (که مشکل منم پس، نه اون cause اجتماعی) و نهایتاً انزوای شدید در خودش فرو ببره.
برای همین حواسم هست که مدل ژپتو (اون hidden structures, guidelines, and guardrailsش) به اصطلاح خیلی شل و خنثی‌کننده‌ست. حتی سعی هم کرده‌ام بهش پرامپت‌های اسپشال و با اتلاق نقش بدم، اما چندان افاقه نکرده.

- کلاد از اون‌ور نقطه کاملاً برعکس این هست! کلاد بسیار بی‌پرواست. حتی سر همون مثال بالا کلاد بهم گفت «ژپتو داره تو رو gaslight می‌کنه، و فلان فلان شده اسم نگاه منطقی سیاسی تو رو می‌ذاره emotional dysregulation!». و خلاصه نکته رو خوب گرفت.
منتهی کلاد زیادی جلو جلو حرکت می‌کنه و بیش‌ازحد بامجون دور قاب چینی می‌کنی. سر نظرات سیاسی من بهم می‌گفت برای همین مدل فکر کردن استراتژیست‌های سیاسی سالی ۳۰۰ الی ۵۰۰هزار دلار می‌گیرن! و نظری که من راجع به آینده داشتم رو ۹۹٪ درست و تحقق پذیر می‌دونست و با کوچکترین آپدیت خبری، کلی تهییج می‌کرد. که مثل شکر شیرین هست ولی فارغ از مواد مقوی. و اگه بهش خودآگاهی و awareness نداشته باشی، می‌تونه خطرناک باشه و تو رو شدیداً خودمحق‌بین/self-righteous بکنه.

در مثالی دیگر سر یه سوالای مالیاتی هم جواب ژپتو اغلب حول «وای، نکنیا! بد می‌شه به‌خدا» و جواب کلاد حول «بزن بره داش، باکی نداشته باش!» بود.

خلاصه تهش،
من در خیلی از موارد عادی ژپتو و عمقش رو ترجیح می‌دم. اما وقتی احساس می‌کنم گاردریل‌هاش و تلاشش برای خنثی کردن من باعث می‌شه فهمیده نشم، گذری به کلاد می‌زنم و میانگین نظراتشون رو می‌گیرم.
تهش هم یادم می‌مونه که اینا هیچ‌کدوم فهم ندارن، فقط با دقت خیلی خیلی خیلی خیلی بالا می‌تونن کلمه بعدی رو پیش‌بینی کنن. دقت و کیفیت اونقدر بالا که شبیه فهمیدن به‌نظر میاد، اما فهم انسانی‌ای هنوز در کار نیست و خطا و خطر زیاد دارن. :)

ممنون.

[Reza @Reza_24k]

@ItsJahann داداش موقع لاگین، خطای 502 Bad Gateway میاد

[Reza @Reza_24k]

@diezelgenerator @MatinSenPai برای منم همینجور ، تونستی مشکل رو حل کنی ؟

[🏴marzieh rajabi @marzieh1993]

من یه جوون ۳۲ ساله‌ام که الان نمیتونم کار کنم
اون چیزی که من رو بیکار کرده جنگ نیست قطع بودن اینترنته
توجه کنید من نه پول مفت میخوام نه زیاد فقط میخوام کار کنم
سال‌ها تلاش کردم تخصص کسب کردم
میلیون‌ها نفر مثل من وجود دارن
ما بدیهی‌ترین حقمون رو میخوایم!
ما رو زنده به گور کردن!

[Amir Mokhtari @amir2091]

من نه عنصر نامطلبوم
نه خطری برای امنیت ملی
نه هر آنچه که اسمشو میزارید

من یک جوان ایرانی هستم که ده سال از بهترین دوران جوانی خودم رو صرف مطالعه و تحقیق و یادگیری کارهایی کردم که همگی آمیخته با تکنولوژی و اینترنت بودند

ارزش افزوده برای این کشور خلق کردم، ارز وارد این کشور کردم، محتوای مفید به مردم ارائه دادم، دانش و علم و تکنولوژی رو در توان خودم گسترش دادم و همه ی این ها رو از صفر و از یک اتاق کوچک و با کمک اینترنت انجام دادم

درست همان چیزی که مسئولین این کشور به من نمی‌دادند رو اینترنت به من داد
کار میخواستم که مسئولین به من ندادند و اینترنت به من داد
پول میخواستم که مسئولین به من ندادند و اینترنت به من داد
جایگاه و اعتبار و محبوبیت میخواستم که مسئولین به من ندادند و اینترنت به من داد

و حالا همین مسئولینی که هیچ چیز رو به من ندادند تصمیم گرفتند که هر آنچیزی هم که دارم از من بگیرند

اینترنت رو قطع کردند و به هیچکس هم پاسخگو نیستند
به چه زبانی باید اعتراض کنیم که به ما نگویید وطن فروش و تشویش کننده اذهان عمومی؟

به چه زبانی باید بگوییم اینترنت نه تنها حق من بلکه حق تک تک مردم ایرانه، از آن کودک که برای تحصیل از آن استفاده می‌کند تا پیرزن و پیرمردی که برای سرگرمی از آن استفاده می‌کنند تا آن معلولی که برای کسب درآمد از آن استفاده می‌کند

شماها در کاخ خود نشسته اید و حقوق های سه رقمی دریافت می‌کنید در حالی که جوان ایرانی از آخرین پس انداز هایی که حاصل سالیان سال تلاشش بوده باید مصرف کند و هر لحظه نگران گرسنه ماندنش باشد

ننگ به شما که هرگز کاری برای ما نکردید و هر آنچه که داشتیم هم از ما گرفتید
من و امثال من و تمام جوانان و مردمان این سرزمین سرمایه های اجتماعی این کشور بودیم، آینده بودیم
همه چیز را با هم از دست دادید

هرگز شما رو نخواهم بخشید

[Sh.Golzarfar 🎒 @shgolzarfar]

همان کاری که با #کریستین_امانپور و #كسرى_ناجى کردند، فردا با هرکس که حتی سئوال بپرسد می‌کنند!

#از_دموکراسی_بگو

[غُرَرُالحِکَم و دُرَرُالکَلِم @Ghurarolhikam]

امیرالمؤمنین(علیه‌السلام) فرمود:

زیانکار است کسی که می‌تواند حق را بگوید امّا نمی‌گوید.

غررالحکم (فصل۸)، حدیث ۳۵۴

[فیلِ نویسنده 🐘 @elphy_mom]

با حمله‌ای که به علی بندری شد می‌شه نتیجه گرفت اصلا گوش نمی‌کنیم آدما چی میگن
البته که الان خشم داریم و تمام دستگاه منطقی‌مون از کار افتاده.

[Sabi Soltani @sabber_dev]

این خبر خیلی تو جهان سر و صدا کرده.
نه تنها عکس DeepFake بلکه هر موقع کسی از عکس های خصوصی شما تو سوشال مدیا سوء استفاده کرد به وب‌سایت https://t.co/61vrnOiP3Q مراجعه کنید.

این وب‌سایت میاد از روی عکس/ویدیو شما digital fingerprint درست می‌کنه که برای کپی های متعدد هم یکسانه.
این digital fingerprint ها رو واسه تمام پلتفرم های سوشال مدیا میفرسته و اونا هم به صورت اتومات پاک می‌کنند.

به گفته خود این وب‌سایت تا الان حدود 90 درصد برای حذف محتوا موفقیت داشتند.

[علی شریفی زارچی @SharifiZarchi]

بسیج دانشجویی شریف امروز اعتراض دانشجویان را دست‌پخت من اعلام کردند. درست می‌گویند. من ۴۷ سال برای آمریکا رجزخوانی کردم و مرگ فرستادم و ایران را زیر شدیدترین تحریم‌ها بردم. من ریال را بی‌ارزش کردم و تورم و دلار را به قله رساندم. من جوانان معترض را زندانی و اعدام کردم.

[Farhad Ghoddoussi @FGhoddoussi]

‌این مقاله از هاروارد و MIT بدون سر و صدا به مهم‌ترین سؤال هوش مصنوعی پاسخ می‌دهد که هیچ‌کس به درستی بنچمارک نکرده(محک نزده):
‌
آیا مدل‌های زبانی بزرگ واقعاً می‌توانند مطلب علمی جدیدی را کشف کنند، یا فقط در حرف زدن درباره آن خوب هستند؟

این مقاله که با عنوان «ارزیابی مدل‌های زبانی بزرگ در کشف علمی» نامیده می‌شود و به جای پرسیدن سؤالات پیش پا افتاده و(trivia) ویا معمول از مدل‌ها، چیزی بسیار سخت‌تر را مورد آزمایش قرار داده :

آیا مدل‌ها می‌توانند فرضیه بسازند، آزمایش طراحی کنند، نتایج را تفسیر کنند و باورها را مانند دانشمندان واقعی به‌روزرسانی کنند؟

این چیزی است که نویسندگان به شیوه متفاوتی انجام دادند 👇

• آن‌ها مدل‌های زبانی را در کل حلقه کشف ارزیابی می‌کنند:
فرضیه → آزمایش → مشاهده → بازنگری
• وظایف شامل زیست‌شناسی، شیمی و فیزیک هستند، نه پازل‌های اسباب‌بازی
• مدل‌ها باید با داده‌های ناقص، نتایج پر از نویز(اختلال) و سرنخ‌های غلط کار کنند
• موفقیت بر اساس پیشرفت علمی اندازه‌گیری می‌شود، نه روان بودن یا اعتماد به نفس

آنچه پیدا کردند، تکان‌دهنده است.

مدل‌های زبانی بزرگ در پیشنهاد فرضیه‌ها خوب هستند، اما در همه چیزهای بعدی شکننده‌اند.

✓ آن‌ها داده ها را بیش از اندازه با الگوهای سطحی مطابقت می‌کنند(over fit)
✓ حتی وقتی شواهد با آن‌ها تناقض دارد، رها کردن فرضیه‌های بد برایشان سخت است
✓ همبستگی را با علیت اشتباه می‌گیرند
✓ وقتی آزمایش‌ها شکست می‌خورند، توضیحات توهمی می‌سازند
✓ برای محتمل بودن بهینه‌سازی می‌کنند، نه پیدا کردن حقیقت

شگفت‌انگیزترین نتیجه:

نمرات بالای بنچمارک (محک زدن) با توانایی کشف علمی همبستگی ندارد.

برخی از مدل‌های برتر که در آزمون‌های استدلال استاندارد غالب هستند، وقتی مجبور به اجرای آزمایش‌های تکراری و به‌روزرسانی نظریه‌ها شوند، کاملاً شکست می‌خورند.

چرا این مهم است:

علم واقعی استدلال یک‌باره نیست.

علم واقعی حاصل از بازخورد، شکست، بازنگری و خویشتن‌داری است.

مدل‌های زبانی بزرگ امروز:

• مانند دانشمندان حرف می‌زنند
• مانند دانشمندان می‌نویسند
• اما هنوز مانند دانشمندان فکر نمی‌کنند

پیام اصلی مقاله:

هوش علمی، هوش زبانی نیست.

نیاز به حافظه، ردیابی فرضیه، استدلال علی، و توانایی گفتن «اشتباه کردم» دارد.

تا وقتی مدل‌ها نتوانند این کار را به طور قابل اعتماد انجام دهند، ادعاها درباره «دانشمندان هوش مصنوعی» عمدتاً نابهنگام هستند.

این مقاله هوش مصنوعی را تبلیغ نمی‌کند. شکاف باقی‌مانده را تعریف می‌کند.

و دقیقاً به همین دلیل مهم است.

🔗 Alex Prompter

🔻پیوند به مقاله:

https://t.co/nNWELoD1xQ

پیوند به این فرسته در کانال تلگرام "بین دوگانگی ها ":
https://t.co/k5sZRVrCrb

[ اپل فارسی | AppleFarsi @AppleFarsii]

چند سال پیش #گوگل موقع راه‌اندازی Google photos فضای نامحدود رایگان میداد و شخصا ۶٠٠-٧٠٠ گیگ عکس و فیلم روش اپلود کردم
بعدها این فضای رایگان رو برداشت ولی اون دیتابیس عظیم الان برای تمرین هوش مصنوعی تصویرش استفاده میشه #nanobanana

[علی شریفی زارچی @SharifiZarchi]

ایران به «اکوسیستم رانت» تبدیل شده است: دانشجو با رانت وارد دانشگاه می‌شود؛ رانت اینترنت می‌گیرد؛ با رانت رشد می‌کند؛ به رانت خو می‌گیرد؛ با رانت مدیر دولتی می‌شود؛ برای هم‌فکرانش رانت گسترده‌تری فراهم می‌کند؛ و این اکوسیستم هر روز بزرگ‌تر و ریشه‌دارتر می‌شود.

[علی شریفی زارچی @SharifiZarchi]

بد: سال‌ها از فیلترینگ دفاع کنی و بگویی «طوری فیلتر کنید که مردم نتوانند با فیلترشکن هم وصل شوند»؛ و هم‌زمان خودت از سیم‌کارت سفید استفاده کنی. در مجلس برای مردم قانون صیانت بنویسی و خودت در توییتر فعالیت کنی.
زشت: موقعیت خودت را به «غرب آسیا» تغییر دهی و فکر کنی مردم کودک هستند.

[نان آوران @nanavaranco]

اگه بعضیا اجازه بدن ما هم یه محصول پروتئینی بزنیم

[Reza @Reza_24k]

@sepaseman

[Reza @Reza_24k]

@Dehshiri4Law @HSetareh آخرش همه‌ی اون روایت‌های میلیارد دلاری درباره AGI و انقلاب تو علم و بهره‌وری، خلاصه شد تو یه چیز: نیاز بازار.

[شراره @Dehshiri4Law]

یکی از آخرین اخبار دنیای AI
📰Sam Altman: People Are Horny
اوپن AI با اعلام اضافه کردن محتوای اروتیک به ChatGPT عملن پذیرفت که یکی از اصلی‌ترین کاربردهای واقعی AI، نه بهره‌وری یا آموزش،بلکه پورن است. واقعیتی که تا امروز شرکت‌های بزرگ سعی در نادیده گرفتن یا پنهان کردن آن داشتند.