אם רק עכשיו התעוררתם אז יש סיפור טכנולוגי שמתפתח במהירות:
אנת'רופיק הורידה מהאוויר את המודלים האחרונים שלה, בהוראת פיקוח הייצוא של ארה"ב, ומסוגיות של בטחון לאומי (!). במילים אחרות - AI זה נשק.
"Anthropic said it disabled access to its Fable 5 and Mythos 5 models to comply with an export control directive from the U.S. government that cited "national security authorities."
קשור או לא קשור, מוקדם יותר האקר הוכיח איך הוא מצליח To Jailbreak את מודל Fable 5 החדש כדי לייצר קוד זדוני.
זה לא אמור היה להיות אפשרי. המודל עבר 1000 שעות של PT. מנגון הבטיחות שנבנה עבורו קבע שאם יש שאלה שנראית מזיקה בנושאים כמו סייבר, ביולוגיה או כימיה - הלקוח "יוגלש" בלי שירגיש למודל חלש יותר.
ההאקר השתממש בכל מיני טכניקות כמו חלון קונטקס גדול, החלפת אותיות לועזיות באותיות קרליות והסתרת מידע רגיש בצורה נרטיבית - כאילו זו יצירה ספרותית.
https://t.co/NFyHxeMWxL
@netadror לא יודע לגבי 10 שנים. זה תלוי בהרבה דברים.
המסלול שאני עשיתי אחרי שירות קרבי, היה 4 שנים תואר + שנתיים QA, לפני שהמשכתי לתפקיד פיתוח. מסלול נפוץ לפני אי-אלו שנים...
לא בטוח שזה מה שהייתי ממליץ כיום.
לא בטוח איך מהפכת ה-AI משפיעה לכאן או לכאן.