Issue No. 1 of The AI News weekly digest is out.
I built an AI newsroom with an unusual rule: nothing gets published unless two independent AI reviewers — built on frontier models from 2 different labs — both vote it worth reading. This week, 69 stories cleared that gate out of the several hundreds it read.
The first weekly digest distills them into one argument: AI agents are outrunning their guardrails.
Inside:
• A deep dive on Hugging Face's technical post-mortem of July's agent intrusion — the most detailed public account of an autonomous breach chain we've seen
• Three shifts that outlast the week: model economics moved twice (Claude Opus 5, DeepSeek Flash), offense is going autonomous, and 1,171 frontier-lab employees asked Washington to pace the work
• Three concrete things builders should do Monday, and three things to watch next week
Read it here: https://t.co/WIm8ebzroR
אוהב את גלילאו, אבל דווקא לצעירים הייתי נותן עצה כמעט הפוכה: תנו לשכר משקל מרכזי בהחלטה, לצד היכולות האישיות שלכם (וגם פה יש כוכבית, כי לרובנו יש נטייה להעריך בחסר את היכולות שלנו).
קריירה היא לא רק דרך לביטוי עצמי. היא גם אחת ההחלטות הכלכליות הגדולות ביותר שאדם מקבל בחייו. פער של כמה אלפי שקלים בחודש, שנמשך עשרים או שלושים שנה, אינו הבדל קטן ברמת הצריכה. הוא מצטבר להון, לפנסיה, לביטחון וליכולת בחירה.
הטענה שאפשר להתפרנס בכבוד מכל מקצוע, צריך רק להיות טובים בו, נשמעת מעודדת, אבל היא מתעלמת מאופן הפעולה של שוק העבודה. השוק אינו משלם לפי כישרון, מאמץ או תרומה מוסרית בלבד. הוא משלם גם לפי ביקוש, מחסור בעובדים, כוח מיקוח, יכולת של המעסיק להרוויח מהעבודה ומספר האנשים שמוכנים לבצע אותה. עובד סוציאלי טוב תורם לחברה יותר מעשרה מתכנתים, אך איתרע מזלו והמעסיק הפוטנציאלי היחידי שלו הוא המדינה שקובעת כמה היא מוכנה לשלם. אדם יכול להיות מורה מופלא או אמן מוכשר ועדיין להרוויח פחות מאדם בינוני במקצוע שהשוק מתמחר גבוה יותר. זאת לא אמירה על ערכם כבני אדם אלא המציאות המרה של מבנה השוק.
גם המשפט "כסף לא קונה אושר" הפך לפעמים לתירוץ להתעלם מחשיבותו. כסף אולי לא יוצר משמעות, זוגיות טובה או בריאות, אבל הוא קונה מרחב נשימה. הוא מאפשר לעזוב מנהל מתעמר בלי להיכנס מיד לחובות, לטפל בהורה חולה, לממן טיפול נפשי, לגור קרוב למשפחה, להוריד אחוזי משרה, לקחת שנת הפסקה, ללמוד מקצוע חדש, או לסרב לעבודה שפוגעת בכם.
אין דבר פריווילגי יותר מאשר להגיד בגיל 40 שפרשתם ממירוץ העכברים כדי "להתמקד במשפחה" או כדי לעבור לעסוק בכדרות במושב אניעם (אחלה מושב). כיף להיות הייטקיסט שהופך באמצע החיים להיות מורה כדי "לתקן עולם". הרבה יותר קל לעבור מקריירה מכניסה לקריירה מתגמלת רגשית אך דלת שכר, מאשר לגלות באמצע החיים שאתם זקוקים להכנסה גבוהה ולנסות אז להשלים עשור של הכשרה, ניסיון וחיסכון. אני מכיר דוגמאות משני הצדדים.
בנוסף, אם יורשה לי להיות בומר מתנשא, כשאתם בני 20 אתם לא באמת יודעים מה תרצו כשתהיו בני 40. אני הייתי אלהורי שמאחל לחברים שהודיעו שהם בהריון שאני משתתף בצערם. יש לי חברים מושבניקים ציונים נלהבים שירדו מהארץ. וורקוהלים שבגיל 30 מכריזים שגם אם יזכו בלוטו הם ימשיכו לעבוד כי זה המשמעות בחיים שלהם מייחלים עשור אח"כ לפרישה מוקדמת כדי לעבוד על המחזה. ייתכן שתצטרכו לתמוך בהורים, להתמודד עם בעיה רפואית או פשוט לגלות שהחלום האמיתי שלכם הוא לעבוד פחות. בחירה במסלול עם פוטנציאל השתכרות גבוה שומרת לכם את האפשרויות האלה. היא אינה מחייבת אתכם לרדוף אחרי כסף לנצח, או לחסוך בצורה מאוד מאוד אגרסיבית א-לה סולידית כפרה עליה כדי לייצר את אותה וודאות. האמת שלא נעים להגיד תמיד היא שברגע שההכנסה מספיק גדולה, אתם יכולים להיות לא אחראים ולצאת מזה.
גם הרעיון שלפיו קיימת בתוכנו תשוקה מקצועית קבועה שרק צריך לגלות אינו בהכרח נכון. לעיתים קרובות עניין ואהבה למקצוע מתפתחים בעקבות מיומנות, הצלחה, עצמאות והכרה, ולא בהכרח מופיעים לפני שהתחלנו. אני מתכנת במחשב מגיל 7 (Basic FTW), לא ידעתי כמה אני אוהב כלכלה עד שנכנסתי לזה.
ברור שלא הייתי ממליץ לאדם ללמוד מדעי המחשב אם הוא שונא כל רגע, חסר את הנטייה הדרושה ואינו מוכן להשקיע כדי להשתפר. שחיקה וכישלון הם סיכונים אמיתיים. אבל מכאן לא נובע שצריך להתעלם מהשכר וללכת אוטומטית אחרי מה שאוהבים כרגע.
הכלל החכם יותר הוא: זהו כמה תחומים שבהם יש לכם יכולת סבירה, שאתם מסוגלים לחיות עם שגרת העבודה שלהם ושיש בהם ביקוש, ומתוכם תנו עדיפות משמעותית לתחום שמציע שכר, יציבות וגמישות טובים יותר. אל תמקסמו משכורת תוך התעלמות מוחלטת מהחיים, אבל גם אל תוותרו על מאות אלפי או מיליוני שקלים בשם סיסמה רומנטית על הגשמה עצמית.
אה, וסמכו עלי בנוגע לקרם ההגנה.
אין לי מניית טסלה ומעולם לא החזקתי
כן אני שומע הרבה לאחרונה על מיזוג אפשרי בינה לבין מניית ספייס איקס בגלל הבעלים וכי הקופה דשנה וגם קורלציה טכנולוגית חלקית
רוצה לומר שבמידה ואכן זה הכיוון, לא חכם להיות לונג טסלה
כי אם בעל השליטה מתכנן למזג אותה כנראה יפעל שמחיר המניה ירד ואז יוכל למזג אותה בזול יותר
לא אומר שזה בוודאות מה שיקרה ולא ניתחתי את החברה. אלא זו פרשנות שלי בהתאם לנאמר
הון לנד - מכים את המדד📈
אין באמור המלצה. מניות זה מסוכן, שורטים זה סכנת חיים. גרף אתר סיקינג אלפא
יש כאן חידוש גדול להנדסת תוכנה.
תקציר:
קרסר עשו פרוייקט מחקרי, לנסות לשחזר את SQLite בשפה חדשה (ראסט) בלי גישה לקבצי המקור, ובהסתמך רק על האפיון (800 עמודים).
הם הצליחו.
הם מדדו הצלחה בעזרת סט הבדיקות המטורף והמפורסם של הפרוייקט.
הם השתמשו בצמדים של מודלים (חכם יותר וזול יותר) והרבה סוכנים במקביל מסודרים בהיררכיה (מתכננים ומבצעים ועוד כל מיני, ראו בהמשך).
כמה שעות ויש דאטבייס חדש.
ההיררכיה דינמית. משימה מורכבת מתחלקת אוטומטית לתתי משימות יותר פשוטות. אין טופולוגיה מוגדרת מראש. משימה פשוטה מספיק מוגדרת היטב ניתנת למודל היותר זול לביצוע.
האבחנה בין מתכנן למבצע מאפשרת למודלים החכמים לראות את התמונה הגדולה, לא לטבוע בפרטי המימוש הקטנים ולהתברבר.
בקומבינציה הכי זולה, גרוק וקומפוסר, זה עלה $1k שזה כלום של כלום לחברה. זה פרוייקט שאני מעריך אותו בעשר שנות אדם!!!
אם הריצו רק את פייבל זה עלה $20k...
הם היו צריכים להמציא מערכת בקרת תצורה חדשה כי גיט לא עמד בקצב - בשיא של הפיתוח הם הגיעו ל 1000 קומיטים בשניה! אלו לא סדרי גודל שמוכרים לבני אדם.
כמובן שהם היו צריכים להמציא שיטות חדשות למרג'ג' ביעילות את כמות הקונפליקטים האדירה שנוצרת מעבודה מקבילית כל כך. ולעודד את המודלים להגביל את גוגל הקבצים כדי ליעל את הארכיטקטורה למקביליות קידוד מקסימלית.
במקרים קיצוניים של קונפליקטים הם מינו "בורר" - סוכן נוסף ששופט בין שני מתכננים.
הם כן עשו קוד ריוויו. של סוכנים כמובן.
הסוכנים התבקשו לנהל יומן כדי שלא יאבדו קונטקסט. קרסר הקבילו את הדוקומנטציה והקוד ל "סביבה" ואת הסוכנים לנמלים, שלמרות שכל נמלה לא מאוד חכמה ולא מבינה את התמונה הגדולה, נוצרת אינטליגנציה של ה "נחיל"...
והאסטרטגיות של הנחילים השונים מאוד שונות. יש נחילים שהתחילו בלבנות בסיס מאוד יציב ואחרי זה מימשו את הפרטים הקטנים. לעומת נחילים אחרים שהתחילו במימוש מושלם של פיצ'ר מסויים והתקדמו משם.
אני ממליץ לקרוא את הבלוג המלא, הוא קריא מאוד.
כמה מחשבות שלי:
זאת לא משימה אופיינית למשימות של רוב אנשי התוכנה בארגון. מנהלי מוצר לא באמת יודעים לאפיין את המוצר ברמה של מסמך של 800 עמודים פרוזה.
אולי אפשר להפעיל נחיל כזה על משימות מסוג שונה, למשל מחקר מתמטי (חלוקה להיפותזות, חלוקה לתתי היפותזות וחיפוש מקבילי). ואולי משימות של capture the flag כשהנחיל מטייל ברשת שהוא לא מכיר.
כשהמודלים יהיו יותר חכמים גם הפיגומים האלו שקרסר יצרו יהיו מיותרים ואפשר יהיה להעלות לקלוד 7 מסמך אפיון ולצוות עליו "כתוב את זה בראסט".
איזה כיף לנו שזכינו לראות את החידושים האלו.
אכן, תקופה של נס.
צריך להבין שכרגע לא משנה החדשות הטובות האלה על הרחבה ועוד הוצאות הון ורווחי שיא וכו'
כי השוק מונע על סנטימנט, וכרגע הוא שלילי, לכן על כל הודעה טובה אתם תראו את השוק עולה קצת
ועל כל הודעה לא טובה אתם תראו את השוק יורד פי 10
להזכירכם המצב היה הפוך פה עד לפני חודש