Sagiv Malki

[Sagiv Malki @sagivmal]

דיווח מעניין (ולא מאושש) ב-CNBC: אנתרופיק, שלפי הערכות תונפק בשווי של כ-2 טריליון דולר, צפויה להצביע בתשקיף על הסנטימנט הציבורי השלילי כלפי AI כגורם סיכון עסקי.

זה מצטרף לשורה של דיווחים בזמן האחרון על התקררות היחס הציבורי ל-AI — התנגדות להקמת דאטה-סנטרים, חשש מאובדן מקומות עבודה, ולחץ רגולטורי גובר.

https://t.co/S8ffWPJVNy

[Sagiv Malki @sagivmal]

@beersehva זה לא באג, זה פיצ'ר: אם לא תדע כמה יש לך, לא תתפתה למשוך מוקדם.

[Sagiv Malki @sagivmal]

@Nadav_Eyal מבלי לדבר על פתרונות קיצוניים, לא חושב שיש למישהו במערכת הפוליטית או הביטחונית בישראל תשובה לבעיה הזאת. גם לא לך לצערי.. רש"פ לא טוב מחמאס, והסיכוי שמישהו יחזיר לשם את צה"ל לישיבת קבע הוא אפסי.
הם ימשיכו לשלוח איומים לחמאס, ואנשים ימשיכו לצייץ על כמה זה נורא, אבל כלום לא ישתנה.

[Sagiv Malki @sagivmal]

המטאפורה של החבית מניחה שטוקן = טוקן. נפט מסעודיה ונפט מוונצואלה זהים כימית — זה מה שהופך אותם לסחורה. אם טוקנים של 50 סנט היו עושים מה שטוקנים של 56 דולר עושים, כולם כבר היו משלמים 50 סנט. הם לא.
עם זאת, כנראה שהפערים יצטרכו להצטמצם לאורך זמן ונראה "קריסת מחירים" מסוימת.

[Rohan Paul @rohanpaul_ai]

AI companies are spending and earning enormous amounts of money, while many customers are still exploring how best to translate the tec into financial value creation.

---
Chamath: "Let’s say a “barrel of intelligence” is one million tokens. You can buy that barrel from OpenAI for $26. Anthropic’s latest model costs about $56. Elon Musk is selling you a barrel of intelligence for $1.

Mark Zuckerberg is about to sell it to you for $1.50. Demis Hassabis and Sundar Pichai are trying to sell it to you for $1, and the Chinese will sell it to you for $0.50.

This rationalization has to happen. We have the same basic input being offered at dramatically different prices. If you made an early bet on one of the companies selling extremely expensive barrels of intelligence, and you try to pass those costs through to customers, you may run into downstream difficulties. That has to play itself out."

----

From "CNBC Television" YouTube channel, (full video link in comment)

[Sagiv Malki @sagivmal]

@omarsar0 The uncomfortable version of this: every model leaderboard is already a harness leaderboard in disguise. We've just been pretending the ruler wasn't part of the measurement.

[Sagiv Malki @sagivmal]

@amit_segal גם שהוא (והמפלגה שלו) בעד מדינה פלסטינית זו בעיה..

[Sagiv Malki @sagivmal]

@YotYotam דור שני לעיכוב בטיסה

[Sagiv Malki @sagivmal]

@Eran_Efrat הניסיון להגדיר ניצחון או תבוסה במונחים כל כך צרים ונקודתיים כשלעצמו מעיד על המצב..

[Sagiv Malki @sagivmal]

The industry's favorite engineering shortcut: skip the boring work, prompts, validations, retries - and just throw a bigger model at the problem. This paper puts a price tag on that laziness. The cheapest models gained the most, which means the gap was never intelligence. It was effort.

[Sagiv Malki @sagivmal]

עוד עדות למהפכת ה-AI בעולם הקוד.

ב-17 באוגוסט קרסו שירותים רבים של GitHub לכמעט 8 שעות. באופן לא מפתיע, shit happens to everyone, גם ל-GitHub. מה שיותר מעניין זה מה אנחנו לומדים מזה:

1. מאז אפריל מספר הקומיטים החודשי (פאקינג) הכפיל את עצמו (!!!), מ-1.4 ל-2.9 מיליארד.

2. מה שהאריך את הקריסה זה דווקא Copilot: באג ב-VS Code הכניס מיליוני מחשבים ללולאת retry שהגבירה את התעבורה פי 10 — מ-7-9 אלף בקשות לשנייה ל-70-100 אלף.

3. GitHub כבר הוסיפה 3 מיליון ליבות מעבד ו-120 פטה-בייט של אחסון מהיר, והתקינה חומרה עד גבול החשמל הזמין בדאטה-סנטרים שלה, תוך האצת המעבר ל-Azure.

4. ההודאה אולי הכי מעניינת: זו לא רק בעיית תשתי��. ה-CTO מודה שהתהליכים התפעוליים עצמם לא עומדים בקצב השינוי.

"Scale is not our only challenge. As the pace and complexity of change increased, our existing operational practices did not keep up."

5. וכמובן שצרות באות בצרורות.. מה שהקשה על ההתאוששות היו גם התקפות scraping, בוטים שגורדים קוד מהפלטפורמה, כנראה לאימון מודלים. כלומר, מכונות כותבות קוד מצד אחד, ו"שואבות" אותו מהצד השני, כך שנוצר לחץ דו כיווני.

הקוד נכתב בקצב של מכונות. התשתית והתהליכים עדיין בנויים בקצב של בני אדם.

בכלכלה יש מונח שנקרא steady state, מצב שבו המערכת מתייצבת. מה אתם חושבים, אנחנו מתקרבים אליו או מתרחקים ממנו?

https://t.co/2fbtSbNA4C

[Sagiv Malki @sagivmal]

דיווח מאתמול בבלומברג: מחירי שרתי ה-AI של אנבידיה עומדים ��עלות ביותר מ-15%, כולל מערכות Vera Rubin ו-Grace Blackwell.

הסיבה: מחירי הזיכרון משתוללים.

מקורות אנונימיים בלבד, רויטרס לא אימתה, אנבידיה לא מגיבה.

מה דעתכם — דליפה מכוונת לקראת הדוחות בסוף החודש, או שמשבר הזיכרון אמיתי והולך לייקר לנו את כל ה-AI?

קישור לכתבה:
https://t.co/IQH3SOnkbt

[Sagiv Malki @sagivmal]

לפני מספר ימים, דיווח של אנבידיה לרשות ניירות הערך האמריקאית חשף העמדת ערבות של 105 מיליארד דולר לטובת OpenAI.

לא השקעה — ערבות.

ערבות לשכירות של OpenAI בדאטה-סנטר באוהיו ל-20 שנה. אם OpenAI משלמת — אנבידיה לא מוציאה דולר (הכסף היחיד שיוצא בפועל: 1.5 מיליארד דולר של השקעה ב-SB Energy, שבונה את האתר).

והמשפט הכי מעניין: הערבות פוקעת ברגע ש-OpenAI תשיג דירוג אשראי מספק (יש עמימות סביב מה זה "מספק" בדיוק).

קולטים? חברה ששווייה מוערך בחצי טריליון — ושוק האשראי עדיין דורש לה ערב.