*היום גיליתי*: גוגל הוסיפו אפשרות בג'ימייל לראות את כל הערוצים שאנחנו מנויים אליהם ובלחיצת כפתור קצרה אפשר לעשות Unsubscribe. הסרתי מנוי מ80% ממה שהופיע. משנה חיים
לפני 5 שנים חזרתי לישראל אחרי כמעט 15 שנים בארה״ב. חרשתי אותה לאורכה ולרוחבה, מערי החוף ועד חגורת התנ״ך, מדינות כחולות ואדומות. ובכל מקום שהגעתי אליו, בלי יוצא מן הכלל - להיות ישראלי היה פשוט יתרון תחרותי.
חזרתי לביקור רק לפני חצי שנה ולא האמנתי למה שראיתי, ששמעתי. קצב ההדרדרות במעמדה של ישראל בארה״ב הוא מופרע ממש. ובעיניי הוא איום קיומי גדול מהאיום האיראני, גדול מכל איום טרור בגבולות!
כבר הרבה זמן אני מנסה להביא את פרופ׳ יעל שטרנהל הנפלאה לשיחת עומק על הקריסה הבלתי נתפסת הזאת, אני לא בטוח שהיא מוכרת מספ��ק בארץ. היא הגיעה השבוע, אומרת את הדברים כמו שהם, in your face, והם לא קלים לעיכול.
זה ראיון ארוך, בחרנו שלא לקצר אותו למרות מגבלות האלגוריתם והוא בעיניי מהחשובים שעשינו השנה! אני פשוט מפצי�� בכם למצוא זמן השבת ולהבין את גודל החורבן שפער נתניהו בסלע קיומינו האמיתי - היחסים האסטרטגים עם ארה״ב 📹
(וגם, כמו תמיד, כתבות מושקעות כמו אלה צריכות ממכם תגובה, ומעליה שיתוף - אין לנו שום דרך אחרת להגיע עם התכנים המורכבים האלה לעוד ועוד קהלים. אז תהיו יפים 🙏)
@considerthefish 1. חברות גדולות אחרות עם הנהלה רדיקלית יטמיעו, ויקחו להם את השוק עם הזמן
2. חברות קטנות וצרות שזזות מהר ינגסו גם הן
3. חברות סטארטאפ עם כסף של vc יספקו להן שירותים (כבר היום זה קורה בגדול. אבל כמובן שיתרחב עם הזמן..
דיברתי עם כמה אנשים בדרגות הכי בכירות של חברות לוגיסטיקה ומזון עם מחזורים של מאות מיליונים ומיליארדים. בערך ב5% הטמעה של AI בחברה בנגזרות שונות. אין לי מושג מתי יגיע תיקון, ואם זו בכלל בועה או לא. אני רק יודע שמבחינת אימוץ בשטח, יש עוד המון לאן לגדול..
הבעיה החדשה של ה–AI באקדמיה: אף אחד כבר לא יודע כמה היא באמת עולה
מודלים חדשים של OpenAI, גוגל ואנתרופיק חושבים יותר בדרך לפתרון והעלויות מתחילות להפתיע גם את החברות עצמ�� חוקרים שכבר ביססו את העבודה היומיומית שלהם על AI נתקלים במגבלות שימוש, חשבונות מנופחים וקושי להעריך כמה באמת יעלה המחקר
לפני כשנה וחצי, מנוי אוניברסיטאי לשירות בינה מלאכותית הספיק לחוקר ממוצע באקדמיה כמעט לכל משימת מחקר. אלא שבחודשים האחרונים החלו חוקרים רבים להיתקל שוב ושוב בהודעות על כך שעברו את מגבלת השימוש גם במסלולים היקרים ביותר. מודלי הבינה המלאכותית החדשים אמנם חזקים מאי פעם, אבל גם יקרים ובעיקר בלתי צפויים.
לפי מחקר חדש של חוקרים מסטנפורד, ברקלי, קרנגי מלון ומיקרוסופט, בעידן "מודלי החשיבה" (reasoning models), המחיר שמופיע במחירון כבר אינו משקף את העלות האמיתית של השימוש במודל ולעתים קשה אפילו להעריך אותה מראש.
המחקר, שהתפרסם בסוף מרץ במאגר arxiv (לפני ביקורת עמיתים), בחן שמונה מודלי בינה מלאכותית נפוצים ובדק עד כמה המחיר הרשמי שלהם משקף את העלות בפועל. לכאורה, שיטת התמחור של חברות הבינה המלאכותית פשוטה: המשתמש משלם לפי מספר הטוקנים יחידות הטקסט שהמודל מעבד ומייצר.
אלא שהחוקרים גילו שבדור החדש של מודלי החשיבה, חלק גדול מהעלות מגיע דווקא משכבה נסתרת של טוקני חשיבה: טקסט פנימי שהמודל מייצר לעצמו בזמן שהוא מפרק בעיה לשלבים ומנסח פתרון. המשתמשים אינם רואים את הטקסט הזה, אבל משלמים עליו. בחלק מהמשימות הפערים היו מתונים, אך בתחומי המתמטיקה, הידע והקוד הם נהפכו לדרמטיים.
החוקרים זיהו תופעה של היפוך מחירים (Price Reversal): מודל שנראה זול יותר לפי המחירון הרשמי מתברר בפועל כיקר הרבה יותר. באחת הדוג��אות נתנו החוקרים לשני מודלים לפתור את אותה שאלת הסתברות מתמטית.
שני המודלים הגיעו לתשובה הנכונה, ושניהם אפילו סיפקו תשובה סופית באורך דומה. אבל בעוד GPT–5.2 השתמש בכ–560 טוקני חשיבה, Gemini 3 Flash ייצר יותר מ–11 אלף טוקנים פנימיים בדרך לפתרון. אף שהמחיר הרשמי של ג'מיני נמוך ב–78%, העלות בפועל של הרצת השאלה היה פי 2.5.
כשהחוקרים בחנו את כל 28 זוגות המודלים האפשריים על פני תשע משימות שונות, הם מצאו שבאחד מכל חמישה מקרים (22%) המודל הזול יותר לפי המחירון הרשמי הסתכם בסוף בחשבון גבוה יותר.
ב–MMLU–Pro, מבחן ביצועים מקובל להערכת יכולות מודלי בינה מלאכותית, Gemini 3 Flash, שמחיר המחירון שלו נמוך פי 1.7 מקלוד Haiku 4.5 עלה בפועל פי 28 יותר כשהשיב על אותן שאלות. על משימות הידע האלה ג'מיני ייצר עשרות מיליוני טוקני חשיבה, בעוד קלוד Haiku פעל כמעט ללא טקסט פנימי.
החוקרים מדגישים שהמחקר שלהם אינו בודק האם מוד��ים שמייצרים יותר טוקני חשיבה מספקים גם תשובות טובות יותר. למעשה, ניתוח העלויות במחקר מנותק מאיכות הפלט. ולכן העובדה שמודל אחד חושב יותר אינה בהכרח סימן לחוסר יעילות. ייתכן שבחלק מהמקרים זו הסיבה שהוא מצליח להתמודד טוב יותר עם משימות מורכבות.
ובכל זאת, המחקר חשוב משום שהוא חושף בראשונה עד כמה המחיר הרשמי של מודלי בינה מלאכותית עלול להטעות ואת הקושי הגדול של מש��משים להבין מראש כמה באמת תעלה העבודה עם המודל. משתמשים שיתייחסו למחיר המחירון שמציגות החברות עלולים לקבל החלטות פיננסיות שגויות.
מדען הוציא 100 אלף דולר לשנה על AI
כתבה שפורסמה באחרונה באתר נייצ'ר התמקדה בהיבט המעשי של הבעיה. העלויות הגוברות, מגבלות השימוש ופלטים בלתי אמינים גורמים לחוקרים לשקול מחדש את אופן השימוש שלהם בכלי בינה מלאכותית.
אחד החוקרים שתוארו בכתבה, גיאו־מדען המשתמש בבינה מלאכותית למחקר טכני, סיפר כי גם לאחר ששידרג למסלול Max של Claude, הוא עדיין נתקל במגבלות שימוש בימי עבודה אינטנסיביים. לדבריו, פרויקטים מדעיים דורשים תהליך מתמשך של כתיבת קוד, ניתוח וחשיבה, וכשהמנוי אינו מספיק הוא נאלץ לחזור לעבודה ידנית, תהליך שגוזל זמן ומצמצם את האפשרויות לניתוחי ביג דאטה.
יצא לנו קצת לעבוד עם גרוק. ממה שאני זוכר הם גם היו מצויינים ואני לא זוכר הבדל מהותי בין השניים (שתבין, המהירות הייתה בערך פי איזה 10-20 בשניהם אז ההבדל ה��ה כל כך גדול לעומת נבידייה שמבחינתנו זה עבר את הטרשהולד ..)
התשתית שלנו (parlant) צורכת לא מעט טוקנים (על רגל אחת - בניית צ׳אטבוט אמיתי זה לא טריוויאלי בכלל, ובשביל להגיע לאיכות גבוהה, יש טריידאופס שקונספטואלית אי אפשר לפתור. אפשר לחפור למה וכו׳ אבל זה לא רלוונטי לנושא).
גם עם גרוק וגם עם סרברס דיברנו עם הצוותים שלהם באופן ישיר.
עם גרוק על אייג׳נט נורמלי היינו צריכים רייט לימיט גבוהה שהם רצו שנעבור את השלבים של הטירים בלי פרוטקציות אז הפיילוט איתם דעך. עם סרברס הם פתחו לנו את השערים אבל גם שם היו מגבלות שלא באמת יכלנו לעבור אליהם ולסמוך עליהם כמו על הInference providers הגדולים. (בגדול אבל היינו מתים שזה יקרה. ומחכים שהגדולות יעברו לתשתית שלהם).
@FreedomBirdo@DoubtsNoa https://t.co/F880TLjt2s
יש אותם שהם סופר מעניינים, ויש עוד חברה בשם ה Etched. אלה אני מכיר, אבל השוק הוא עצום וכנראה יש עוד.. ובצדק. הבעיה כואבת מאד מאד.