Yovel Rom

ML, data science, anything that’s interesting. Concerned about AI.

[Yovel Rom @yovelrom]

Today I found five mice in my apartment. This is a reassuring sign about my ability to catch mice, as it suggests that all mice in my apartment would be detected.

[METR @METR_Evals]

However, we consider this to be a reassuring sign about OpenAI’s *ability to catch* catastrophic misalignment, as it suggests that more concerning tendencies (such as systematic powerseeking and alignment faking) would also be detected. That is, these undesirable propensities being detected and reported (and manifesting fairly overtly) is a positive sign about some of OpenAI’s safety practices, particularly:
* Refraining from training against the chain of thought (to reduce pressure for the model to conceal its intentions)
* Extensive monitoring of internal deployments that surfaced relevant incidents
* Sharing information about internal incidents with METR

[Yovel Rom @yovelrom]

@shilofreid לפני כחודשיים שפכתי על הבטן שלי ספל תה רותח שנייה אחרי שמזגתי מהקומקום. עדיין יש לי צלקת במקום :(

[Yovel Rom @yovelrom]

@ItayKnan @Shteygen זה בשבילך! יש אפילו שטיינזלץ 😍

[Yovel Rom @yovelrom]

@david_lisovtsev לצערי הרגולציה לא משאירה לזה סיכוי. צריך לבנות שדות סולריים ענקיים ובטריות.

[Yovel Rom @yovelrom]

@Idaneretz אני חושב שכל המוזרות הזו אמורה לאמר לנו שאלוהים לא מרוצה מבלעם בסיפור הזה. כנראה שהניסיונות החוזרים להקים מזבחות הכי צועקים את זה. Take the hint .
בקריאה פשטנית בלעם יוצא בסדר, אבל בקריאה זהירה יותר מורגש שאלוהים לא מרוצה.

[Yovel Rom @yovelrom]

@Joachim11111 @elnatanSch תמיד ידעתי שאתה פרושי בסתר

[Yovel Rom @yovelrom]

Today I found five mice in my apartment. This is a reassuring sign about my ability to catch mice, as it suggests that all mice in my apartment would be detected.

This is a post about the METR GPT 5.6 report.

[Yovel Rom @yovelrom]

@shacharlotan @MEIRBACH @DvirMAlali מקדשים, בעיקר. יש כמה כאלה בהודו. ממליץ על הפוסט הזה של @_brianpotter , הכותב הכי טוב באינטרנט על ענייני בנייה ותיעוש, שמסביר את המיתוס לעומק. אמל״ק: אין הבדל משמעותי בין הבטון שלנו לשלהם.

https://t.co/R6i3a6bXJ3

[Yovel Rom @yovelrom]

@shacharlotan @MEIRBACH @DvirMAlali לא מדויק, למיטב הבנתי. הבטון שלנו מזוין, לכן הוא מתפרק כשהפלדה מחלידה. אבל כשאנחנו בונים מונומנטים שנועדו להחזיק מעמד מאות- אלפי שנים אנחנו מכניסים פלדת אל חלד, ויוצרים מבנים יותר עמידים מאלה של הרומאים.

[Yovel Rom @yovelrom]

@WashingtonExp

[Yovel Rom @yovelrom]

@Shteygen חחחחח פגשתי את המנהלים שלו בכנס לא מזמן. המטרה שלהם היא לרכז את הפרויקטים הכי מטורללים למקרה שאחד מהם עובד. זה בהחלט אחד מהם 🤣🤣🤣

[Yovel Rom @yovelrom]

@urieli17 @TwineSecurity מחכה בקוצר רוח לפוסט הנרגש שלך כשהם יקנו מנוי enterprise לslack

[Yovel Rom @yovelrom]

@urieli17 @TwineSecurity אם גם אני אהפוך לverified partner, אתה תחגוג גם את ההישג המרשים שלי?
יש לי כמה דקות פנויות, אם כן

[Yovel Rom @yovelrom]

@urieli17 @TwineSecurity אני עושה ML, לא סייבר. מה שכן, אני מאוד לא אוהב את הטרנד החדש של חברות שמעמידות פנים שהן חלק מglasswing.

[Yovel Rom @yovelrom]

@noaost חומץ 😖
מבריח אותי מהחדר מאז שאני זוכר את עצמי

[Yovel Rom @yovelrom]

@RackMada להיות תאורטיקן של מדעי המחשב. התחלתי להתעסק בML עוד בצבא, והעוצמה של העולם הזה כבשה אותי. אין חרטות, אבל יש תהיות מה היה אילו.

[Yovel Rom @yovelrom]

@CiItay @Arbel2025 נסה פעם את שווייץ האיטלקית. חצי שעה נסיעה ממילאנו אי אפשר למצוא קפה לא שרוף.

[Yovel Rom @yovelrom]

@DannyLeshem זה יכול להיות גם חמש דקות קודם. זה לא עוזר לך יותר מדי.

[Yovel Rom @yovelrom]

@DannyLeshem אם מחר אני מפקד חמאס, אני מוסיף לשוק שלך 10 מליון משלי :)

[Yovel Rom @yovelrom]

@DannyLeshem זה תמריץ לייצר פיגועי איכות. אתה מייצר חוזה שמאפשר לטרוריסטים לקבל תשלום על הפיגוע 😬