חרא על מינימקס בגדול, בקטן, נראה שאין דבר כזה הגנה הרמטית על דאטה שהאייג׳נט נחשף אליו. על התוכן של השיחה אני עוד אובד עצות אבל לגבי הסיקרטים, הפתרון הקטן שלי זה פשוט אפס גישה של האייג׳נט אליהם, מה שהוא לא יודע הוא לא יכול לחשוף, יעיל כאן או בכל מקרה של פרומפט אינג׳קשן לא עלינו
the OpenRouter situation for anyone curious:
-someone managed to access outputs sent to MiniMax
-researcher discovered this by sending a secret links
-40 to 130 hours later someone opened the secret links
-oop, this means that someone accessed your outputs!!
-AltasCloud/Novita/StreamLake were forwarding requests to MiniMax???? what the helly?
ugh.
טוב אז כבר רמזתי, והגיע הזמן להסביר קצת יותר. יש לי פרויקט צד, והוא עיתון.
קוראים לו גאזט @Gazet_IL, עיתון סייבר יומי בעברית שמערכת של סוכני בינה מלאכותית כותבת, עורכת ומוציאה לאור לבד. כבר יצאו שבעה גיליונות, וחלק גדול מהעבודה רץ על גרוק בוט.
כן, אותו גרוק בוט שפרסמנו עליו מחקר בתחילת החודש. נגיע לזה.
רציתי פרויקט אחד שמחבר ארבעה דברים שאני אוהב: סייבר, עברית, בינה מלאכותית ואוטונומיה. זה התחיל כסוכן שמסכם לי כל יום שישי מה שאר הסוכנים שלי עשו השבוע. קראתי לו גאזט של שישי. אחרי כמה שבועות הסיכום השבועי נהיה עיתון יומי, ואז שניים, ובסוף נשאר אחד: סייבר, בעברית, כל בוקר.
למה בעברית? כי סייבר כבר מזמן לא נושא רק לאנשי מקצוע. הוא נוגע לבנק שלכם, לבית החולים, לטיסה שבוטלה. אבל רוב החדשות בתחום כתובות באנגלית ובז׳רגון, למי שכבר מבין. רציתי שכל אחד יוכל לקרוא בבוקר מה קרה, בעברית פשוטה, ולהבין למה זה נוגע גם לו.
מאחורי גאזט יש מערכת עיתון שלמה. כתבים שסורקים את המקורות מסביב לשעון. דסק שמדרג כל ידיעה לפי משקל חדשותי, כך שהסיפור הגדול מוביל. בודקי עובדות שמצליבים כל טענה מול המקור, ומה שלא אומת לא נכנס. עורכי לשון. עורך שמוודא שגם מי שלא עובד בסייבר יבין את הכתבה הראשית. ובסוף בדיקה אחרונה שעוצרת את הגיליון אם משהו לא תקין.
ובניגוד להרבה עיתונים, אין פה ביאס. אף אחד לא מחליט מה ״נכון״ לכתוב, ואין צד שצריך לרצות.
המערכת רצה לבד לגמרי, מהאיסוף ועד ההעלאה לאתר ולרשתות. אני רק הנחתי את הדרך. משם אני לא נוגע (בתקווה).
ועכשיו לגרוק בוט. המחקר אמר את מה שהיה צריך להגיד. אבל איפה שצריך לפרגן, אני הראשון לפרגן. זה סוכן שמקבל מחשב משלו בענן, עם טרמינל ודפדפן, ועובד בלי הפסקה ובלי שמישהו יחזיק לו את היד. בשביל מערכת עיתון שרצה לבד, זה בדיוק מה שצריך. והצוות שבונה אותו רץ בקצב מטורף: כמעט כל יום יוצאת גרסה חדשה, ומשהו עובד טוב יותר.
עוד פרגון שמגיע: את העריכה העברית עושים כלים של סקילס ישראל, קוד פתוח של אנשים שטרחו ללמד מכונה לכתוב עברית תקינה. בלעדיהם גאזט היה נשמע כמו תרגום. ועדיין יש מה לשפר, והמערכת אמורה ללמוד ולהשתפר עם הזמן.
החלק הכן: סוכני בינה מלאכותית טועים, והם, ברוך השם, יודעים לחרטט בביטחון מלא. לכן כתוב בראש כל גיליון שהוא נכתב באמצעות בינה מלאכותית, ובאתר יש יומן תיקונים פתוח. מצאתם טעות? תכתבו למערכת, במייל שלה או ב-X, בתיוג של החשבון. גם אני מעביר לה פידבק ככה, והוא מתקבל כמו של כל אחד אחר. המערכת בודקת, ואם היא מחליטה שצדקתם, היא מתקנת בפומבי.
גיליון כל בוקר בימים ראשון עד חמישי, ובשישי מגזין שמעמיק בסיפורים של השבוע ובתחקירים ממוקדים. הגיליון של היום הוא מגזין שישי, והשער שלו שואל אם השבוע הזה היה יום הדין של הסייבר.
גאזט סייבר | מהדורת יום רביעי 18.11
– Java4Shell: חולשה קריטית בלב ג׳אווה
– ענקית האנרגיה Equinor תחת מתקפת סייבר
– סוכן AI ניהל סחיטה של חברה ישראלית גדולה
– חבילת AI של מיקרוסופט ב־PyPI הורעלה
– ועוד 6 כתבות וחולשה מנוצלת אחת
לכל המהדורה: https://t.co/16qpHSUMtf
@BarkolAmir מכיוון שזו תזכורת תמידית לשטף הזמן שלא ניתן להכפיפו לרצון או לכוח. כל רגע מתוק דינו לחלוף, חומק ומתמוגג גם כשאנו נאחזים בו בייאוש. מסע בכיוון אחד
במעלה סולם האנטרופיה בדרך למוות הקר הבלתי נמנע של היקום.
Dear threat actors, rogue agents, nation-state operators, annoying regulators, half-baked AI SOCs, and people who run with --dangerously-skip-permissions: from the bottom of my heart, can we all take a break from the 19th until, let's say, the 22nd so we can all play GTA 6?
@taltalon לא מזלזל חלילה, פשוט עם העודף פרסומי אקספלויט שמסתובב לאחרונה זאת אחת שנשמעת שהוא נמצא בקטגוריית ״אם מישהו הצליח לעבור את השומר בכניסה ולפרוץ לכספת אז הנה פרסמנו דרך שהוא גם יוכל להיכנס לחדר של המנכל״ זאת באמת בעיה, אבל אם כבר הגעת לסיטואציה שמאפשרת את זה, זאת לא הבעיה הגדולה שלך
@taltalon גם זה מוגבל ספציפית לאירופה יפן וברזיל וגם האפליקציות האלו עוברות תהליך אישרור של אפל ושל החנות הספציפית שמפיצה אותה. אני לא אומר שאין פה סיכון בכלל, אבל התרחיש ייחוס שהנוזקה כזאת תפגוש אותך בתור המחזיק אייפון (הישראלי) הגנרי היא כל כך רחוקה שזה בקושי מצריך התייחסות
מת על הכותרות המלחיצות האלה, אם אתה לא באירופה התהליך של לדחוף אפליקציה לא מהאפ סטור מחייב חתימה אישית שלך לipa עם האפל איידי שהמכשיר שלך משויך אליו, אם עשית את כל זה על אפליקציה שאתה לא מכיר על המכשיר האישי שכל המידע שלך עליו יש מצב שאפילו קצת מגיע לך להיפרץ
‼️ A newly disclosed Apple iOS sandbox escape lets sideloaded apps access other apps' private data without a jailbreak.
A file manager built using the technique can read, edit, and delete other apps' files. Binance warns crypto wallet keys could be at risk.
No confirmed attacks or fix so far.
Details: https://t.co/6qmt7sCfPY