Shaked Klein Orbach 🇮🇱 retweeted
מצאתי RCE על הסנדבוקס של Instinct ושל Muse!
בחודשים האחרונים אי אפשר היה לפספס את תופעת הסוכנים הפרסונליים- GrokBot, Instinct, Muse, Dots and Duet.
אחת הסיבות שהם עובדים כל כך טוב היא שיש להם ״מחשב״ משלהם (הסנדבוקס) בו הם משתמשים כדי לבצע את המשימות המורכבות שאנחנו מטילים הסנדבוקסים בסוכנים הסב את תשומת ליבי למשטח תקיפה חדש שהם יצרו. המוטיבציה לטרגט אותם היא שכאמור הרבה מעבודת הסוכן קורת שם, הם מכילים סקילים ו CLIs פנימיים שהוא משתמש בהם, ואם הארכיטקטורה לא תוכננה כהלכה, אפשר להתפרץ מהם הלאה לתשתיות הבקאנד של הסוכן או לסנדבוקסים שמשרתים לקוחות אחרים ונגישים למידע רגיש שלהם. לפני שבועיים פורסמה חולשת zero day מספר cve-2026-99999 שאפשרה את ההתפרצות הזאת גם בכאלה שתוכננו כמו שצריך.
עד כה, רוב המתקפות על סוכנים התרכזו ב prompt injection, במטרה ״להתל״ ב- LLM ולגרום לו לסטות מהוראות שנתנו לו ולבצע פעולה שלא תוכננה במקור. בתעשייה הבינו שמדובר בבעיה רצינית והשקיעו רבות כדי לצמצם אותה. אני מזמין אתכם לנסות לאתגר את הסוכן האהוב עליכם, תגלו במהרה שהוא כבר לא כזה פראייר וחוסם בקלילות prompt injections.
כעת, אני מציג מתקפה חדשה בשם Vulnerable Dependency Seeding שהרעיון המרכזי בה הוא לנצל את היכולת של הסוכנים לבנות תוכנות on the fly בתוך הסנדבוקס שלהם, ולאלץ אותם להשתמש בחבילות עם חולשות ידועות כדי לנצלן ולהריץ באמצעותם קוד זדוני על הסנדבוקס.
ככה הרצתי קוד על הסנדבוקס של Instinct ושל Muse ואני בטוח שסוכנים נוספים פגיעים גם.
חוקי המשחק של עולם הסייבר נכתבים מחדש בתקופה הזאת, איום הייחוס משתנה וצריך לחשוב מחדש על כל הנחת יסוד שנעשתה.
מזמין אתכם להתעמק ב writeup המלא בלינק
amirzak.substack.com/p/achieving-co…
בחודשים האחרונים אי אפשר היה לפספס את תופעת הסוכנים הפרסונליים- GrokBot, Instinct, Muse, Dots and Duet.
אחת הסיבות שהם עובדים כל כך טוב היא שיש להם ״מחשב״ משלהם (הסנדבוקס) בו הם משתמשים כדי לבצע את המשימות המורכבות שאנחנו מטילים הסנדבוקסים בסוכנים הסב את תשומת ליבי למשטח תקיפה חדש שהם יצרו. המוטיבציה לטרגט אותם היא שכאמור הרבה מעבודת הסוכן קורת שם, הם מכילים סקילים ו CLIs פנימיים שהוא משתמש בהם, ואם הארכיטקטורה לא תוכננה כהלכה, אפשר להתפרץ מהם הלאה לתשתיות הבקאנד של הסוכן או לסנדבוקסים שמשרתים לקוחות אחרים ונגישים למידע רגיש שלהם. לפני שבועיים פורסמה חולשת zero day מספר cve-2026-99999 שאפשרה את ההתפרצות הזאת גם בכאלה שתוכננו כמו שצריך.
עד כה, רוב המתקפות על סוכנים התרכזו ב prompt injection, במטרה ״להתל״ ב- LLM ולגרום לו לסטות מהוראות שנתנו לו ולבצע פעולה שלא תוכננה במקור. בתעשייה הבינו שמדובר בבעיה רצינית והשקיעו רבות כדי לצמצם אותה. אני מזמין אתכם לנסות לאתגר את הסוכן האהוב עליכם, תגלו במהרה שהוא כבר לא כזה פראייר וחוסם בקלילות prompt injections.
כעת, אני מציג מתקפה חדשה בשם Vulnerable Dependency Seeding שהרעיון המרכזי בה הוא לנצל את היכולת של הסוכנים לבנות תוכנות on the fly בתוך הסנדבוקס שלהם, ולאלץ אותם להשתמש בחבילות עם חולשות ידועות כדי לנצלן ולהריץ באמצעותם קוד זדוני על הסנדבוקס.
ככה הרצתי קוד על הסנדבוקס של Instinct ושל Muse ואני בטוח שסוכנים נוספים פגיעים גם.
חוקי המשחק של עולם הסייבר נכתבים מחדש בתקופה הזאת, איום הייחוס משתנה וצריך לחשוב מחדש על כל הנחת יסוד שנעשתה.
מזמין אתכם להתעמק ב writeup המלא בלינק
amirzak.substack.com/p/achieving-co…
1
2
47
3,051
מעבר לזה שאפל לא הוציאו עדיין עדכון, איך ניקיתם* במחשב שלכם/העובדים שלכם את הסרטיפיקטים?
*כולל אלה שהועתקו לתיקיות ״זמניות״ (venv) או מתוחזקים ע״י כלים אחרים (קודקס, אייג׳נטים אחרים, אפליקציות אחרות)
*כולל אלה שהועתקו לתיקיות ״זמניות״ (venv) או מתוחזקים ע״י כלים אחרים (קודקס, אייג׳נטים אחרים, אפליקציות אחרות)
Apple still hasn’t pushed a new CA bundle for their curl and git??? It’s been almost a week and developers are the highest risk audience getting their laptops owned in coffee shops.
This is getting to a point of dangerously negligent
3
0
17
2,569
אמלק: המצב הולך להיות גרוע יותר. השבוע קיבלנו הצצה לעולם שבו אייאיי חושף פירצות שהסתתרו בקוד ימים, חודשים ושנים.
ביולי צייצתי על הזמן שלוקח למצוא חורים. ועכשיו? בתמונה.
אז מה נסגר? למה בני אדם לא טובים בלכתוב ולבדוק קוד? ומה ההבדל בין אייאיי סייברי לסייבר עם אייאיי?>>
ביולי צייצתי על הזמן שלוקח למצוא חורים. ועכשיו? בתמונה.
אז מה נסגר? למה בני אדם לא טובים בלכתוב ולבדוק קוד? ומה ההבדל בין אייאיי סייברי לסייבר עם אייאיי?>>
העניין הוא, שברגע שנכנס האייאיי לחיינו, הזמן הזה ירד בצורה דרמטית. לרמה שזה יכול לקחת שעות (או פחות, תלוי בקושי, כסף ומשאבים להריץ אייג׳נטים עם יכולות מתאימות).
ואני לא בא להפחיד וזה, אבל אפשר לומר שבעיית הסייבר חיה ובועטת ואם האימפקט מעניין אתכם, אז הוא כתוב לקראת הסוף >>
4
2
28
4,530
סגן הסיסו באנטרופיק אומר במילים ברורות שהולך להיות גרוע יותר וחברו הטוב מאופן אייאיי אומר ש״זה היה ברור שלשם הולכים״.
עכשיו אם טרחתם באמת לקרוא עד כאן, כמה מילים נוספות ממני >>
x.com/jasondclinton/…
עכשיו אם טרחתם באמת לקרוא עד כאן, כמה מילים נוספות ממני >>
x.com/jasondclinton/…
as bad as things have gotten in the past 4 days, they are going to get a lot worse before they get better. security leaders, never let a crisis go to waste: please go to your boards and ask for help right now. not for ai, for the basics. (we need to hold on for ~18 months.)
1
0
1
175
מי שחושב שיש מספיק חברות סייבר - טועה. אנחנו צריכים יותר ואנחנו צריכים חדשנות בתחום. יש אולי יותר מידי בתחומים מסויימים, אבל חסרים פתרונות לסקייל. איך מתמודדים עם מה שקרה השבוע אם זה יקרה כל שעה? או כל עשר דקות?
ובנקודות הקטנות יותר, סביר להניח שאנחנו הולכים לראות דרישה מנדטורית לבדיקת וריפיקציה של סרטיפיקטים, שהיום לא נעשית בפועל למרות שהטכנולוגיה קיימת.
אנחנו גם הולכים לדעתי לרוטציה של סיקרטים ברמת הדקות והשניות. זה ייקח זמן טכנולוגית ואימוץ, אבל עם אייג׳נטים זה חובה.
ונגמר המקום לעוד
ובנקודות הקטנות יותר, סביר להניח שאנחנו הולכים לראות דרישה מנדטורית לבדיקת וריפיקציה של סרטיפיקטים, שהיום לא נעשית בפועל למרות שהטכנולוגיה קיימת.
אנחנו גם הולכים לדעתי לרוטציה של סיקרטים ברמת הדקות והשניות. זה ייקח זמן טכנולוגית ואימוץ, אבל עם אייג׳נטים זה חובה.
ונגמר המקום לעוד
0
0
2
159