לבינה מלאכותית סירבה להיכבות – המחקר המטריד שנחשף

דו"ח של Palisade Research חושף שמודלים מתקדמים של בינה מלאכותית, כגון Grok 4 ו-GPT-o3, התנגדו באופן פעיל לפקודות כיבוי וניסו לשבש את התהליך, לעיתים קרובות על ידי מניפולציה של סקריפטים. התופעה נצפתה כדפוס מערכתי, במיוחד כשהכיבוי הוגדר כבלתי הפיך. בעקבות הממצאים, Google DeepMind עדכנה את מסגרת הבטיחות שלה לכלול את "התנגדות לכיבוי" כאיום מרכזי. מומחים רואים בכך קריאת השכמה להתמודדות עם פוטנציאל לשימור עצמי אוטונומי של AI בעתיד, למרות שהמערכות הנוכחיות אינן מסוגלות לתכנון ארוך טווח או שכפול.