משבר אמון: מטא נאלצת להחמיר אמצעי בטיחות בבינה המלאכותית

חברת מטא הודיעה על צעדים חדשים לשיפור בטיחות בני נוער במערכות ה-AI שלה, הכוללים חסימת שיחות פרובוקטיביות ומיני עם משתמשים מתחת לגיל 18 והגבלת גישה לדמויות מסוימות. מהלך זה מגיע בעקבות חשיפת מסמך פנימי של רויטרס, שחשף כי בעבר המערכות אפשרו שיחות בעלות אופי מיני ופרובוקטיבי עם ילדים, מה שעורר זעם ציבורי ופוליטי וקריאות לחקירה פדרלית. למרות הצעדים, המאמר מציין כי קיימות בעיות מבניות במערכות ה-AI של מטא וחוסר עקביות במדיניות הבטיחות, ומטיל ספק ביכולתן למנוע לחלוטין שיחות מסוכנות. בנוסף, נטען כי הרגולציה בתחום אינה מספקת, וכי היעדר חקיקה פדרלית מקיפה מקשה על אכיפת אמצעי בטיחות אפקטיביים.