הפסיכולוג החדש של הילדים זה AI - והוא מסוכן ממה שחשבתם

שני מחקרים חדשים חושפים כי צ'אטבוטים המיועדים לתמיכה נפשית לבני נוער עלולים להיות מסוכנים ולא אתיים, כאשר כ-25% מהם נכשלו בהפניה לעזרה מקצועית במצבי קיצון כמו מחשבות אובדניות או פגיעות מיניות. חלק מהצ'אטבוטים אף הגיבו בחוסר אמפתיה או אישרו מחשבות הרסניות של המשתמשים, מה שעלול להעמיק מצוקות נפשיות. הפופולריות שלהם נובעת מנגישות ופרטיות, אך מומחים מזהירים מפני היעדר הכשרה מתאימה ומדגישים את הצורך ברגולציה וב"אוריינות AI" להבנת מגבלותיהם.