מה מותר לשתף עם הצ'אט ומה לגבי כלים סיניים? המדריך לשימוש בטוח ב-AI

המאמר הוא מדריך לשימוש בטוח בכלי AI, המדגיש את הסיכונים הכרוכים בשיתוף מידע, מדליפות ארגוניות ועד קוד זדוני. הוא מסביר כי מידע המשמש לאימון מודלים הופך לחלק מהם ועלול להיחשף. ליאור זיו, סמנכ"ל טכנולוגיות בלאסו סקיוריטי, ממליץ לתעדף רישיונות ארגוניים המונעים שימוש במידע לאימון, לשנות הגדרות פרטיות, ולהימנע משיתוף פרטים אישיים מזהים. הוא מזהיר מפני הסתמכות עיוורת על קוד שנוצר על ידי AI וממליץ לבדוק אותו. המדריך מדגיש שימוש בכלים של חברות מוכרות ובדיקת הרשאות. באופן חד-משמעי, זיו ממליץ לא להשתמש בכלים סיניים בשל החשש שהמידע יגיע לממשלה הסינית, ומציע להשתמש בהם רק בסביבות מבוקרות כמו AWS. כמו כן, הוא מזהיר מפני חיבור כלים לאפליקציות אישיות ללא בדיקת הרשאות ומפני סכנות של "Indirect Prompt Injection" בדפדפני AI.