ניהול סיכונים בשימוש בבינה מלאכותית
במרכזים קהילתיים
"היערכות מוקדמת היא המפתח לניהול נכון, בעיקר לסיכונים". כשמדברים על סיכונים בבינה מלאכותית, חשוב להבין שלא מדובר רק ב"בעיה אחת", אלא לעיתים קרובות בסיכון כפול.
הורדת המסמך המלאמהו "סיכון כפול"?
סיכון כפול = גם נזק מיידי + וגם נזק נוסף שנוצר בעקבותיו.
כלומר: לא רק מה שהמערכת עושה, אלא גם מה שקורה בגלל זה.
חשוב במיוחד למנהלי מרכזים קהילתיים
כי עובדים שם עם:
לכן כל טעות קטנה יכולה להפוך לבעיה גדולה.
דוגמאות לסיכון כפול
מידע שגוי
פגיעה בפרטיות
שימוש בילדים ובני נוער
הטיות ואפליה
אוטומציה של החלטות
התחזות ותוכן מזויף
עקרונות פעולה
הנחיות עבודה עיקריות
שימוש רק בכלים מאושרים ע"י הנהלת הארגון
אין להזין פרטי משתתפים, מידע רפואי או אישי של עובדים
כל תוכן שנוצר ע"י AI ייבדק ע"י אדם לפני פרסום
עבודה עם ילדים — שימוש רק בפיקוח מדריך
דיווח מיידי על: דליפת מידע, שימוש לא תקין, פגיעה במשתמשים
אחריות
מנהל המרכז
יישום הנוהל ופיקוח
עובדים
שימוש אחראי ודיווח על חריגות
אחראי IT/דיגיטל
אישור כלים ובקרה טכנולוגית
דיווח וטיפול באירועים
יש לדווח מיידית על:
- • דליפת מידע
- • שימוש לא תקין ב-AI
- • פגיעה במשתמשים
הטיפול יכלול:
- • עצירת השימוש
- • בדיקה פנימית
- • עדכון הנהלה, יו"ר, מחוז ומטה החברה
מנהל/ת שמוביל/ה תרבות של ניהול סיכונים משדר/ת לקהילה ולצוות אחריות ומקצועיות.
הבטיחות היא התשתית עליה נבנית הפעילות החברתית המיטבית.
מומלץ להדפיס ולתלות בחדר הישיבות של המרכז הקהילתי.
הורדת הנוהל המלא