קוד אתי

הבינה המלאכותית נועדה לשרת בני אדם ולא להחליף את ערכם, עצמאותם או זכותם לקבל החלטות.

בכל שימוש משמעותי ב־AI תישמר האפשרות להפעלת שיקול דעת אנושי.

החלטה שיש לה השפעה מהותית על אדם לא תתקבל באופן אוטומטי על בסיס תוצר AI בלבד.

AI מסייע לאדם לחשוב, לחקור, ליצור ולהחליט – האחריות נשארת אנושית.

האדם המשתמש במערכת AI אחראי לתוצר שבו הוא עושה שימוש.

אין לקבל את התשובה של מערכת בינה מלאכותית כעובדה רק משום שנוסחה באופן משכנע.

מי שמגיש עבודה, מפרסם תוכן, נותן ייעוץ, מבצע ניתוח או מקבל החלטה באמצעות AI אחראי לבדוק את התוצר ולאשר אותו לפני השימוש.

המשפט ״ה־AI אמר״ אינו מהווה הסרת אחריות.

אחד מעקרונות היסוד של מכללת בר־אוריין הוא לא להסתפק בקבלת מידע – אלא לבדוק אותו.

בעת שימוש בבינה מלאכותית יש:

• לאמת טענות עובדתיות משמעותיות.
• לבדוק מספרים, תאריכים, שמות ונתונים.
• לחזור ככל האפשר למקור הראשוני.
• להבחין בין עובדה, פרשנות, הערכה והשערה.
• להשוות בין מספר מקורות כאשר מדובר בנושא מהותי.
• לבחון את איכות המקור, סמכותו, עדכניותו והאינטרסים העומדים מאחוריו.
• לא להשתמש במקור ביבליוגרפי שלא נבדק ונמצא בפועל.

אין להציג מידע שנוצר על ידי AI כמידע מאומת ללא בדיקה אנושית.

חל איסור להגיש או לפרסם ביודעין:

מקורות שלא קיימים, ציטוטים שלא נאמרו, מחקרים שלא אותרו, נתונים מומצאים, מומחים שאינם קיימים או עובדות שלא נבדקו.

כאשר מערכת AI מציעה מקור – המשתמש נדרש לוודא שהמקור קיים ולבדוק את תוכנו לפני ציטוטו.

זהו עיקרון מרכזי במיוחד בעבודת מידענות, מחקר, מודיעין עסקי,Data Analysis וייעוץ.

שימוש בבינה מלאכותית אינו פסול כשלעצמו.

עם זאת, כאשר ל־AI הייתה תרומה מהותית ליצירת עבודה, מחקר, ניתוח, קוד, תמונה, סרטון, המלצה או מסמך מקצועי – יש לפעול בשקיפות בהתאם להקשר.

במשימות לימודיות המרצה רשאי לקבוע מראש אחת משלוש רמות:

שימוש חופשי

AI הוא חלק אינטגרלי מהמשימה.

שימוש מותר עם גילוי

ניתן להשתמש בבינה מלאכותית, אך יש לציין כיצד נעשה בה שימוש.

שימוש מוגבל

חלקים מסוימים חייבים להתבצע באופן עצמאי לצורך הערכת יכולות הלומד.

אין להציג תוצר שנוצר בעיקרו על ידי AI כאילו נוצר כולו באופן עצמאי כאשר הדבר מהותי להערכת העבודה.

אין להזין למערכת AI ציבורית מידע אישי, רגיש, רפואי, פיננסי, עסקי או סודי שאין הרשאה מתאימה לעבדו באמצעות אותה מערכת.

יש לפעול על פי עקרון מינימום המידע: להעביר למערכת רק את המידע הדרוש לביצוע המשימה.

ככל שניתן יש להשמיט שמות ופרטים מזהים, לבצע אנונימיזציה או התממה, ולהימנע מהעלאת מסמכים הכוללים מידע אישי שלא לצורך.

מידע על סטודנטים, עובדים, לקוחות, ארגונים ושותפים יטופל בזהירות מיוחדת.

השימוש ב־AI אינו מבטל זכויות יוצרים, זכויות מוסריות, סודות מסחריים או זכויות של יוצרים אחרים.

משתמשי המכללה נדרשים לכבד:

זכויות יוצרים, רישיונות שימוש, סימני מסחר, זכויות בתמונות וביצירות וזכויות בקוד ובמאגרי מידע.

אין להשתמש בבינה מלאכותית כדי לחקות באופן מטעה יצירה של אדם אחר, להעתיק תוכן מוגן או להציג יצירה של אחר כיצירה עצמאית.

במקרים של ספק יש לבדוק את תנאי הרישיון ואת מקור התוכן.

מטרת הלמידה במכללת בר־אוריין אינה רק לייצר תוצר – אלא לפתח יכולת מקצועית.

לכן AI ישמש להרחבת יכולתו של הלומד ולא לעקיפת תהליך הלמידה.

ניתן להשתמש בבינה מלאכותית לצורך למידה, חשיבה, חקר, סימולציה, יצירת חלופות, ניתוח, ביקורת, שיפור והעמקת ידע, בהתאם להנחיות הקורס.

אין להשתמש בו כדי ליצור מצג שווא של ידע או יכולת שאינם קיימים אצל הלומד.

היכולת לעבוד נכון עם AI עצמה היא מיומנות מקצועית – אך היא כוללת גם את היכולת לבקר, לתקן, לאתגר ולשפר את תוצריו.

מערכות AI עלולות לשקף הטיות הקיימות בנתונים, בתכנון המערכת או בהקשר שבו היא מופעלת.

לכן יש לבחון תוצרים העלולים להשפיע על אנשים מתוך מודעות להטיות הקשורות, בין היתר, למגדר, גיל, מוצא, שפה, מוגבלות, רקע חברתי או מאפיינים אישיים אחרים.

AI לא ישמש ככלי להפליה פסולה, לתיוג בלתי מוצדק של אדם או ליצירת פרופיל פוגעני.

ככל שהשפעתה האפשרית של החלטה גדולה יותר, כך נדרשת רמת בקרה אנושית גבוהה יותר.

שימוש בבינה מלאכותית בתחומים כגון:

קבלה ללימודים, הערכת סטודנטים, גיוס עובדים, השמה, הערכת עובדים או מרצים, החלטות פיננסיות או החלטות אחרות המשפיעות באופן מהותי על אדם –

ייעשה בזהירות מוגברת, תוך בחינת הסיכונים, שקיפות מתאימה ופיקוח אנושי.

המכללה לא תבסס החלטה מהותית על דירוג או המלצה אוטומטיים בלבד.

סוכן AI המסוגל לבצע פעולות אינו רק כלי ליצירת תוכן – הוא עשוי לפעול בשם המשתמש.

לפיכך, לפני הפעלת סוכן יש להגדיר:

את מטרתו, גבולות סמכותו, המידע שאליו הוא רשאי לגשת, הפעולות שמותר לו לבצע ומתי נדרש אישור אנושי.

פעולות בעלות השלכות מהותיות – כגון פרסום, התחייבות כספית, שליחת מידע רגיש, שינוי נתונים מהותיים או החלטה הנוגעת לאדם – יחייבו, ככל שנדרש בהתאם לסיכון, מנגנון אישור אנושי.

יש להשתמש במערכות AI באופן שאינו מסכן את מערכות המכללה, משתמשים, לקוחות או צדדים שלישיים.

אין להשתמש במשאבי המכללה לצורך יצירת נוזקה, התחזות, פישינג, חדירה בלתי מורשית, גניבת מידע או פעילות מזיקה אחרת.

קוד, קבצים, קישורים והוראות שנוצרו על ידי AI ייבדקו לפני הפעלה כאשר קיים סיכון אבטחתי.

אין ליצור או להפיץ באמצעות AI תוכן שנועד להטעות אדם לגבי זהותו של הדובר, מקורו של המידע או אותנטיות של אירוע.

שימוש בדמות, בקול או בזהות של אדם אמיתי באמצעות בינה מלאכותית ייעשה רק בהתאם לדין, להרשאה ולכללי הגילוי הרלוונטיים.

תוכן סינתטי העלול להתפרש כתיעוד אמיתי יסומן באופן מתאים כאשר ההקשר מחייב זאת.

כאשר AI משמש בתהליך בעל השפעה משמעותית, יש לשאוף לכך שניתן יהיה להסביר:

מה הייתה מטרת השימוש, איזה מידע שימש, מה עשתה המערכת, מה בדק האדם ומה היה הבסיס להחלטה הסופית.

אין להשתמש ב״מורכבות האלגוריתם״ כתירוץ להיעדר אחריות.

בתהליכים מקצועיים, מחקריים או ארגוניים משמעותיים, מומלץ לתעד במידה המתאימה לסיכון:

את כלי ה־AI שבו נעשה שימוש, מטרת השימוש, מקורות המידע המרכזיים, בדיקות שבוצעו, שינויים אנושיים שנעשו בתוצר והחלטות משמעותיות שהתקבלו.

התיעוד מאפשר למידה, ביקורת ושיפור מתמשך.

מכללת בר־אוריין רואה באוריינות AI מיומנות בסיסית בעידן החדש.

אוריינות AI אינה רק היכולת לכתוב Prompt.

היא כוללת:

הבנת יכולות המערכת ומגבלותיה; יכולת לבחור כלי מתאים למשימה; הבנת איכות הנתונים; בדיקת תוצרים; איתור הטיות; שמירה על פרטיות ואבטחה; הכרת סיכוני Hallucination; הבנת ההשלכות המשפטיות והאתיות; ויכולת לשלב בין מומחיות אנושית לבין יכולות המכונה.

המכללה תפעל לעדכון מתמשך של הידע בתחום זה.

אנו שואפים להשתמש ב־AI לא רק כדי לבצע עבודה מהר יותר אלא כדי לשפר את איכות החשיבה והעשייה.

השימוש הרצוי בבינה מלאכותית הוא כזה שמסייע לאדם:

לשאול שאלות טובות יותר, לזהות פערי ידע, לנתח יותר מידע, לראות נקודות מבט שונות, לבדוק הנחות, ליצור חלופות, לחבר בין תחומים ולהפוך ידע וניסיון לתוצאה.

מכללת בר־אוריין מעודדת ניסוי, חדשנות וחשיבה יצירתית.

עם זאת:

״אפשר לעשות״ אינו בהכרח ״ראוי לעשות״.

לפני אימוץ של מערכת AI חדשה ייבחנו, בהתאם להיקף ולסיכון, התועלת הצפויה לצד ההשלכות האפשריות על אנשים, פרטיות, זכויות, אמינות, אבטחה ומוניטין.