שקיפות מערכות AI בסינון ובהערכה
העמוד הזה מתאר את המערכות הממוחשבות שמשתתפות במיון מועמדים בשיבוץ: מה הן מקבלות לידיהן, מה הן מחזירות, מה הן אינן מוסמכות לעשות, ואיך אפשר לבקש שאדם יבחן מחדש תוצאה.
עודכן לאחרונה:
אנחנו משתמשים במודל שפה כדי להשוות בין מה שכתוב בקורות החיים לבין הדרישות שהמעסיק הגדיר למשרה. זו הפעולה היחידה שמודל עושה בתהליך המיון אצלנו.
העמוד נכתב מפני שהטענות האלה מופיעות אצלנו גם בשיווק, ואמירה על עיבוד ממוחשב של מועמדות אינה קופי — היא מצג כלפי מי שהגיש קורות חיים. מה שכתוב כאן מחייב אותנו, ומה שאיננו יכולים להוכיח היום נכתב בסוף העמוד כמגבלה במקום להישמט.
שלוש עובדות שאפשר להסתמך עליהן
המערכת מדרגת — היא אינה פוסלת
מנוע הדירוג אינו מחובר למכונת המצבים של המועמדות. אין לו נתיב לשנות שלב, לדחות מועמדות או לקדם אותה. אף מועמד אינו נפסל על ידי מכונה, מפני שאין מכונה שיכולה לפסול.
כל קביעה נושאת ציטוט — או ״לא נמצא״
לכל דרישה מוחזרת ראיה מצוטטת מקורות החיים. ציטוט שאינו מופיע בטקסט מילה במילה, קצר מדי, או שאינו נוגע לדרישה שהוצמד אליה — נדחה, והדרישה מסומנת ״לא נמצא״. הציון נחסם בתקרה שנגזרת מהראיות שעמדו בבדיקה, כך שמספר בלי ראיה אינו נשמר.
אדם מכריע, והנימוק נשמר
דחיית מועמדות והוספה לשורטליסט נדחות שתיהן בקוד כשאין משתמש מזוהה שביצע אותן, וגם כשלא נכתב נימוק. הכרעה שאין מאחוריה אדם וטעם כתוב אינה נרשמת במערכת כלל.
הניתוח רץ רק בהסכמה נפרדת
- ניתוח ממוחשב הוא מטרת הסכמה נפרדת מבין המטרות שהמועמד מאשר, עם רשומה משלה במסד הנתונים וברירת מחדל כבויה. הנוסח המדויק שהוצג על המסך והגרסה שלו נשמרים יחד עם ההסכמה.
- אי-מתן ההסכמה אינו חוסם הגשת מועמדות ואינו פוגע בה. בלי ההסכמה קורות החיים אינם נשלחים לשום מודל.
- השער אינו נוהג עבודה אלא מבנה: הקריאה היחידה למודל בודקת קודם הסכמה ואחריה חיסוי מזהים, ונכשלת סגור כשאחד מהם חסר. אין נתיב עוקף.
- אפשר למשוך את ההסכמה הזו בלבד, בכל עת, מהפורטל האישי. המשיכה עוצרת את העיבוד למטרה שנמשכה ואינה פוגעת במועמדות.
מה המודל מקבל לידיו
- לא את קובץ קורות החיים. המודל מקבל טקסט שנבנה מהציטוטים שחולצו מקורות החיים בחמישה מקטעים — תפקידים קודמים, השכלה, כישורים, שפות ורישיונות — ורק אחרי שעבר חיסוי.
- יחד איתו נשלחת רשימת הדרישות של המשרה כפי שהמעסיק ניסח אותה. זו אותה רשימה בדיוק לכל המועמדים לאותה משרה.
- כל מועמד נבחן לבדו מול הדרישות. הניתוח אינו מקבל מועמד אחר ואינו משווה בין מועמדים.
- טקסט קורות החיים נמסר למודל כנתון מגודר ולא כהוראה, כדי שטקסט ששתול בתוך קורות חיים לא יוכל להתחזות להנחיה. הגידור אינו ערובה לציות, ולכן ההגנה שאינה תלויה בו היא בדיקת הפלט: ממצא בלי ציטוט מבוסס נדחה בכל מקרה.
מה מוסר מהטקסט לפני שהוא יוצא
לפני שהטקסט יוצא למודל מוסרים ממנו 9 סוגי פרטים מזהים, ובמקומם נכתב סימון:
- מספר תעודת זהות[ת.ז]
- מספר טלפון[טלפון]
- כתובת מגורים[כתובת]
- כתובת דוא״ל[אימייל]
- תאריך לידה[תאריך לידה]
- מצב משפחתי[מצב משפחתי]
- שם המועמד[שם]
- עיר מגורים[עיר]
- תמונה[תמונה]
- השם והעיר מוחלפים על סמך הפרטים שנמסרו בטופס. שם שמופיע בקורות החיים בכתיב שונה לחלוטין מזה שנמסר עלול לחמוק — ההשוואה מנורמלת וחסרת-רישיות, אך אינה זיהוי שמות סמנטי.
- אחרי החיסוי רצה סריקה חוזרת. מזהה שנותר בביטחון גבוה — תעודת זהות, טלפון או דוא״ל — מפיל את הקריאה, והניתוח פשוט אינו רץ. אין מסלול שמעביר טקסט גולמי למודל.
- מה שאינו מחוסה בכוונה: מוסד הלימודים ושם מעסיק קודם. אלה נתונים רלוונטיים לתפקיד, והסרתם הייתה מרוקנת את הבדיקה מתוכן.
- החיסוי חל אך ורק על הקלט למודל. הוא אינו חל על מה שהמגייס רואה, ואינו חל על קורות החיים שנמסרים למעסיק בהסכמה נפרדת.
מה המערכת אינה עושה
- אין ניתוח פנים, הבעות או תמונה. תמונה מוסרת מהטקסט לפני הניתוח.
- אין ניתוח קול, טון דיבור או רגש. המערכת אינה מקבלת הקלטה.
- אין הכרעה אוטומטית — לא פסילה ולא קידום.
- אין השוואה בין מועמדים בתוך הניתוח. כל מועמד נבחן מול הדרישות בלבד.
- הציון הפנימי ופירוט הדירוג אינם נמסרים למעסיק. המעסיק מקבל קורות חיים וראיות לכל דרישה; החסימה יושבת בשכבת ההגשה, בבדיקה קבועה ובהרשאות מסד הנתונים.
- המודל מתבקש במפורש שלא להתייחס לגיל, מגדר, מוצא, דת, מצב משפחתי, בריאות או כתובת, ורובם ממילא כבר הוסרו מהטקסט. הערה שמזכירה מאפיין מוגן נפסלת בבדיקת הפלט — בקשה ממודל אינה ערובה, ולכן היא לעולם אינה ההגנה היחידה.
אדם מכריע — ומה זה אומר בפועל
המערכת מסדרת את הערימה ומראה על מה כל שורה מבוססת. מגייס קורא, בודק את הראיות מול קורות החיים, ומכריע.
שתי ההכרעות שמשנות את גורל המועמדות — דחייה והוספה לשורטליסט — חסומות בקוד: קריאה בלי משתמש מזוהה נדחית, וכך גם קריאה בלי נימוק כתוב. הציון לעולם אינו מקדם מועמדות בכוחות עצמו.
כל מעבר שלב נרשם עם זהות מי שביצע אותו ועם מועדו. הרישום הזה הוא גם מה שמאפשר לנו לדעת, כשמתקבלת בקשת בדיקה אנושית, מי הכריע — ולהוציא את הבדיקה מידיו.
כשמועמדות נסגרת נשלחת על כך הודעה למועמד. אנחנו לא משאירים אנשים בלי תשובה.
לבקש שאדם יבחן מחדש
לכל מי שהגיש מועמדות דרך שיבוץ עומדות שלוש בקשות. הן נפרדות זו מזו מפני שהן דורשות עבודה שונה, וכולן נפתחות כפנייה מתועדת עם מועד מענה.
בקשת עיון
מה מוחזק עליכם אצלנו — פרטים, מועמדויות, הסכמות ומסמכים. התוצר הוא ייצוא שאפשר להוריד ולשמור.
ערעור
אם אתם חולקים על התוצאה. אדם מהצוות בוחן את מה שקרה וכותב תשובה מנומקת.
בדיקה אנושית
בקשה שאדם יעבור שוב על ההליך שלכם. הבודק חייב להיות אדם אחר ממי שקיבל את ההחלטה המקורית — המערכת שולפת מהתיעוד מי הכריע וחוסמת אותו מלבדוק את עצמו.
אנחנו משיבים בכתב בתוך 14 יום מפתיחת הבקשה. בקשה שחרגה מהמועד מוסלמת אוטומטית ונשארת פתוחה — היא אינה נסגרת מעצמה.
איך מגישים
הבקשות נפתחות מהפורטל האישי, שנפתח בקישור שנשלח אליכם במייל — בלי הרשמה ובלי סיסמה. אם הקישור אינו בידיכם, אפשר לבקש שיישלח מחדש מאותו עמוד, או לפנות אלינו ישירות.
מה איננו מצהירים
הסעיף הזה קיים כדי שהעמוד לא יבטיח יותר ממה שהמנגנון מקיים. מסמך שמבטיח יותר מהקוד גרוע ממסמך חסר.
- מיקום העיבוד
- המודל הוא מודל שפה כללי של ספק חיצוני. הקוד דורש כברירת מחדל שהעיבוד יתבצע באיחוד האירופי וחוסם כל תעבורה אחרת, ואיננו מצהירים כאן שהתצורה הזו פעילה ברגע זה. זהות הספק, סוג התעבורה והתשובה לשאלה אם היא אירופית נמדדות במערכת ונשמרות לבדיקה, אך אינן מתפרסמות בכתובת ציבורית — נתון תפעולי כזה חושף פרטי תשתית. מי שרוצה לדעת מה המצב בפועל ברגע נתון מוזמן לשאול אותנו, והתשובה תינתן.
- אי-אימון על הנתונים
- איסור אימון המודל על נתוני מועמדים הוא תנאי סף חוזי מול הספק. הוא אינו נאכף בקוד שלנו ואין באפשרותנו לאמת אותו טכנית, ולכן הוא נאמר כהתחייבות חוזית ולא כמנגנון.
- מדידת פערים בין קבוצות
- כתבנו את החישוב שבוחן פערי שיעורי מעבר בין קבוצות לפי כלל ארבע-החמישיות, אך איסוף הנתונים אינו פעיל, ולכן אין בידינו היום דוח תקופתי. אין להסיק מהעמוד הזה שנמדדנו ונמצאנו תקינים.
- המודל אינו דטרמיניסטי
- אותו קלט עשוי להחזיר ניסוח שונה במקצת בין הרצה להרצה. לכן הציון אינו מדידה, וכל דירוג נשמר עם גרסת המודל, גרסת ההנחיה וטביעת האצבע של רשימת הדרישות — כדי שניתן יהיה לשחזר על מה בדיוק הסתמכה ההכרעה.