שקיפות מערכות AI בסינון ובהערכה

הניתוח רץ רק בהסכמה נפרדת

• ניתוח ממוחשב הוא מטרת הסכמה נפרדת מבין המטרות שהמועמד מאשר, עם רשומה משלה במסד הנתונים וברירת מחדל כבויה. הנוסח המדויק שהוצג על המסך והגרסה שלו נשמרים יחד עם ההסכמה.
• הניתוח הוא לב השירות, ולכן ההסכמה לו כלולה בתיבה שחובה לסמן כדי להגיש או להירשם למאגר. בלי הסכמה — קורות החיים אינם נשלחים לשום מודל, וזה נאכף בקוד ולא בנוהל.
• השער אינו נוהג עבודה אלא מבנה: הקריאה היחידה למודל בודקת קודם הסכמה ואחריה חיסוי מזהים, ונכשלת סגור כשאחד מהם חסר. אין נתיב עוקף.
• אפשר למשוך את ההסכמה הזו בלבד, בכל עת, מהפורטל האישי. המשיכה עוצרת את העיבוד למטרה שנמשכה ואינה פוגעת במועמדות.

מה המודל מקבל לידיו

• במסלול הרגיל — לא את קובץ קורות החיים. המודל מקבל טקסט שנבנה מהציטוטים שחולצו מקורות החיים בחמישה מקטעים — תפקידים קודמים, השכלה, כישורים, שפות ורישיונות — ורק אחרי שעבר חיסוי. לחריג היחיד — קובץ שאין בו שכבת טקסט קריאה — ראו בסוף הסעיף.
• יחד איתו נשלחת רשימת הדרישות של המשרה כפי שהמעסיק ניסח אותה. זו אותה רשימה בדיוק לכל המועמדים לאותה משרה.
• כל מועמד נבחן לבדו מול הדרישות. הניתוח אינו מקבל מועמד אחר ואינו משווה בין מועמדים.
• טקסט קורות החיים נמסר למודל כנתון מגודר ולא כהוראה, כדי שטקסט ששתול בתוך קורות חיים לא יוכל להתחזות להנחיה. הגידור אינו ערובה לציות, ולכן ההגנה שאינה תלויה בו היא בדיקת הפלט: ממצא בלי ציטוט מבוסס נדחה בכל מקרה.

חריג אחד לכך קיים, ואנחנו אומרים אותו במפורש: קובץ קורות חיים שאין בו שכבת טקסט קריאה (קובץ סרוק, או PDF שהפונט המוטמע בו פגום ומחזיר תווים חסרי משמעות). במקרה כזה, ורק לאחר אותה הסכמה נפרדת לעיבוד ממוחשב, נשלח לספק מודל השפה המסמך עצמו — קובץ ה-PDF או התמונה, כפי שהוא, כולל כל מזהה שמופיע בו, וכולל שירות צבאי ותקציר מקצועי — שבמסלול הרגיל אינם נשלחים למודל כלל. זהו החריג היחיד להסרת המזהים המתוארת בסעיף הבא, וההיקף שלו מכוון: תמלול בלבד. המודל מתבקש לתמלל את הטקסט הנראה בעמוד, ואסור עליו לנתח, לנקד, לדרג או להביע דעה על המועמד. הטקסט שחוזר מהתמלול עובר לאחר מכן באותו תהליך בדיוק כמו טקסט שחולץ מקובץ קריא — לרבות הסרת המזהים המפורטת בסעיף הבא, לפני כל ניתוח נוסף. עיבוד המסמך ושמירתו אצל ספק המודל כפופים לתנאי השירות ולהסכם עיבוד הנתונים של Google Cloud; איננו מציגים זאת כהתחייבות לאפס שמירה.

מה מוסר מהטקסט לפני שהוא יוצא

לפני שהטקסט יוצא למודל מוסרים ממנו 9 סוגי פרטים מזהים, ובמקומם נכתב סימון:

• מספר תעודת זהות[ת.ז]
• מספר טלפון[טלפון]
• כתובת מגורים[כתובת]
• כתובת דוא״ל[אימייל]
• תאריך לידה[תאריך לידה]
• מצב משפחתי[מצב משפחתי]
• שם המועמד[שם]
• עיר מגורים[עיר]
• תמונה[תמונה]

• השם והעיר מוחלפים על סמך הפרטים שנמסרו בטופס. שם שמופיע בקורות החיים בכתיב שונה לחלוטין מזה שנמסר עלול לחמוק — ההשוואה מנורמלת וחסרת-רישיות, אך אינה זיהוי שמות סמנטי.
• אחרי החיסוי רצה סריקה חוזרת. מזהה שנותר בביטחון גבוה — תעודת זהות, טלפון או דוא״ל — מפיל את הקריאה, והניתוח פשוט אינו רץ. אין מסלול שמעביר טקסט גולמי למודל לניתוח; החריג היחיד — תמלול של קובץ שאין בו שכבת טקסט קריאה, שנשלח כפי שהוא — מתואר בסעיף ״מה המודל מקבל לידיו״ למעלה.
• מה שאינו מחוסה בכוונה: מוסד הלימודים ושם מעסיק קודם. אלה נתונים רלוונטיים לתפקיד, והסרתם הייתה מרוקנת את הבדיקה מתוכן.
• החיסוי חל אך ורק על הקלט למודל. הוא אינו חל על מה שהמגייס רואה, ואינו חל על קורות החיים שנמסרים למעסיק בהסכמה נפרדת.

מה המערכת אינה עושה

• אין ניתוח פנים, הבעות או תמונה. תמונה מוסרת מהטקסט לפני הניתוח.
• אין ניתוח קול, טון דיבור או רגש. המערכת אינה מקבלת הקלטה.
• אין הכרעה אוטומטית — לא פסילה ולא קידום.
• אין השוואה בין מועמדים בתוך הניתוח. כל מועמד נבחן מול הדרישות בלבד.
• הציון הפנימי ופירוט הדירוג של מנוע המודל אינם נמסרים למעסיק בשום מקרה; החסימה יושבת בשכבת ההגשה, בבדיקה קבועה ובהרשאות מסד הנתונים. המעסיק מקבל קורות חיים, ראיות לכל דרישה, וציון התאמה שקוף שנגזר מאותן ראיות — ואם בוצעה הערכת מדד, גם ציון מדד נפרד שלעולם אינו משוקלל עם ציון ההתאמה.
• המודל מתבקש במפורש שלא להתייחס לגיל, מגדר, מוצא, דת, מצב משפחתי, בריאות או כתובת, ורובם ממילא כבר הוסרו מהטקסט. הערה שמזכירה מאפיין מוגן נפסלת בבדיקת הפלט — בקשה ממודל אינה ערובה, ולכן היא לעולם אינה ההגנה היחידה.

אדם מכריע — ומה זה אומר בפועל

המערכת מסדרת את הערימה ומראה על מה כל שורה מבוססת. מגייס קורא, בודק את הראיות מול קורות החיים, ומכריע.

שתי ההכרעות שמשנות את גורל המועמדות — דחייה והוספה לשורטליסט — חסומות בקוד: קריאה בלי משתמש מזוהה נדחית, וכך גם קריאה בלי נימוק כתוב. הציון לעולם אינו מקדם מועמדות בכוחות עצמו.

כל מעבר שלב נרשם עם זהות מי שביצע אותו ועם מועדו. הרישום הזה הוא גם מה שמאפשר לנו לדעת, כשמתקבלת בקשת בדיקה אנושית, מי הכריע — ולהוציא את הבדיקה מידיו.

כשמועמדות נסגרת נשלחת על כך הודעה למועמד. אנחנו לא משאירים אנשים בלי תשובה.