מהו האלגוריתם שיכול לשבש פעולות של מערכות בינה מלאכותית?

טכונלוגיית זיהוי פנים היא טכנולוגיה חדשנית הנעזרת בבינה מלאכותית כדי לזהות תמונות, פנים אנושיות, עצמים, רהיטים ואף מחלות. לטכנולוגיה יש לא מעט יתרונות ושימושים בעולם הקיים וכן העתידי: היא מסייעת לאבחן מחלות בעולם הרפואה, היא עשויה לעזור בזיהוי פושעים ומניעת טרור בעולם הביטחון, ויש לה כמה שימושים עתידניים גם בעולם הרובוטיקה והאוטומציה. הפיתוחים האחרונים כל כך מדויקים, שבעזרתם ניתן לחצות גבולות בשדות תעופה, לשחרר את הטלפון הנייד מנעילה ולבצע תשלומים.

אך עם כל השימושים הטובים והיתרונות הרבים, לטכנולוגיית זיהוי הפנים (כמעט כמו לכל טכנולוגיה חדשנית) יש גם היבטים פולשניים ושליליים, מה שיצר צורך חדש: פיתוח אלגוריתם שישבש את מערכות הבינה המלאכותית, ויאפשר הגנה מקסימלית על פניהם של לקוחות, משתמשים וצרכנים. כך התחילה חברת D-ID התל-אביבית - שהוקמה בשנת 2017, וגייסה למעלה מ-4 מליון דולר מקרנות שונות - ופיתחה טכנולוגיה חדשה שמונעת זיהוי פנים אוטומטי מבלי לפגוע בקובץ התמונה.

מה זה אומר, למה זה חשוב, ומה יהיה בעתיד - כל הפרטים כאן:

החסרונות של טכנולוגית זיהוי הפנים

המלחמה באלגוריתמים לזיהוי פנים נובעת מהבעייתיות האתית שלהן, והמסוכנות הפוטנציאלית. הטכנולוגיות האלו יוצרות כר פורה לפשעי סייבר חדשים ומטרידים, כמו גניבת זהויות, הפרת זכויות אדם, הפרת הזכות לפרטיות ואף פריצה למאגרי נתונים כמו בנקים וממשלות, העושות שימוש בנתונים ביומטריים. אנחנו קוראים לא מעט בעיתונים על פריצות אבטחה רציניות בחברות הגדולות שעשויות לסכן את המשתמשים, ואנחנו ממהרים להחליף סיסמסאות ובמקרים גרועים באמת גם לבטל כרטיסי אשראי - אבל מה אנחנו יכולים לעשות אם "גונבים" לנו את הפנים?

הנתונים האלו כה מטרידים, עד שבחודשים האחרונים יצאה תקנה חדשה שמטרתה הגנה על פרטיות משתמשים מפני תכנות לזיהוי פנים, הדורשת מכל חברה המשתמשת בצילומי פנים לנקוט באמצעי זהירות בכדי למנוע דליפה וחדירה לפרטיות. נתונים מדאיגים אלו הפכו את חברת D-ID לחברה מובילה כנגד תחום זיהוי הפנים. החברה מתמחה בפיתוח אמצעים שונים המקשים על זיהוי פנים, ואף משתפת פעולה עם חברת Cloudinary הישראלית, חברה המתמחה בפתרונות איחסון תמונות למאות אלפי חברות בעולם. הפיתוח של D-ID עשוי לספק פתרונות יעילים גם לחברות בתחומי הבנקים, הרכב, ואף גופים ממשלתיים.

האלגוריתם הישראלי החכם שימנע גניבת זהויות

התוכנה החדשה מונעת זיהוי פנים אוטומטי באמצעות בינה מלאכותית, אך לא פוגעת באיכות התמונה. מה זה אומר? בגדול, תמונת פנים של אדם כלשהו המוגנת באמצעות התוכנה החדשה מונעת מאלגוריתם של זיהוי פנים לזהות את האדם בתמונה, אך עין אנושית תראה את התמונה באופן רגיל לחלוטין. בכדי לפתח את הטכנלוגיה הזו ולהלחם בטכנולוגיות זיהוי הפנים, נעשה שימוש בטכנולוגיות נוספות של בינה מלאכותית, ראייה מלאכותית ו-Deep Learning.

הפיתוח החדש מבוסס על הטמעת שינויים זעירים וכביכול לא משמעותיים בקובץ התמונה, שלא נראים לעין האנושית, אך משפיעים באופן עמוק על אלגוריתם לזיהוי פנים. החידוש הטכנולוגי נובע מאופן השינוי: לא מדובר פה על עיוותים ברורים, שינויים חדים או פגיעה באיכות התמונה שמשנים באופן דרסטי את התמונה; להפך, התמונה נראית רגיל לגמרי, ולא נראה כי נעשה בה כל שינוי. כל זה מתאפשר באמצעות מציאת "עקב אכילס" של תוכנות הבינה המלאכותית, ניצול חולשות חכם שמשבש את מלאכתם של האלגוריתמים החכמים לזיהוי תמונות.

חברת D-ID מצפה ליצור סטנדרט חדש להגנה והצפנת תמונות. הסטנדרט הזה יגן על חברות מגניבת מידע ביומטרי וכך ימעיט את החשיפה לתביעות, ועל הדרך יגן עלינו טוב יותר. בעתיד, כנראה, הרובוטים החכמים ידעו להתעלות גם על הפיתוח החדשני הזה - אבל עד אז, אפשר (אולי) להרגע.