"בינה מלאכותית יוצרת היא פתרון טוב לכמה מהבעיות שהתמודדנו עימן משך זמן רב ביותר. חלק מזה טמון ביכולתה לפתוח פתח לתחומים אחרים, עימם אנו מתמודדים. לדוגמה, היכולת לקיים תקשורת בשפה טבעית, בדרך מובנת, היא משהו ש-GenAI טובה בו לאין שיעור מדברים רבים אחרים. ויש עוד שפע של דברים – כשמאפשרים למישהו להביע בעיה ולקבל מענה מותאם אישית ובקלות. לכן זה המקור לחלק מן ההתלהבות. בינה מלאכותית יוצרת תהיה ממש עוצמתית באבטחה", כך אמר כריס בץ , מנהל האבטחה הראשי (CISO) של אמזון ווב סרביסז (AWS).

בץ החל בתפקידו באוגוסט האחרון. לפני AWS, בץ שימש כסמנכ"ל ומנהל אבטחת מידע ראשי ב- Capital One , ולפני כן מילא תפקידי אבטחה בכמה חברות, ביניהן אפל ו מיקרוסופט .

"אני נפגש הרבה עם בכירים בארגונים, מנהלי כספים, מנהלי טכנולוגיה ומנמ"רים", סיפר בץ. "אחת השאלות שמופנית אלי היא 'כיצד נוכל להשתמש ב-GenAI באופן מאובטח?'. הם חוששים בנוגע לבטיחות ולאבטחה של שירותי מדף של AI. הם רוצים לעשות זאת באופן מאובטח, לטפל בנתונים רגישים שלהם ולהמנע מתוצרים לא מדוייקים".

"העצה הראשונה שלי להם", אמר, "היא להתחיל בנתונים. כדי להפיק ערך מרבי מהתחום, יש להביא למודלי השפה הגדולים (LLMs) את הנתונים שלכם. הדרך שבה אתם מאמנים, או מכווננים, את המודל לביצוע העבודה – היא צעד ראשון ממש חשוב. ראשית, אנו מתחילים בהנחה שהנתונים שלכם, הם אכן שלכם. אנו מקדישים זמן לדיונים כיצד לאבטח את נתוני הלקוח – הנכס היקר ביותר שלו".

לדבריו, "לאחר העברת הנתונים חזרה אל המודל, אנו דנים בהגנה על הנתונים בזמן האינטראקציה עם המודל. הלקוחות רוצים להעביר אליו כמה מהנתונים הרגישים ביותר שלהם. עצתי השנייה ללקוחות: שימו לב לאבטחה סביב הנתונים".

מציעה כלי בינה מלאכותית יוצרת ללקוחותיה, גם למטרות אבטחה. AWS.

"רוצים שהאבטחה תהיה מובנית היכן שניתן, לטובת תפעול קל וחלק"

לפי בץ, "לקוחות ושותפים צריכים לבחון את היישום שהם בונים. מודלים אינם מתקיימים בפני עצמם, הם יושבים בתוך יישום. ארגונים צריכים לבחור במודל הנכון עבורם, שיהיה חלק מיישום מאובטח מקצה לקצה ולא מבודד".

אז, ציין, "יש לשאול האם המענה אמין מספיק לפונקציה שתשתמשו בה? אחד הדברים המגניבים ביותר במודלי שפה גדולים הוא התחושה של 'החיים האמיתיים' שהם מעניקים לשיחה".

"הדבר שמלהיב אותי ביותר", הסביר בץ, "הוא בניית אבטחה לתוך הטכנולוגיות. אנו מקדישים זמן לעבודה משותפת עם כמה מחוקרי האבטחה המובילים בעולם, שבוחנים את האבטחה של מודלי שפה גדולים. אני רוצה לספק את כל זה בצורה חלקה ככל האפשר כחלק מהפתרונות. ככל שאקל על הלקוחות להיות מאובטחים, כך יהיה לי יותר טוב".

לפי בץ, "דבר נוסף שמלהיב אותי, הוא הטכנולוגיה שהטמענו ב אמזון . CodeWhisperer הוא הכלי היחיד שאני מכיר עם סריקת אבטחה מובנית, שמאפשרת למצוא ולהציע פתרונות לחולשות שקשה לזהות. אנו רוצים שהאבטחה תהיה מובנית היכן שניתן, לטובת תפעול קל וחלק. כל מפתח שמשתמש בכלי, מקבל אוטומטית הצעות קוד המונעות על ידי AI, שמותאמות ספציפית לקוד שלו, כדי לפתור בעיות הקשורות באבטחה ובאיכות הקוד. דוגמה נוספת היא Amazon Inspector, בו אנו מספקים פתרון לפונקציות Lambda שמסייעות לתקן חולשות. אלו דוגמאות שבהן אתה לוקח יכולת קיימת, שבקצה שלה יש כמות גדולה של נתונים, ומשתמש ב-GenAI כדי לסייע ללקוחות לחפש במקומות הנכונים, לספק הצעות שימושיות ולסנתז כמות עצומה של נתונים. זה ממש מלהיב".

עשויה לסייע במיוחד באבטחת נתונים. בינה מלאכותית יוצרת. צילום: Shutterstock

"להפיק תועלת מתוספת GenAI לתוך יכולות שרואים מדי יום"

"מפתחי ההגנות ומומחי האבטחה בכל התעשייה יוכלו להפיק תועלת מתוספת של GenAI לתוך יכולות שאנו רואים מדי יום", הוסיף. "יש לנו כמות עצומה של נתונים ויכולות. כשהמפתחים שלנו שואלים שאלות מהירות בנוגע לאבטחה, ומקבלים הכוונה למקום הנכון עם המידע הנכון, עם תשובות מהירות – זה מאוד מאוד שימושי. בנוסף, היכולת לחפש חולשות שקשה למצוא ולהציע אפשרויות מאובטחות מאפשרת להפחית את העומס על צוותי האבטחה".

"אנו כבר עדים לשיפורים בעולם האבטחה בשל השימוש בבינה מלאכותית יוצרת", סיכם בץ, "ואני צופה שהתחום יואץ עוד יותר בשנה הבאה. יש לנו כמה תוכניות מעניינות במיוחד. כמה מתוכניות הפיילוט נראות מבטיחות מאוד. ולכן אנו ממשיכים לבצע בדיקות וללמוד. ויש כמה מקומות שבהם אנו כבר מזהים השפעה. בחלקם תושגנה תוצאות משמעותיות, שתהיינה מעל ומעבר למה שאנו רואים כבר כיום. לדעתי, האופן שבו אנו נסתכל על חולשות קוד ותוכנה ישתנה דרמטית בחמש השנים הבאות – וזה יהיה חשוב מאוד".

מערכת אנשים ומחשבים תדווח מכנס האבטחה של AWS ביוני.

הפוסט "בינה מלאכותית יוצרת תהיה ממש עוצמתית באבטחה" הופיע ראשון ב אנשים ומחשבים - פורטל חדשות היי-טק, מיחשוב, טלקום, טכנולוגיות