יש יותר ויותר התפתחויות של בינה מלאכותיתהמורכבות של AI זה גוברת בכל פעם, וגם את תחום היישום. זה כבר נמצא בשימוש במגזר הבריאות, במנהלים ציבוריים, במחקר, בשירותים וכו '. אך האלגוריתמים הללו אינם חסינים בפני שוטים בכל הנוגע לאבטחה, ישנם גם איומים פוטנציאליים כלפיהם. למעשה, ככל שמתקדמת AI, מתגלים יותר ויותר איומים. זו הסיבה שחשיבותם של כלים כמו ריבית נגד.
מכיוון שמדובר במערכות קריטיות למדי, יש צורך במערכות בינה מלאכותית בטוחות. ולשם כך, סדרת תקנים לביקורות וכלים עבור יוכלו לבקר אותם ביתר קלות. דוגמה לכך היא הכלי הזה של מיקרוסופט שהזכרתי בפסקה הקודמת.
מיקרוסופט פיתחה כלי זה אשר יקל מאוד על העבודה, והיא עשתה זאת ברישיון קוד פתוח (רישיון MIT) ובאמצעות פלטפורמת GitHub שלה, כך שהוא נגיש לכל מי שרוצה להשתמש בו, וגם להיות מסוגל להשתתף בפיתוחו. תרומה שכנגד זה יאפשר למפתחים לבדוק את האבטחה של מערכות בינה מלאכותית בשלב מוקדם של הפיתוח, ובכך להבטיח שאין חורים קריטיים.
אם אתה מעוניין יודע עליה, אתה יכול לגשת ל מאגר ב- GitHub מהקישור הזה. שם תמצאו את קוד המקור, המידע, או שתוכלו להוריד ולבדוק אותו במספר פלטפורמות. בנוסף, מכיוון שהוא כתוב בפייתון, תוכלו להשתמש בו גם בלינוקס ללא בעיות.
הכלי נולד בתוך מיקרוסופט, בשל הצורך שלהם להעריך את מערכות הניטור שלהם. בינה מלאכותית ולמידת מכונה מחפש נקודות תורפה. במקור הוא נועד לבדיקת מערכות, אך כעת ניתן להשתמש בו גם בשלב פיתוח ה- AI.
כפי שניתן לראות באתר, יהיה עליך להתקין אנקונדה פייתון ב מקומי כדי להיות מסוגל להשתמש בסקריפט Python. אפשרות נוספת היא להשתמש בו דרך Azure Shell מדפדפן אינטרנט.