מדענים רוסים מפקפקים בבינה מלאכותית שניתן לסמוך ללא תנאי
נושא חשוב מאוד הקשור לטכנולוגיות בינה מלאכותית נדון בנשיאות האחרונה של האקדמיה הרוסית למדעים. אז, במהלך הדיון, מדענים ניסו להבין עד כמה אפשר לסמוך על בינה מלאכותית (AI) והיכן הגבול שאחריו אדם צריך לקבל החלטה בעצמו.
תאמינו או לא בינה מלאכותית
אז, על פי נשיא האקדמיה הרוסית למדעים א. Sergeeva, AI היא מה שנקרא "קופסה שחורה" שאפילו יוצריה עצמם לא מבינים עד הסוף כיצד היא פועלת. ולכן עולה שאלה מאוד הגיונית: האם אפשר לסמוך על מסקנות הבינה המלאכותית אם לא נוכל להתחקות אחר שרשרת ההסקות שמביאה ה"מכונה" הזו?
ואכן, למעשה, בינה מלאכותית כבר עושה מספר גדול למדי של פעולות טוב ומהיר יותר מבני אדם.
וזה בהחלט יכול להיות מפתה לנטוש את המדע באופן עקרוני, כי מומחה בעל כישורים ממוצעים יכול להגדיר משימות מסוימות ולקרוא תשובות מ-AI.
אבל רק במקרה של אמון מוחלט וחסר הבחנה בפתרונות AI, אתה יכול לקבל תמונה מעוותת מאוד, שיכולה להיות די יקרה.
העניין הוא שאדם נוטה מדי לסמוך על הטכנולוגיה, אבל עם בינה מלאכותית, הכל הרבה יותר מסובך. העניין הוא שהאנושות עדיין לא יכולה להסביר באופן מלא איך המוח האנושי פועל.
ובאותו אופן, אין הבנה כיצד פועלת בינה מלאכותית, שנבנית באנלוגיה למוח האנושי. ואכן, רשתות עצביות מבוססות על משוואה פשוטה למדי של נוירון אחד.
אבל רק במקרה שבו, למשל, 600 מיליארד מרכיבים כאלה מעורבים בעבודה בבת אחת, אף אחד לא יגיד בוודאות אילו קשרים נוצרים ברשת העצבית.
בנוסף, המדענים ציינו שככל שמתפתחות רשתות עצביות, מתגלים יותר ויותר חסרונות. אחרי הכל, בהתחלה, AI לומדת ממיליוני דוגמאות שונות.
אבל לעתים קרובות, גם עם סטייה קלה מהפרמטרים "למדו" במהלך האימון, המערכת מתחילה לתת תוצאות שגויות.
אז דוגמה בולטת למדי היא רשת נוירונים שנוצרה על ידי יבמ, שנוצרה בכוונה לצרכים רפואיים. אז, התברר שה-IBM AI עושה אבחנות ברמה של רופא ממוצע למדי. המשמעות היא שלמרות שטכנולוגיות AI מאפשרות ליצור מערכות חכמות, הן רחוקות מלהיות מושלמות.
ובסיום הדיון הגיעו המדענים למסקנה שבהתחשב במגמה ההולכת וגוברת בפיתוח ושימוש בבינה מלאכותית, פשוט יש צורך ליצור משהו מסוים אנלוגי של GOST, שיאפשר להשתמש ב-AI באופן מלא רק לאחר שהמערכת תעבור מגוון שלם של בדיקות, ומדענים משוכנעים שבינה מלאכותית לא תבצע שגיאות.
כתבו בתגובות איך אתם מרגישים באופן אישי לגבי השימוש בבינה מלאכותית בחיי היומיום. אם אהבתם את החומר, דרג אותו ואל תשכח להירשם לערוץ. תודה לך על תשומת הלב!