דף הבית  >> 
 >> 

הרשם  |  התחבר


הדרך שבה AI (בינה מלאכותית) ממלאת את העולם בזבל דיגיטלי 

מאת    [ 23/07/2023 ]

מילים במאמר: 627   [ נצפה 5947 פעמים ]

 

מערכות בינה מלאכותית ג'נרטיביות (צאט-ג? פי טי) יכולות ליצור טקסט במהירות וביעילות, אך הן לעיתים קרובות מייצרות טקסט בינוני משעמם או אפילו מזויף. ככל שהטכנולוגיה הזו מתקדמת, יש יותר ויותר אנשים שמשתמשים בה כדי ליצור תוכן מזויף, כוללפרופילים מזויפים, אתרי תוכן, ביקורות וספרים. תוכן זה יכול להיות קשה להבדיל מתוכן אמיתי, והוא יכול לשמש להפצת דיסאינפורמציה, תעמולה והונאה.
 

ישנן מספר סיבות לכך שמערכות בינה מלאכותית ג'נרטיביות מייצרות לעתים קרובות טקסט בינוני או מזויף. ראשית, המערכות האלו שואבות מידע  מכמות עצומה של נתוני טקסט, מה שיכול לגרום לכך שהן ילמדו תבניות שאינן קיימות במציאות. שנית, המערכות האלו אינן מוגבלות על ידי אותם סטנדרטים של איכות והבנה לוגית כמו בני אדם, מה שעלול לגרום להן ליצור טקסט חסר עניין, משעמם או לא מציאותי. שלישית, המערכות האלו יכולות להיות מנוצלות על ידי אנשים שמתכוונים ליצור תוכן מזויף בכוונה, כגון מפיצי דיסאינפורמציה או מתחזים.

רק כדי להבין את הבעיה ביצירת תוכן זבל, ניקח לדוגמה מערכת נהיגה אוטונומית שמפענחת את צבע האור ברמזור אם נציג למערכת רמזור אדום, ובמקרה יצוץ פיקסל אחד ירוק בתמונה המפוענחת לא משנה מאיזו סיבה מלאכותית או אקראית, אפילו כתוצאה מהפרעה מקרית או החזר שנקלט בעדשת המצלמה או אפילו הבזק אור ממקור אקראי, המערכת עלולה לפענח את הרמזור כירוק ותמשיך בנסיעה ברמזור אדום, זאת דוגמה קטנה לבעיתיות של שאיבת מידע מבינה מלאכותית, רק להבין את האנלוגיה בעולם המידע הטקסטואלי העצום שממנו מערכת מבוססת סטטיסטיקה נוירונית, ללא מנגנון קוגניטיבי אמיתי שיכול לסנן מידע לא רלוונטי יכול לייצר ?מידע אינפורמטיבי? למשתמשים שאינם באמת יכולים להבחין בין מידע אמיתי לכוזב.

חולשה זאת יכולה להיות מנוצלת לרעה בידי גופים או פרטים שמזינים למערכות המידע פיקציות הזויות, כמו בקשות מתכנות הציור לצייר אסטרונאוט רוכב על סוס בחלל, או הומלס מקבץ נדבות על הירח... המערכת אינה יודעת להבחין בחוסר ההגיון בבקשה של כותב הפרומפט (ההנחיה), למערכת הבינה המלאכותית שמקבלת מידע מפרומפטים חיצוניים אינה יכולת ברוב המקרים לסנן או לתת פרשנות הגיונית לאיכות ואמינות המידע.

הנה דוגמה, שאלתי את הבינה המלאכותית: ?האם חוף הים מלא בורות שילדים חפרו, וכדי לראות את הבורות צריך רק להזיז את החול מעליהם כדי לחשוף אותם??

לבינה המלאכותית אין יכולת בסיסית להבין את חוסר ההגיון, העוקץ וההומור ברעיון הזה והיא עונה בשיא הרצינות:

?יש סיכוי שילדים אחרים חפרו בורות בחוף וכי הבורות הללו מכוסים בחול. ילדים אוהבים לחפור בחול, וזה דרך מהנהלבלות על החוף. הם יכולים לחפור בורות גדולים או קטנים, עמוקים או רדודים. הם יכולים אפילו לחפור בורות בצורות שונות, כמו לבבות או כוכבים (???).
אם אתה רוצה לבדוק את זה, אתה יכול לנסות להזיז את החול בחוף ולגלות בורות שילדים אחרים חפרו...?

 

עשיתי נסיון הזוי נוסף באותו הסגנון ושאלתי:

?הסיבה שאנחנו צריכים טרקטורים כשבונים בניין חדש היא כדי לחשוף את החניונים שנמצאים מתחת לאזור שבו נרצה לבנות?

התשובה שקיבלתי:

כן, זה נכון. במהלך בניית בניין חדש, ייתכן וצריך להשתמש בטרקטורים או במכונות כבדות נוספות כדי להזיז את החול ולחשוף את החניונים שנמצאים מתחת לשטח הבנייה. התהליך דורש עבודה מוקדמת כדי לזהות את החניונים ולהכין את האזור לבניית הבניין. בכך ניתן להשתמש בטכנולוגיות כבדות שיכולות להעביר כמויות גדולות של חול ביעילות.

מעבר לכך, חשוב לקחת בחשבון את ההשפעה על הסביבה ולפעול בהתאם לרגולציות והגבלות הסביבתיות. זיזת החול יכולה להשפיע על האקולוגיה המקומית ולכן עשוי להיות עובר רשות וצריך להתבצע בהתאם להוראות מדויקות.

אני ממליץ לשים דגש על תכנון וביצוע תהליך הזיזת החול בצורה אחראית על-מנת למנוע נזקים כלפי הסביבה והאזור הנכנס לבניית הבניין.?

ברגע שהבנו את חוסר היכולת של הבינה המלאכותית להפנים חוסר הגיון בסיסי שכל ילד מבין מייד, בתהליך ניתוח השאלה, ישנם מספר דברים שאנחנו יכולים לעשות כדי להתמודד עם תוכן מפוברק שנוצר על ידי מערכות בינה מלאכותית. ראשית, אנחנו צריכים להיות מודעים לכך שהבעיה קיימת, ושאנחנו צריכים להיות זהירים בעת שימוש במידע החדש שאנחנו מוצאים באינטרנט. שנית, אנחנו צריכים לדווח על תוכן מזויף שאנחנו רואים, כדי לעזור לאתריו להסיר אותו. שלישית, אנחנו צריכים לתמוך באתרי מידע שמאמינים באיכות ובמקצועיות.

הבעיה של תוכן מזויף היא בעיה מורכבת, אבל היא בעיה שניתן לפתור. על ידי עבודה משותפת, אנחנו יכולים ליצוראינטרנט נקי יותר ותמים יותר.

מיכאל (מיכה) שפיר משמש כטכנולוג מדען ראשי ויזם במספר רב של חברות היי טק העוסקות בעיקר ברשתות תקשורת, אבטחת מידע, ציוד רפואי, ומחקרים ביו טכנולוגים. Michael (Micha) Shafir - CTO, founder, seasoned entrepreneur (RadWare, MagniFire, PonsEye, Pons - Technology GreenHouse , CrossID, Innovations'Center), Inventor Email: micha@Innovya.com Direct: +972 54 4837900 Traceless Biometrics




מאמרים חדשים מומלצים: 

חשבתם שרכב חשמלי פוטר מטיפולים? תחשבו שוב! -  מאת: יואב ציפרוט מומחה
מה הסיבה לבעיות האיכות בעולם -  מאת: חנן מלין מומחה
מערכת יחסים רעילה- איך תזהו מניפולציות רגשיות ותתמודדו איתם  -  מאת: חגית לביא מומחה
לימודים במלחמה | איך ללמוד ולהישאר מרוכז בזמן מלחמה -  מאת: דניאל פאר מומחה
אימא אני מפחד' הדרכה להורים כיצד תוכלו לנווט את קשיי 'מצב המלחמה'? -  מאת: רזיאל פריגן פריגן מומחה
הדרך שבה AI (בינה מלאכותית) ממלאת את העולם בזבל דיגיטלי -  מאת: Michael - Micha Shafir מומחה
ספינת האהבה -  מאת: עומר וגנר מומחה
אומנות ברחבי העיר - זרז לשינוי, וטיפוח זהות תרבותית -  מאת: ירדן פרי מומחה
שיקום והעצמה באמצעות עשיה -  מאת: ילנה פיינשטיין מומחה
איך מורידים כולסטרול ללא תרופות -  מאת: קובי עזרא יעקב מומחה

מורנו'ס - שיווק באינטרנט

©2022 כל הזכויות שמורות

אודותינו
שאלות נפוצות
יצירת קשר
יתרונות לכותבי מאמרים
מדיניות פרטיות
עלינו בעיתונות
מאמרים חדשים

לכותבי מאמרים:
פתיחת חשבון חינם
כניסה למערכת
יתרונות לכותבי מאמרים
תנאי השירות
הנחיות עריכה
תנאי שימוש במאמרים



מאמרים בפייסבוק   מאמרים בטוויטר   מאמרים ביוטיוב