חוקרים מאוניברסיטת קרנגי מלון וממעבדות המחקר של מיקרוסופט פרסמו לאחרונה מחקר מקיף על השפעתם של כלי בינה מלאכותית יוצרת. המחקר בוחן כיצד הכלים משפיעים על החשיבה הביקורתית בסביבת עבודה מקצועית. הצוות אסף נתונים מ-319 עובדי ידע מתחומים מגוונים שמשתמשים בכלים אלה לפחות פעם בשבוע, והמשתתפים שיתפו 936 דוגמאות מפורטות של מטלות עבודה אמיתיות.
הממצא המרכזי של המחקר מראה קשר ישיר בין רמת הביטחון של העובד למידת החשיבה הביקורתית שהוא מפעיל. כשעובדים מביעים ביטחון גבוה ביכולת המערכת לבצע את המטלה, הם מפעילים פחות חשיבה ביקורתית. לעומת זאת, עובדים שבטוחים ביכולתם המקצועית לבצע את המטלה ללא עזרה טכנולוגית מראים מעורבות חשיבה ביקורתית גבוהה יותר. נתון זה מצביע על סכנה של הסתמכות יתר על המערכת, במיוחד כשהעובד לא מחזיק במומחיות מספקת.
המשתתפים דיווחו ברוב המקרים על הפחתה במאמץ הקוגניטיבי הנדרש מהם. החוקרים מדדו את המאמץ בעזרת סיווג מוכר המחלק את החשיבה לשלבים כמו הבנה, ניתוח והערכה. הנתונים מראים ירידה במאמץ הנדרש לאיסוף מידע ולפתרון בעיות בסיסי. במקום זאת, המאמץ הקוגניטיבי עובר לפעולות של אימות מידע ושילוב תשובות המערכת בתהליכי העבודה הקיימים.
המחקר זיהה כמה גורמים שמעודדים עובדים לחשוב בצורה ביקורתית בזמן השימוש בכלים. הרצון לשפר את איכות התוצר הסופי הוזכר כגורם מרכזי אצל 74 מהמשתתפים. מניע חזק נוסף, שעלה מתוך 116 דוגמאות, הוא החשש מהשלכות שליליות הקשורות לטעויות, במיוחד בסביבות עבודה בעלות סיכון גבוה כמו עריכת דין או רפואה. בנוסף, חלק מהעובדים רואים בבדיקת התוצרים הזדמנות לשפר את מיומנותם המקצועית.
מול המניעים, החוקרים ממפים גם חסמים שמונעים חשיבה ביקורתית. חוסר מודעות בולט במיוחד במטלות שהעובדים תופסים כשוליות או כחסרות חשיבות. במקרים כאלה העובדים פשוט מקבלים את פלט המערכת כפי שהוא, מתוך אמונה שהמערכת טובה מספיק למטלות פשוטות. גישה זו שוחקת בהדרגה את יכולת העובדים להתמודד עם בעיות מורכבות ללא תמיכה.
חסמים נוספים נוגעים למוטיבציה וליכולת של העובד לבקר את המערכת. לחץ זמן ודרישות תפוקה גורמים לעובדים לוותר על בדיקת עובדות מעמיקה. נוסף על כך, כשהתחום המקצועי חורג ממומחיות העובד, הוא מתקשה להעריך אם התשובה שקיבל נכונה. עובדים מדווחים גם על תסכול כשהמערכת מתעקשת על תשובה שגויה למרות שהם מבקשים לתקן אותה.
השימוש בבינה מלאכותית משנה את אופן העבודה עם נתונים. בעבר עובדים השקיעו זמן רב באיתור מידע רלוונטי, ואילו כיום המערכת שולפת מידע ומארגנת אותו במהירות. עם זאת, פעולת האימות הופכת למשימה המרכזית שדורשת את מרבית המאמץ הקוגניטיבי. עובדים נדרשים להצליב מקורות, לבחון מסמכים רשמיים ולוודא שהמידע מהמערכת לא כולל טעויות נסתרות.
השינוי המהותי ביותר שזוהה במחקר הוא המעבר מביצוע ישיר של משימות לפיקוח עליהן. הבינה המלאכותית מייצרת את החומר הגולמי, בין אם מדובר בקוד תוכנה או בטיוטת מסמך. העובד הופך למנהל המשימה, שצריך להגדיר יעדים ברורים ולנסח פקודות מדויקות בהתאם לדרישות הארגון. תפקיד זה דורש יכולת הערכה גבוהה והבנה עמוקה של צורכי הלקוח או החברה.
החוקרים מזהים מורכבות באופן שבו הכלים חוסכים מאמץ. המערכות מקצרות זמני פעולה ומורידות את העומס על הזיכרון של העובד, אך הקלה זו גורמת לעיתים לעובדים לוותר על הבנה מעמיקה של התהליך המקצועי. מנהלים חייבים להכיר בסכנה שהעובדים יאבדו את היכולת לפתור בעיות באופן עצמאי.
המחקר ממליץ לשלב בממשקי העבודה מנגנונים שיעוררו את החשיבה הביקורתית של המשתמש. חברות טכנולוגיה נדרשות לתכנן כלים שיאתגרו את העובד להסביר את החלטותיו ולא רק לקבל פלט מוכן. הדרכת עובדים בארגון צריכה להתמקד במיומנויות של שילוב תוכן באופן ביקורתי, ובניהול קפדני של תהליכי הפקה אוטומטיים אל מול יעדים עסקיים.
