האשליה הדיגיטלית: כך הבינה המלאכותית עלולה להטעות אתכם בדרך להשקעה הבאה

 

משקיעים רבים מתפתים להשתמש בכלים כמו ChatGPT לניתוח דוחות כספיים, אך מחקר חדש חושף את הסכנות החמורות: טעויות קריטיות בנתונים וחוסר הבנה עסקית שיכולים לעלות ביוקר.

השעה אחת אחר חצות. על המסך מולך מרצד קובץ PDF אימתני בן מאה ושבעים עמודים, עמוס בטבלאות צפופות וז'רגון משפטי. זהו הדוח הרבעוני של חברה שאתה שוקל להשקיע בה. העיניים נעצמות מעייפות, והמחשבה על קריאת כל מילה וניתוח כל מספר נראית כמו משימה בלתי אפשרית. ואז, כמו קרן אור בחשיכה, מופיע הפתרון המפתה: חלון הצ'אט של ChatGPT פתוח בלשונית הסמוכה. "מה כבר יכול לקרות?" אתה שואל את עצמך. "אני אעלה את הדוח, אבקש סיכום של הנקודות החשובות, והוא יעשה עבורי את העבודה השחורה."

הפיתוי הזה, המשלב את הקדמה הטכנולוגית עם הרצון האנושי לקיצורי דרך, הפך לנחלתם של משקיעים רבים בעולם. אולם, מחקר אקדמי מקיף ופורץ דרך, שפורסם לאחרונה על ידי צוות חוקרים בינלאומי, שופך מים צוננים על ההתלהבות הזו. המחקר, שביצע ניתוח שיטתי ומעמיק של יכולותיהם של מודלי הבינה המלאכותית המתקדמים ביותר, מגיע למסקנה חדה וברורה: שימוש בכלים גנריים כמו ChatGPT לניתוח פיננסי בעולם האמיתי אינו רק בעייתי – הוא עלול להיות מסוכן באופן קטלני להשקעות שלכם. הממצאים משרטטים תמונה מורכבת של כלי רב עוצמה, אך כזה שאינו מבין את כובד האחריות המונחת על כתפיו הדיגיטליות.

כדי להבין את הבעיה לעומקה, חשבו על הבינה המלאכותית לא כאנליסט פיננסי מנוסה, אלא כעל מתמחה צעיר, מבריק ונלהב, שזה עתה סיים את לימודיו בהצטיינות יתרה. המתמחה הזה מסוגל לקרוא ולהבין טקסטים במהירות על-אנושית. תנו לו את הדוח העצום, והוא יחזור אליכם תוך שניות עם סיכום קוהרנטי ומסודר של דברי ההנהלה, רשימה מפורטת של גורמי הסיכון שהחברה ציינה, ותקציר ברור של האסטרטגיה העתידית כפי שהיא מתוארת בדוח. הוא יארגן את המידע בצורה מושלמת, ישתמש במבנה לוגי ויחסוך לכם שעות יקרות של קריאה מייגעת. בתחום הזה, יכולותיו גובלות בקסם. הוא אכן כלי עזר פנטסטי לקבלת תמונה כללית ומהירה. אך בדיוק כשם שלא הייתם מפקידים את כל חסכונותיכם בידיו של אותו מתמחה חסר ניסיון, כך עליכם לחשוש מהפקדתם בידי הבינה המלאכותית.

המחקר חושף שני "חטאים קדמוניים" מהותיים של הבינה המלאכותית, שני כשלים עמוקים שהופכים אותה לבלתי אמינה עבור המשימה הקריטית של ניתוח פיננסי. החטא הראשון, והמסוכן מכל, הוא חוסר הדיוק הקטלני במספרים. מודלי שפה גדולים, כשמם כן הם, מתמחים בשפה. הם בנויים כדי לחזות את המילה הבאה במשפט, ליצור טקסט שנשמע אנושי וזורם. הם אינם מחשבונים משוכללים. כאשר הם נתקלים בטבלה פיננסית, הם "קוראים" אותה כרצף של תווים, לא כמערכת של ערכים מתמטיים בעלי משמעות. התוצאה היא נטייה מדאיגה למה שהחוקרים מכנים "הזיות" (Hallucinations) מספריות.

הטעות יכולה להיות עדינה ומתוחכמת. המודל עלול להזיז נקודה עשרונית, להחליף בין הכנסות של שנה שעברה לשנה הנוכחית, או פשוט "לזכור" לא נכון מספר שקרא כמה פסקאות קודם לכן. במקרים חמורים יותר, אם הוא לא מוצא נתון ספציפי, הוא עלול "להמציא" מספר שנראה לו מתאים להקשר, מתוך רצון "לרצות" את המשתמש ולספק תשובה שלמה. דמיינו שאתם שואלים אותו מהו שולי הרווח הגולמי של החברה. הוא עלול לקרוא את שורת ההכנסות כ-10.5 מיליון דולר במקום 105 מיליון. החישוב שיתקבל יהיה שגוי לחלוטין, אך יוצג בפניכם בביטחון מלא, במשפט רהוט ומשכנע. החלטת השקעה המבוססת על נתון כזה אינה מבוססת על ניתוח, אלא על פנטזיה. בעולם הפיננסים, שבו כל ספרה אחרי הנקודה יכולה להיות בעלת משמעות של מיליונים, "כמעט נכון" הוא שם קוד ל"שגוי לחלוטין".

החטא הקדמון השני הוא שטחיות ההבנה. ה-AI פועל ברוחב של קילומטר, אך בעומק של סנטימטר. הוא יכול לזהות ולסכם את מה שכתוב שחור על גבי לבן, אך הוא חסר לחלוטין את היכולת להבין את ההקשר, את הניואנסים ואת מה שלא נאמר במפורש. הוא אינו מבין את העסק עצמו, את השוק שבו הוא פועל, או את הדינמיקה האנושית המניעה אותו.

נחזור לאנלוגיית המתמחה שלנו. הוא ידווח לכם בהתלהבות שההכנסות צמחו ב-25% ברבעון האחרון – נתון מרשים לכל הדעות. אך אנליסט אנושי מנוסה לא יסתפק בדיווח הזה. הוא ישאל מיד את שאלת המפתח: "מדוע הן צמחו?". האם הצמיחה נובעת מזינוק במכירות של מוצר הליבה של החברה, מה שמעיד על בריאות עסקית ופוטנציאל לעתיד? או שאולי החברה מכרה מפעל ישן, אירוע חד-פעמי שהקפיץ את שורת ההכנסות באופן מלאכותי ולא יחזור על עצמו ברבעון הבא? הבינה המלאכותית, ברוב המקרים, לא תדע לבצע את ההבחנה הקריטית הזו. היא תציג בפניכם את המספר, אך לא את הסיפור שמאחוריו.

חוסר ההבנה הזה מתבטא גם בתחומים נוספים. ה-AI אינו יכול להעריך את טון הדיבור של המנכ"ל בשיחת הוועידה. האם הוא נשמע בטוח ואופטימי, או מהוסס ומתגונן? הוא לא יכול להצליב מידע עם דוחות קודמים כדי לזהות אם ההנהלה נוטה להפריז בהבטחות ולפספס את התחזיות של עצמה. הוא אינו קורא את החדשות בענף כדי לדעת שמתחרה מרכזית בדיוק השיקה מוצר מהפכני שעלול לאיים על נתח השוק של החברה או שמצב שוק הנדל"ן משפיע מהותית על שווי נכסי החברה בעת מימוש בטווח הקצר. הוא רואה את העצים, אך מחמיץ לחלוטין את היער. הוא מספק לכם אוסף של עובדות מבודדות, אך לא את התובנה האסטרטגית המחברת אותן יחד.

מסקנות המחקר היו חד משמעיות. החוקרים פיתחו מערכת הערכה קפדנית שחילקה את יכולות הניתוח לארבע רמות: זיהוי (הוצאת נתונים בסיסיים), חישוב (ביצוע פעולות מתמטיות על הנתונים), הפשטה (סיכום והבנת טקסט) ופרשנות (הסקת מסקנות מעמיקות). כצפוי, המודלים הצטיינו במשימות ההפשטה והסיכום. עם זאת, ציוניהם צנחו באופן דרמטי בקטגוריות החישוב המדויק, והתרסקו כמעט לחלוטין במשימות שדרשו פרשנות והבנה עסקית אמיתית. גם המודלים המתקדמים והיקרים ביותר, אלו שעומדים בחזית הטכנולוגיה, נפלו במבחן המציאות הפיננסית.

המהפכה הטכנולוגית מציבה בפנינו כלים רבי עוצמה, אך גם פיתויים מסוכנים. קל להתמסר לקסם של תשובה מיידית ונטולת מאמץ. אך בעולם ההשקעות, שבו טעויות קטנות עלולות להוביל להפסדים גדולים, אין תחליף לקפדנות, לבדיקת נאותות ולחשיבה ביקורתית. הבינה המלאכותית היא כלי מדהים, אך עלינו לזכור תמיד מה היא וממה היא לא. היא יכולה לעזור לנו לקרוא מהר יותר, אך היא לא יכולה לחשוב במקומנו. להפקיד בידיה את ניתוח ההשקעות שלנו זה כמו לבקש מאמן כושר לבצע עבורנו ניתוח לב פתוח. שניהם מומחים לגוף האדם, אך כל אחד בתחומו. ובכסף שלכם, אתם רוצים את המנתח המנוסה ביותר ליד שולחן הניתוחים, ולא את המתמחה הנלהב, מבריק ככל שיהיה.