ווטסון, יש לנו בעיה: מה קורה עם בינה מלאכותית?
|
ספינת הדגל העולמית של IBM, מתיימרת לרתום את הבינה המלאכותית לאין-סוף תחומים, בעיקר לריפוי הסרטן. רק שתחקירים בארה"ב מעלים: ההבטחה הגדולה לא מתממשת. IBM: "העובדות מלמדות אחרת"
כיום "ווטסון" היא מערכת הבינה המלאכותית הממוחשבת של IBM, המסוגלת לבצע שורה ארוכה של משימות מורכבות במיוחד. בימים האחרונים, בשורה של פרסומים שהאחרון שבהם הופיע ב"וול סטריט ג'ורנל", היא סופגת חבטות, ונמתחת כלפיה ביקורת קשה על כך שהיא לא מצליחה לממש את ההבטחות הגדולות שנתלו בה — בעיקר בתחום רפואת הסרטן.
בניגוד לדעה הרווחת, השם "ווטסון" אינו מבוסס על עוזרו של שרלוק הולמס, אלא על תומס ווטסון, המנכ"ל המיתולוגי של החברה, שהוביל אותה משנת 1914. בשנים האחרונות IBM החלה להסתמך יותר ויותר על "ווטסון". חברת הענק הוותיקה יודעת שעתידה טמון ביכולתה להעניק שירותי מחשוב מתקדמים עבור ארגונים, כאלה המבוססים על ענן ובינה מלאכותית. למערכת הזו יש שורה ארוכה של יישומים: חינוך, פרסום, ביטחון ושיטור, אבטחת מידע, פיננסים, בינה עסקית ועוד. IBM השקיעה, נכון ל-2015, כ-15 מיליארד דולר בפיתוח "ווטסון".
אבל הפוטנציאל המבטיח והמסקרן ביותר של "ווטסון" הוא בתחום הרפואה. IBM עובדת עם 230 מוסדות רפואיים ברחבי העולם, ומעניקה להם כלי בינה מלאכותית לביצוע משימות שונות. הבולט מביניהם מיועד לתחום האונקולוגיה והטיפול בסרטן. הרעיון, בכלליות: רופאים מזינים מידע על המטופלים, כגון צילומי רנטגן, תסמינים ונתונים אחרים; המערכת הממוחשבת מעבדת את המידע, מצליבה עם מסמכים ומחקרים רפואיים — ופולטת בחזרה המלצות לאבחון ולטיפול מדויק ומותאם אישית לחולה.
ההבטחה גדולה: להעניק לרופאים "מוח" משוכלל, עם יכולת עיבוד מידע דמיונית, שמסייע להם למצוא דרכים טובות יותר לטפל בחולים. "ווטסון תוכל לאבחן ולטפל ברוב הגורמים של 80% ממקרי הסרטן בעולם", הבטיחה בעבר ג'יני רומטי, מנכ"לית IBM.
לא הובילה לשינוי
ב-IBM מדברים בלי סוף על הפוטנציאל של הבינה המלאכותית, ו"ווטסון" מוצג כבעל יכולת לחולל שינוי היסטורי בענף הרפואה. אמנם, IBM רחוקה מלהיות חברה סקסית הפונה לצרכן הביתי או כזו שמככבת במדורי הטכנולוגיה, אך בשוק העסקי היא שחקנית מרכזית מאוד, והציפיות ממנה גדולות.
אבל נכון לעכשיו נראה שהמציאות רחוקה מההבטחות הוורודות ש-IBM פיזרה בשנים האחרונות. בשבוע שעבר, פירסם "וול סטריט ג'ורנל" תחקיר שמצא כי יותר מתריסר שותפים ולקוחות של IBM הפסיקו או ביטלו פרויקטים של "ווטסון" בתחום האונקולוגיה לאחר שנמצא כי ההשפעה של המלצות המחשב לגבי דרכי הטיפול בפועל הייתה מצומצמת, אם בכלל.
לפי העיתון, הכלים שסיפקה "ווטסון" לא הוסיפו ערך ואף היו לא מדויקים, ואין מחקרים שמוכיחים את יעילותם בשיפור תוצאות הטיפולים. במקרים רבים התברר כי המערכת פשוט הסכימה והידהדה את מה שהרופאים עצמם המליצו לעשות בלאו-הכי — ורק בשיעור קטן מן המקרים הובילה לשינוי מהותי בתהליך הטיפול.
ג'ון א' קלי, סגן נשיא בכיר ב-IBM, המנהל את חטיבת הפתרונות הקוגניטיביים ("ווטסון"), פירסם פוסט תגובה בנושא, וטען כי "וול סטריט ג'ורנל" עיוות והתעלם מעובדות. "בינה מלאכותית יכולה לעשות שינויים גדולים בפתרון אתגרים רפואיים, ואנו רואים בכך הזדמנות עסקית גדולה. אנו שואלים את עצמנו בכל עת האם 'ווטסון' יכולה לעזור לאונקולוגים לקבל החלטות טובות יותר לגבי מטופליהם, והתשובה היא שוב ושוב 'כן'. זה הוצג גם במחקרים וגם בפידבקים שקיבלנו מהמשתמשים". החברה אף הציגה מספר דוגמאות ספציפיות, שבהן הכלים של IBM אכן הועילו.
המלך הוא עירום
אבל לצערה של IBM, הפרסום הזה רק מצטרף לשורה של פרסומים ותחקירים נוספים מהשנה האחרונה. רק בחודש שעבר פירסם אתר Stat מסמכים ולפיהם במקרה אחד "ווטסון" התבקשה לחוות דעה על טיפול בחולה סרטן עם דימום חמור, אך המליץ דווקא על תרופה שהייתה עלולה להחריף את הדימום. למרבה המזל, מדובר היה בבדיקה היפותטית ולא במטופל אמיתי. לפי האתר, במצגת פנימית ב־IBM הוצגו אמירות חוסר שביעות רצון מצד לקוחות, כולל רופא אחד שאמר: "המוצר הזה הוא חתיכת חרא".
לפי תחקיר נוסף של אתר Stat משנה שעברה, המבוסס על ראיונות עם רופאים, מנהלים ומומחי בינה מלאכותית, "ווטסון" אינה עומדת בציפיות ויכולותיה עדיין מוגבלות. אף שב־IBM מצהירים כי המערכת מסוגלת לייצר תובנות חדשות בנוגע לטיפול בסרטן, בפועל היא אינה יוצרת שום ידע חדש — ההמלצות של "ווטסון" מסתמכות רק על המידע שהזינו קומץ מפעילים אנושיים לגבי דרכי הטיפול השונות. בנוסף, אין עדיין הוכחות ש"ווטסון" אכן משפרת את הטיפול הרפואי.
תחקיר שביצע אתר "גיזמודו" העלה טענות דומות. כך למשל, טען אורן עציוני, מומחה לבינה מלאכותית בארה"ב: "'ווטסון' של IBM היא הדונלד טראמפ של תעשיית הבינה המלאכותית: טענות בומבסטיות שאינן מגובות במידע אמין. כולם יודעים שהמלך הוא עירום אך לא מודים בכך". ב-IBM טענו, מנגד, כי "ווטסון" טובה מהמתחרים שלה, ושהמערכת נמצאת עדיין בשלבי ינקות והיא משתפרת במהירות.
הזנות שגויות
אם זה לא מספיק, הדוחות של IBM מראים שההכנסות של החטיבה האחראית על "ווטסון" נמצאות בקיפאון: שיתוף פעולה חשוב עם מרכז חקר סרטן ביוסטון בוטל בשנה שעברה; המשקיע הטכנולוגי צ'מאת' פאליהפיטיה, שידוע בגישה הביקורתית שלו, אמר בראיון ל-CNBC ש"'ווטסון' היא פשוט בדיחה"; ובנק ההשקעות ג'פריס הטיל ספק ביכולת של "ווטסון" לייצר בכלל ערך לבעלי המניות של החברה — והזהיר מפני המתחרים, שמצליחים לגייס יותר מוחות וכישרונות בתחום הבינה המלאכותית.
בכל מקרה, צריך להיזהר ממסקנה גורפת. ראשית, "ווטסון" בכל זאת נחשבת, גם על ידי מבקריה, לפתרון בינה מלאכותית מתקדם ובוגר יחסית, בוודאי בשוק הרפואה, והוא עדיין, כמו כל התחום, נמצא בתחילת דרכו. בנוסף, IBM מתמודדת עם בעיות הרלוונטיות לכל התעשייה: טיב הבינה המלאכותית הוא כטיב המידע שעליו היא מתבססת. "ווטסון" מבוססת על מידע שמזינים ויוצרים בני אדם, וזה נוטה להיות שגוי, חסר ולא עקבי. ייתכן גם שהמצב הנוכחי נגרם בעיקר מכך ש-IBM הגזימה בתיאור יכולותיו ופיזרה הבטחות מרחיקות לכת מדי, שגרמו לאכזבה גדולה בשטח.
המערכת משתפרת כל הזמן. IBM מעסיקה מוחות מבריקים, מהבולטים בתחומם בעולם - אגב, לא מעט מהם במרכזי המחקר והפיתוח של החברה בישראל - שאחראים לחלק ניכר מהחידושים בתחום. הנה, רק לאחרונה הצליחה החברה להרשים עיתונאים בארץ ובעולם עם IBM Debater, מערכת בינה מלאכותית פרי פיתוח ישראלי, שמסוגלת לנהל דיבייט (דיון תחרותי) מול אדם, להציג טיעונים ולהתמודד עם טיעוני נגד.
אף שבמשרד הבריאות, בקופות החולים ובבתי החולים בארץ משתמשים בפתרונות של IBM בתחום הרפואה, לרבות פתרונות מבוססי בינה מלאכותית, ב-IBM ישראל מדגישים כי אף אחד לא משתמש עדיין בכלים של "ווטסון" בתחום האונקולוגיה, אשר נתונים כרגע במחלוקת. בנוסף, במעבדת המחקר של IBM בחיפה פועל אמנם צוות המפתח פתרונות של בינה מלאכותית בשירות הרפואה, אך הם אינם חוקרים או מפתחים את הפתרונות בתחום האונקולוגיה שהוזכרו ב"וול סטריט ג'ורנל".
טכנולוגיה לא בשלה
כך או כך, הספקות הרבים שמושמעים כנגד IBM שוב מבהירים כי יש להתייחס תמיד בספקנות בריאה לכל התחזיות המלהיבות שמרעיפות עלינו ענקיות הטכנולוגיה, בעיקר בכל הנוגע ליכולותיה הנשגבות של הבינה המלאכותית לפתור לכאורה את כל בעיותינו ולשפר את חיינו בעתיד. נכון, יש הצלחות מרשימות ומוכחות בתחום, אך במקרים רבים הטכנולוגיה פשוט לא בשלה.
למעשה, לא צריך להיות רופא שמשתמש במערכת של IBM כדי לדעת זאת. נסו לשאול משהו את הסייעת הווירטואלית "סירי" באייפון או את "גוגל אסיסטנט" באנדרואיד, ותגלו כי אף שמדובר בסייעות עם בינה מלאכותית, הן מסוגלות להבין רק פקודות ספציפיות ולבצע סט מוגבל של משימות; מערכות זיהוי דיבור ותרגום המבוססות על בינה מלאכותית אמנם מראות שיפורים מרשימים, אך רחוקות מרמה של אדם ממוצע.
לא מזמן הבטיחו לנו צ'אט-בוטים חכמים, שיכולים לעשות עבורנו הכל - אך בפועל אלה עדיין מציגים רמת תחכום של ממשקי פקודה טקסטואליים משנות ה-80; שירותי תוכן כמו "נטפליקס" ו"ספוטיפיי" מבטיחים "להבין את המשתמש לעומק" באמצעות למידת מכונה, אך שוב ושוב ממליצים לנו על שירים וסרטים לא רלוונטיים. רק לפני שנתיים אמר יאן לה-קון, בכיר בפייסבוק ואחד ממומחי הבינה המלאכותית המובילים, כי "בינה מלאכותית עדיין רחוקה מאוד מלהיות חכמה כמו בני אדם - או אפילו כמו חולדות". חוששים שהבינה המלאכותית תייתר בקרוב את מקומות העבודה של כולנו? בקצב הזה, כמו שהמקרה של IBM מוכיח, בינתיים אין ממה לחשוש.
