הבינה המלאכותית יצרה נגיף שמסוגל להתרבות - האם האנושות בסכנה?

בינה מלאכותית הצליחה לתכנן לראשונה גנומים של נגיפים מתפקדים, שיוצרו לאחר מכן במעבדה. אילוסטרציה: AI

עד לא מזמן, החיבור בין בינה מלאכותית ליצירת נגיפים נשמע כמו תרחיש ששייך בעיקר למדע בדיוני. עכשיו נחצה גבול חדש: חוקרים מאוניברסיטת סטנפורד וממכון ארק השתמשו במודלים של בינה מלאכותית כדי לתכנן גנומים שלמים של נגיפים חדשים. כשהתכנונים הללו הפכו ל - DNA אמיתי במעבדה, חלקם אכן יצרו נגיפים מתפקדים.  

המחקר, שפורסם בכתב העת המדעי Science עשה שימוש במודלים הגונמיים Evo1 ו – Evo2, אשר לומדים את "שפת" ה – DNA, באופן שמזכיר ברמה העקרונית את הדרך שבה מודלי שפה, לומדים קשרים ודפוסים בתוך טקסט. אלא שבמקום לייצר משפט חדש, כאן המשימה היתה שאפתנית בהרבה: לייצר רצף גנטי של נגיף שלם.

אבל לפני שנכנסים לפאניקה, חשוב להבהיר: הנגיפים שנוצרו במחקר אינם מדביקים בני אדם. מדובר בבקטריופאג'ים, או בקיצור פאג'ים – נגיפים שתוקפים חיידקים. לצורך הניסוי, בחרו החוקרים בחיידק – אי. קולי (שנמצא במעיים בדרך כלל), כמטרה שעליה יבדקו אם הנגיפים שתכננה הבינה המלאכותית אכן מסוגלים לפעול - להדביק את החיידק, להתרבות בתוכו ולהשמיד אותו.

מה בדיוק עשתה הבינה המלאכותית?

כדי להבין את גודל ההישג, צריך להבין קודם מה החוקרים לא עשו. הם לא ביקשו מצ'אטבוט "תמציא לי נגיף" וקיבלו יצור חי מתוך המחשב. התהליך היה מורכב הרבה יותר, והחלק הפיזי שלו בוצע בידי החוקרים במעבדה.

נקודת המוצא היתה בקטריופאג' מוכר בשם ΦX174 – נגיף קטן שתוקף חיידקי אי קולי. החוקרים השתמשו בשני מודלים גנומיים מתקדמים Evo1 ו – Evo2, כדי לייצר גנומים חדשים של פאג'ים, כאשר ΦX174 משמש כתבנית התכנון.

בדומה למודל שפה שלומד ממספר עצום של טקסטים כיצד מילים ומשפטים מתחברים זה לזה, המודלים הגנומיים למדו דפוסים מתוך כמויות עצומות של מידע גנטי. לאחר מכן הם התבקשו ליצור רצפי DNA חדשים בעלי מבנה גנטי מתאים ותכונות שיאפשרו להם, לפחות באופן תיאורטי, לתפקד כפאג'ים.

התוצאה הראשונית היתה מספר עצום של רצפים אפשריים. לאחר סינון ובחירה הגיעו החוקרים ל-302 עיצובים שאותם ניסו לייצר ולבדוק באופן ניסויי.

וכאן הגיע המבחן האמיתי.

את רצפי ה-  DNA שהציעה הבינה המלאכותית היה צריך לסנתז - כלומר להפוך את המידע הדיגיטלי למולקולות DNA אמיתיות - ולאחר מכן לבדוק אם התוכנית הגנטית אכן מסוגלת לייצר נגיף פעיל.

 16 מהעיצובים עברו את המבחן.

הם יצרו פאג'ים חיים ומתפקדים, שהצליחו להדביק חיידקי אי. קולי, להשתכפל בתוכם ולגרום להרס שלהם. החוקרים מתארים במאמר שזו הפעם הראשונה שבה הודגם תכנון גנרטיבי של גנומים שלמים של בקטריופאג'ים בני-קיימא.

וזה ההבדל החשוב בין ניסוי מחשב לבין מה שקרה כאן: ה-AI לא רק חזה שרצף מסוים עשוי לעבוד. הרצף שתכנן הפך לחומר ביולוגי - והחומר הביולוגי אכן תפקד כנגיף.

לא מדובר בהעתקים של נגיף שכבר קיים

הפאג'ים שנוצרו הציגו מידה משמעותית של שונות אבולוציונית. חלקם אף הראו ביצועים טובים יותר מפאג' הייחוס בתחרויות גדילה ובקצב שבו גרמו להרס תאי החיידקים.

החוקרים בדקו גם מה קורה כאשר החיידקים מפתחים עמידות. הם יצרו "קוקטייל" של הפאג'ים שתוכננו באמצעות AI והפעילו אותו נגד שלושה זני אי קולי,  שפיתחו עמידות ל ΦX174  תערובת הפאג'ים הצליחה להתגבר במהירות על העמידות.

זו אינה עדיין תרופה חדשה, אבל התוצאה מדגימה מדוע המחקר מעורר עניין רפואי גדול.

למה בכלל אנחנו רוצים ליצור נגיפים?

כשאנחנו שומעים את המילה "נגיף", רובנו חושבים מיד על שפעת, קורונה או מחלה אחרת. אלא שבקטריופאג'ים הם סיפור שונה לחלוטין: האויב שלהם הוא החיידק.

כבר יותר ממאה שנה ידוע שפאג'ים מסוגלים להרוג חיידקים, וטיפול באמצעותם - המכונה "טיפול בפאג'ים" - נחקר כאפשרות להתמודדות עם זיהומים חיידקיים. בשנים האחרונות העניין בתחום גדל במיוחד בגלל אחת הבעיות הקשות של הרפואה המודרנית: עמידות לאנטיביוטיקה.

כאשר חיידק הופך עמיד לתרופות, האפשרויות לטפל בזיהום שהוא גורם הולכות ומצטמצמות. פאג' שמסוגל לזהות דווקא את אותו חיידק, להיכנס אליו ולהרוס אותו עשוי להציע דרך אחרת לתקוף את הזיהום.

אלא שגם חיידקים יכולים לפתח עמידות לפאג'ים.

וכאן הבינה המלאכותית עשויה לשנות את כללי המשחק. במקום להסתמך רק על מציאת פאג'ים מתאימים בטבע, החזון הוא שבעתיד יהיה אפשר לתכנן פאג'ים בעלי תכונות רצויות - ואולי אף לייצר שילובים שמקשים על החיידקים לפתח נגדם עמידות.

במאמר המדעי עצמו כותבים החוקרים כי תוצאות הניסוי מדגימות את הפוטנציאל של השיטה לתכנון טיפולי פאג'ים נגד פתוגנים חיידקיים שמתפתחים במהירות.

היכולת לתכנן נגיפים באמצעות בינה מלאכותית עשויה לסייע בעתיד בפיתוח טיפולים נגד חיידקים עמידים לאנטיביוטיקה. אילוסטרציה: AI

"רגע די מדהים"

בריאן היי, חוקר מאוניברסיטת סטנפורד וממכון ארק והחוקר הבכיר במחקר, תיאר בראיון ל-וול סטריט ג'ורנל את המפגש עם התוצאה הפיזית של עבודת הבינה המלאכותית כרגע יוצא דופן.

היי הדגיש גם את הצד החיובי של הטכנולוגיה: לדבריו, אם היכולת הזאת תפותח באופן אחראי, היא עשויה להביא תועלת גדולה לבריאות האדם.

אבל דווקא הצלחת הניסוי היא גם הסיבה לכך שמומחים לביואבטחה מסתכלים עליו בדאגה.

אם AI יכול לתכנן פאג', האם הוא יוכל לתכנן גם נגיף שמדביק אותנו?

זו השאלה שעומדת במרכז הוויכוח שנוצר בעקבות המחקר.

התשובה הנכונה כרגע היא: המחקר הזה אינו מוכיח יכולת כזאת.

הפאג'ים שנוצרו הם מערכות ביולוגיות פשוטות יחסית שמדביקות חיידקים, והחוקרים נקטו אמצעי זהירות שנועדו למנוע מהמערכת לעסוק בפתוגנים אנושיים. אין במחקר עדות לכך שהמודלים שבהם השתמשו מסוגלים כיום לתכנן מאפס נגיף מסוכן שמדביק בני אדם.

אבל מבחינת מומחי ביואבטחה, השאלה היא לא רק מה המודלים מסוגלים לעשות היום - אלא לאן הטכנולוגיה הזאת מתקדמת.

מוריץ הנקה וטום אינגלסבי מהמרכז לביטחון בריאות בבית הספר לבריאות הציבור של אוניברסיטת ג'ונס הופקינס הזהירו בעקבות המחקר מפני הפער שבין קצב ההתקדמות של הטכנולוגיה לבין מנגנוני הפיקוח עליה. בראיון ל-גרדיאן הסביר הנקה כי מודלים עתידיים עלולים, עקרונית, לשמש גם לשינוי תכונות של נגיפים - למשל יכולת ההדבקה שלהם או חומרת המחלה שהם גורמים ולכן, לדבריו, מדובר ביכולת שצריך להתחיל לנהל את הסיכונים שלה כבר עכשיו.

הדאגה אינה מפני 16 הפאג'ים שנוצרו במחקר. החשש הוא מפני התקדים: מחשב כבר מסוגל לייצר תוכנית גנטית של נגיף שלם שמתבררת כתוכנית עובדת.

לא כולם חושבים שאנחנו בדרך למגפה שתוכננה ב - AI

לצד האזהרות, מומחים אחרים מזהירים מפני הפיכת המחקר לתרחיש אימה.

פרופ' טום אליס, מומחה לביולוגיה סינתטית ולהנדסת גנומים באימפריאל קולג' לונדון, אמר ל-גרדיאן כי אמנם מדובר בעבודה מרשימה, אבל חשוב להבין שהפאג' שנבחר הוא מערכת קטנה ופשוטה יחסית.

אליס סבור גם שהחשש מפני בנייה מלאה של נגיף או חיידק מסוכן באמצעות AI עלול לקבל כיום משקל גדול מדי. מבחינתו של גורם המבקש לגרום נזק, הסביר, שינוי של פתוגן מסוכן שכבר קיים עשוי להיות דרך פשוטה יותר מאשר ניסיון לתכנן מערכת ביולוגית חדשה מאפס.

גם בריאן היי אמר ל-וול סטריט ג'ורנל כי במצב הנוכחי של הטכנולוגיה, אדם המבקש ליצור פתוגן מזיק כנראה לא היה בוחר ב – AI, כדרך הקלה ביותר לעשות זאת, משום שפתוגנים מסוכנים כבר קיימים בטבע.

כלומר,  אין בסיס מדעי לקביעה שהבינה המלאכותית יכולה כיום "להמציא את המגפה הבאה" בלחיצת כפתור. אבל זה גם לא אומר שאין סיבה לחשוב על הסיכון העתידי.

"רגע די מדהים"

בריאן היי, חוקר מאוניברסיטת סטנפורד וממכון ארק והחוקר הבכיר במחקר, תיאר בראיון ל-וול סטריט ג'ורנל את המפגש עם התוצאה הפיזית של עבודת הבינה המלאכותית כרגע יוצא דופן.

היי הדגיש גם את הצד החיובי של הטכנולוגיה: לדבריו, אם היכולת הזאת תפותח באופן אחראי, היא עשויה להביא תועלת גדולה לבריאות האדם.

אבל דווקא הצלחת הניסוי היא גם הסיבה לכך שמומחים לביואבטחה מסתכלים עליו בדאגה.

אם AI יכול לתכנן פאג', האם הוא יוכל לתכנן גם נגיף שמדביק אותנו?

זו השאלה שעומדת במרכז הוויכוח שנוצר בעקבות המחקר.

התשובה הנכונה כרגע היא: המחקר הזה אינו מוכיח יכולת כזאת.

הפאג'ים שנוצרו הם מערכות ביולוגיות פשוטות יחסית שמדביקות חיידקים, והחוקרים נקטו אמצעי זהירות שנועדו למנוע מהמערכת לעסוק בפתוגנים אנושיים. אין במחקר עדות לכך שהמודלים שבהם השתמשו מסוגלים כיום לתכנן מאפס נגיף מסוכן שמדביק בני אדם.

אבל מבחינת מומחי ביואבטחה, השאלה היא לא רק מה המודלים מסוגלים לעשות היום - אלא לאן הטכנולוגיה הזאת מתקדמת.

מוריץ הנקה וטום אינגלסבי מהמרכז לביטחון בריאות בבית הספר לבריאות הציבור של אוניברסיטת ג'ונס הופקינס הזהירו בעקבות המחקר מפני הפער שבין קצב ההתקדמות של הטכנולוגיה לבין מנגנוני הפיקוח עליה. בראיון ל-גרדיאן הסביר הנקה כי מודלים עתידיים עלולים, עקרונית, לשמש גם לשינוי תכונות של נגיפים - למשל יכולת ההדבקה שלהם או חומרת המחלה שהם גורמים ולכן, לדבריו, מדובר ביכולת שצריך להתחיל לנהל את הסיכונים שלה כבר עכשיו.

הדאגה אינה מפני 16 הפאג'ים שנוצרו במחקר. החשש הוא מפני התקדים: מחשב כבר מסוגל לייצר תוכנית גנטית של נגיף שלם שמתבררת כתוכנית עובדת.

לא כולם חושבים שאנחנו בדרך למגפה שתוכננה ב - AI

לצד האזהרות, מומחים אחרים מזהירים מפני הפיכת המחקר לתרחיש אימה.

פרופ' טום אליס, מומחה לביולוגיה סינתטית ולהנדסת גנומים באימפריאל קולג' לונדון, אמר ל-גרדיאן כי אמנם מדובר בעבודה מרשימה, אבל חשוב להבין שהפאג' שנבחר הוא מערכת קטנה ופשוטה יחסית.

אליס סבור גם שהחשש מפני בנייה מלאה של נגיף או חיידק מסוכן באמצעות AI עלול לקבל כיום משקל גדול מדי. מבחינתו של גורם המבקש לגרום נזק, הסביר, שינוי של פתוגן מסוכן שכבר קיים עשוי להיות דרך פשוטה יותר מאשר ניסיון לתכנן מערכת ביולוגית חדשה מאפס.

גם בריאן היי אמר ל-וול סטריט ג'ורנל כי במצב הנוכחי של הטכנולוגיה, אדם המבקש ליצור פתוגן מזיק כנראה לא היה בוחר ב – AI, כדרך הקלה ביותר לעשות זאת, משום שפתוגנים מסוכנים כבר קיימים בטבע.

כלומר, אין בסיס מדעי לקביעה שהבינה המלאכותית יכולה כיום "להמציא את המגפה הבאה" בלחיצת כפתור. אבל זה גם לא אומר שאין סיבה לחשוב על הסיכון העתידי.

לצד החששות, מומחים מדגישים כי המחקר אינו מוכיח שבינה מלאכותית מסוגלת כיום ליצור נגיף מסוכן לבני אדם. אילוסטרציה: AI

הבעיה: אותו כלי יכול לרפא - וגם לייצר נזק

התחום הזה מכונה לעתים "שימוש כפול": טכנולוגיה שיכולה לשמש למטרות מועילות מאוד, אבל אותה יכולת עצמה עלולה לשמש גם למטרות מסוכנות.

ד"ר פיליפה לנצוס, מומחית לביואבטחה ולביטחון בינלאומי בקינגס קולג' לונדון, הסבירה ל-גרדיאן בעקבות המחקר כי ההתמודדות אינה יכולה להסתכם בחסימה של מודל AI מסוים. לדבריה, נדרשות כמה שכבות של הגנה: אמצעי בטיחות בתוך המודלים עצמם, פיקוח על המחקר, בקרה על סינתזת  DNA  ובטיחות וביטחון ביולוגיים במעבדות.

לנצוס עוסקת בדיוק בנקודת המפגש הזאת בין מדעי החיים לביטחון: היא עומדת בראש קבוצת הייעוץ הטכנית של ארגון הבריאות העולמי לשימוש אחראי במדעי החיים ולמחקר דו-שימושי.

ויש עוד מחסום חשוב בין המחשב לנגיף

המחקר הנוכחי גם ממחיש דבר שקל לשכוח כשקוראים כותרת על AI שיצר נגיף: קובץ מחשב אינו נגיף.  גם אם מודל AI מסוגל להציע רצף גנטי, צריך עדיין להפוך את הרצף הזה ל- DNA  אמיתי, לעבוד איתו במעבדה ולהצליח לגרום למערכת הביולוגית לפעול.

השלב הזה מאפשר ליצור שכבת הגנה נוספת. חברות שמייצרות DNA סינתטי יכולות לסרוק הזמנות ולזהות רצפים בעייתיים לפני הייצור. זו אחת הסיבות שמומחי ביואבטחה מדגישים שהפיקוח צריך להתקיים לאורך כל השרשרת - מהמודל שמייצר את המידע ועד המקום שבו המידע הופך לחומר ביולוגי.

אז האם צריך לפחד?

לא מהנגיפים שנוצרו במחקר הזה.

אין ראיה שהם מסוכנים לבני אדם, והם נועדו לפגוע בחיידקים. להפך: אם הטכנולוגיה תמשיך להתפתח באופן מבוקר, היא עשויה לתרום דווקא להתמודדות עם אחת הסכנות הבריאותיות הגדולות של העשורים הקרובים - חיידקים שאנטיביוטיקה כבר אינה מצליחה להרוג.

אבל המחקר כן מסמן שינוי עמוק יותר.

עד היום התרגלנו לחשוב על בינה מלאכותית ככלי שמייצר מידע: טקסטים, תמונות, סרטונים, מוזיקה או קוד. בביולוגיה, הגבול בין מידע לחומר מטושטש יותר. רצף DNA הוא מידע - אבל כאשר מסנתזים אותו ומכניסים אותו למערכת ביולוגית מתאימה, המידע הזה יכול להפוך למשהו שפועל בעולם הפיזי.

ייתכן שבעתיד נגיפים שתוכננו בדרך הזאת יעזרו לרופאים להציל חולים מזיהומים שכבר אינם מגיבים לאנטיביוטיקה. באותה נשימה, עצם היכולת לתכנן מערכות ביולוגיות שלמות מחייבת את המדע ואת הרשויות לחשוב כבר עכשיו על הגבולות ועל מנגנוני ההגנה.

כי השאלה שהמחקר הזה משאיר אחריו כבר אינה האם בינה מלאכותית מסוגלת לתכנן נגיף מתפקד. עכשיו אנחנו יודעים שכן. השאלה היא מה תבחר האנושות לעשות עם היכולת הזאת.

*חלק מהתמונות והתכנים המופיעים בכתבה זו הוכנו בעזרת מחוללי בינה מלאכותית. אם זיהיתם תמונה או תוכן כלשהו בו אתם בעלי זכויות יוצרים, אתם רשאים לפנות אלינו ולבקש לחדול משימוש בו, באמצעות כתובת המייל[email protected] 

**המידע במאמר זה הינו כללי בלבד ואינו מהווה תחליף לייעוץ רפואי מקצועי