OpenAI, חברת הבינה המלאכותית שעומדת מאחורי מחולל התמונות DALL-E2, החלה לאפשר למשתמשים להעלות תמונות עם פנים אנושיות ולערוך אותן - אפשרות שעד כה הייתה חסומה. המשמעות: מודל ה-AI הפופולרי, שבו משתמשים יותר ממיליון אנשים, יאפשר מעתה לבצע מניפולציות בתמונות של אנשים אמיתיים ולהציג אותם בסיטואציות דמיוניות, שבחלק מהמקרים שעשויות להיראות ריאליסטיות לחלוטין.
2 צפייה בגלריה
זה אני. וזה אני רוכב על חד-קרן בשמיים
(צילום: ירון ברנר, DALL-E2. תודה לאילנה וורוביוב)
2 צפייה בגלריה
שתי וריאציות של "מרים משקולות אוכל חטיף במדבר".
(צילום: ירון ברנר, DALL-E2. תודה לאילנה וורוביוב)
הפיצ'ר החדש מאפשר להעלות תמונה ל-DALL-E2 ולבקש שינויים ספציפיים, למשל בנוגע ללבוש או לשיער של אובייקט הצילום, להחליף את הרקע ולהוסיף אלמנטים נוספים. השינוי הזה צפוי להפוך את המודל לשימושי הרבה יותר עבור אמנים, צלמים, מעצבים גרפיים ומשרדי פרסום שבוחנים באמצעותו רעיונות וקונספטים שונים, גם אם בחלק מהמקרים הם בוחרים ליישם אותם באופן יותר מקצועי.
עוד כתבות שיעניינו אתכם:
OpenAI נמנעה עד כה מלאפשר עריכת תמונות של אנשים אמיתיים מחשש לניצול לרעה של הטכנולוגיה. כעת אומרים בחברה כי מערכת הבטיחות של DALL-E2 שופרה על מנת "למזער את הפוטנציאל של נזק מדיפ פייק". החברה עדיין אוסרת על העלאת תמונות של אנשים ללא הסכמתם, ועל עריכת תמונות שלמשתמשים אין את זכויות השימוש בהן. עם זאת, עדיין לא ברור כיצד החברה תאכוף את הכללים האלה.
מדרון חלקלק
"לא בדקתי בעצמי עדיין, אבל נראה שמאחורי הקלעים הם בנו סדרה של מודלים אחרים, פקחים, שינסו למנוע מאנשים להשתמש בפנים של דמויות פוליטיות או של סלבס, אבל כן תמונות של עצמם", אומר מתי מריאנסקי, מומחה לבינה מלאכותית ומייסד קבוצת הפייסבוק "עליית המכונות". לדבריו, "זה מדרון חלקלק ומלא חורים, כי תמיד יש סיכוי שהמודל לא מכיר דווקא את הפוליטיקאי החדש מהמדינה הנידחת שלי, ויאפשר לי בקלות לשנות את תסרוקתו או להלביש עליו כיפה, או כפייה, או כובע של אפיפיור, או כל דבר שישרת את המטרה שלי".
DALL-E2 הוצג לראשונה באפריל 2022 והיה החלוץ של אחת התופעות הטכנולוגיות המעניינות של השנה - מחוללי התמונות, או מודלים של text-to-image, שמאפשרים למשתמשים להקליד כיתוב תמונה על מנת לייצר באמצעות אלגוריתמים של בינה מלאכותית תמונות במגוון סגנונות, מציור בסגנון של פיקאסו ועד לצילום פוטו-ריאליסטי.
OpenAI ניסחה כללים נוקשים למדי לשימוש ב-DALL-E2 ופתחה אותו לציבור בהדרגה, בין היתר בשל חשש מניצול לרעה של הטכנולוגיה. מאז שהושק צצו ברשת מודלים מתחרים כמו Midjourney ו-Stable Diffusion, שמציבים פחות איסורים בפני המשתמשים ומאפשרים להם בין היתר לייצר תמונות של אנשים אמיתיים. כעת, על מנת לא להישאר מאחור, OpenAI מיישרת איתם קו. "הסוסים עזבו את האורווה הזאת מזמן", מסכם מריאנסקי, "לכל מי שרוצה לעשות דברים אפלים מכל סוג יש את Stable Diffusion שעובד לא פחות טוב מ-DALL-E2 ואפשר להשתמש בו בחינם וללא שום צנזורה על התוצאות".
