✓ בחינם✓ ללא הגבלה✓ בלי פרסומות
הרבה כלים כאלה ברשת מוגבלים ומלאים בפרסומות. כאן לא, וגם בלי הרשמה – מתוך רצון לעשות חסד.
מחשבון זמן ועלות אימון מודל AI
כמה שעות ייקח לאמן את המודל, על איזה כרטיס, וכמה זה יעלה בענן. לתכנן לפני ששוכרים כרטיס.
אותה עבודה על כרטיסים אחרים
החישוב: אימון מלא ≈ 6 × פרמטרים × טוקנים פעולות, LoRA ≈ 4 ×. מחולק בכוח של הכרטיס (BF16, בלי sparsity) כפול הניצול. זו הערכה לתכנון בלבד: בפועל משנים את התמונה אורך הרצפים, הספרייה, תקשורת בין כרטיסים, טעינת נתונים ושמירות ביניים. העלות לפי המחיר שהזנתם בלבד.
🎬 זמן ועלות אימון – ככה זה עובד
💛 באהבה ממיזם הכלים של גילעד רחמים · מיזם חינמי להנגשה. לא הכול זה כסף: רעיון, תוכן או עזרה בהפצה, או שותפות במיזם.
כמה זמן וכסף יעלה לאמן מודל AI
מזינים את גודל המודל, LoRA או אימון מלא, וכמה נתונים: לפי מספר דוגמאות או לפי טוקנים. בוחרים כרטיס NVIDIA וכמה כרטיסים, ומקבלים הערכה של שעות האימון. אם מזינים מחיר לשעה, מקבלים גם עלות משוערת בענן.
איך זה מחושב
אימון מלא הוא בערך 6 כפול פרמטרים כפול טוקנים פעולות, ו-LoRA בערך שני שלישים מזה. מחלקים בכוח של הכרטיס ובאחוז הניצול בפועל (MFU), שבדרך כלל 30% עד 50%. בתחתית: אותה עבודה על 14 כרטיסים.
זו הערכה לתכנון לפני ששוכרים כרטיס, לא הצעת מחיר. המחיר משתנה בין ספקים. לבדוק שהמודל נכנס לזיכרון: מחשבון VRAM.
LoRA, QLoRA או אימון מלא
באימון מלא משנים את כל המשקלות, וזה דורש הכי הרבה זיכרון וזמן. LoRA מאמן רק שכבות קטנות שמוסיפים למודל, ולכן הוא מהיר וזול יותר. QLoRA עושה אותו דבר על מודל מכווץ ל-4 ביט, וכך אפשר לאמן מודל גדול על כרטיס אחד.
כרטיס יקר יכול לצאת זול
בתחתית רואים את אותה עבודה על 14 כרטיסים. לפעמים כרטיס שעולה יותר לשעה מסיים כל כך מהר, שהעלות הכוללת יוצאת נמוכה יותר. כדאי להזין את המחיר לשעה של הספק שלכם ולהשוות.
מתי זה שימושי
לפני ששוכרים שרת בענן, כדי לדעת אם מדובר בשעות או בימים; כשמתכננים פרויקט גמר או מחקר; וכשבוחרים בין LoRA לאימון מלא. ההערכה מראה סדר גודל, לא מחיר סופי.
למה זה בחינם
הכלים של גילעד רחמים נבנים כחסד: בלי תשלום, בלי פרסומות ובלי הרשמה, כדי שכל אחד יוכל להשתמש בהם. מי שרוצה לעזור, שולח את הדף לחבר שזה יכול לעזור לו. חסר לכם כלי? אפשר לבקש כלי חדש.
שאלות ותשובות
כמה זמן לוקח אימון LoRA?
תלוי בגודל המודל, בכמות הנתונים ובכרטיס. מזינים את הנתונים ומקבלים הערכה בשעות.
מה זה MFU?
כמה מהכוח התיאורטי של הכרטיס באמת מנוצל באימון. 30% עד 50% זה טיפוסי.
איך יודעים כמה זה יעלה בענן?
מזינים את המחיר לשעה שאתם רואים אצל הספק. 0 אומר שזה כרטיס שלכם.
ההערכה מדויקת?
לא. אורך הרצפים, הספרייה, תקשורת בין כרטיסים ושמירות ביניים משנים את התמונה.
מה זה MFU באימון?
האחוז מהכוח התאורטי של הכרטיס שמנוצל בפועל באימון. בדרך כלל 30% עד 50%. ככל שהוא גבוה יותר, האימון קצר יותר.
הדף הזה בחינם?
כן. הכול כאן בחינם, בלי הרשמה ובלי פרסומות.
זה עובד גם בטלפון?
כן. הדף נפתח בדפדפן של הטלפון ושל המחשב, ולא צריך להתקין שום דבר.
עוד כלים בחינם שאולי יעזרו
לכל הכלים של ״כלים למתכנתים בעברית: AI, NVIDIA, סטודנטים וראיונות״ ←
