ב
מיזם הכלים של גילעד רחמים

✓ בחינם✓ ללא הגבלה✓ בלי פרסומות

הרבה כלים כאלה ברשת מוגבלים ומלאים בפרסומות. כאן לא, וגם בלי הרשמה – מתוך רצון לעשות חסד.

מחשבון CUDA Occupancy

כמה מה-SM הקרנל שלכם באמת ממלא, מה עוצר אותו, ואיזה גודל בלוק כדאי. בלי אקסל, ישר מהטלפון.

את הרגיסטרים וה-shared memory מוצאים בפלט של nvcc --resource-usage או ב-Nsight Compute.

0%

occupancy גבוה לא תמיד אומר קרנל מהיר יותר. לפעמים 50% עם יותר רגיסטרים מנצח. המחשבון לפי הטבלאות של CUDA Programming Guide; למדידה אמיתית – Nsight Compute.

🎬 CUDA Occupancy – ככה זה עובד

⬇️ להורדת הסרטון
📄 פרוספקט לשיתוף – תמונה אחת שמסבירה הכולפרוספקט: CUDA Occupancy – ככה זה עובד
⬇️ להורדה (פוסט)

💛 באהבה ממיזם הכלים של גילעד רחמים · מיזם חינמי להנגשה. לא הכול זה כסף: רעיון, תוכן או עזרה בהפצה, או שותפות במיזם.

מחשבון Occupancy ל-CUDA, בלי אקסל

בוחרים את ה-Compute Capability של הכרטיס, כמה threads יש בבלוק, כמה רגיסטרים לכל thread וכמה shared memory לבלוק. המחשבון מראה כמה מה-SM הקרנל ממלא, מה מגביל אותו, ואיזה גודל בלוק נותן הכי הרבה.

מאיפה לוקחים את המספרים

את הרגיסטרים וה-shared memory מוצאים בפלט של nvcc --resource-usage או ב-Nsight Compute. החישוב לפי הטבלאות של CUDA Programming Guide, ומחליף את גיליון האקסל הישן של NVIDIA.

occupancy גבוה לא תמיד אומר קרנל מהיר יותר, ולפעמים 50% עם יותר רגיסטרים מנצח. למדידה אמיתית: Nsight Compute. ללמוד מההתחלה: מסלול לימוד GPU ו-CUDA.

מה זה Occupancy

כל SM בכרטיס יכול להחזיק מספר מוגבל של warps בבת אחת. Occupancy הוא היחס בין ה-warps הפעילים למקסימום. כשיש הרבה warps, הכרטיס מסתיר את זמן ההמתנה לזיכרון: בזמן ש-warp אחד מחכה, אחר עובד.

מה מגביל את הקרנל

שלושה דברים: מספר ה-threads בבלוק, מספר הרגיסטרים לכל thread, וכמות ה-shared memory לבלוק. המחשבון מראה איזה מהם הוא צוואר הבקבוק, כדי שתדעו מה לשנות.

איך משתמשים

בוחרים את הדור של הכרטיס, ומזינים threads בבלוק, רגיסטרים ל-thread ו-shared memory לבלוק. מקבלים את אחוז ה-occupancy, מה מגביל אותו, ואיזה גודל בלוק נותן הכי הרבה. "לחזור לדוגמה" מחזיר את ערכי ההתחלה. החישוב רץ בדפדפן, בלי אקסל ובלי התקנה.

בחינם, ובלי הרשמה

אין כאן מנוי, אין גרסת פרימיום ואין פרסומות. הכלי בנוי כחסד, לכל מי שצריך אותו, ורץ בדפדפן שלכם. הדרך הכי טובה לעזור היא לשלוח את הקישור למי שזה יכול לחסוך לו זמן, או לספר לנו מה עוד חסר.

שאלות ותשובות

מה זה occupancy ב-CUDA?

היחס בין ה-warps שפעילים על ה-SM לבין המקסימום שהוא יכול להחזיק. יותר warps עוזרים להסתיר המתנה לזיכרון.

מה מגביל את ה-occupancy?

אחד משלושה: מספר ה-threads בבלוק, הרגיסטרים לכל thread, או ה-shared memory לבלוק. המחשבון מראה מי מהם עוצר.

איזה גודל בלוק כדאי?

המחשבון מציג גרף של כל הגדלים ומסמן את הטוב ביותר לנתונים שהזנתם. כדאי גם למדוד, כי זו לא תמיד הבחירה המהירה.

זה עובד בטלפון?

כן. הכול בדפדפן, בחינם ובלי הרשמה.

מה גודל בלוק טוב ב-CUDA?

בדרך כלל כפולה של 32, כמו 128 או 256. המחשבון מראה איזה גודל נותן את ה-occupancy הגבוה ביותר לכרטיס שלכם.

הדף הזה בחינם?

כן. הכול כאן בחינם, בלי הרשמה ובלי פרסומות.

עוד כלים בחינם שאולי יעזרו

לכל הכלים של ״כלים למתכנתים בעברית: AI, NVIDIA, סטודנטים וראיונות״ ←

הכלי עזר לך?

💡 יש לך רעיון איך לשפר? אשמח מאוד

או לכתוב לי בווטסאפ. אפשר לשלוח גם בלי שם ובלי פרטים. אם השארת פרטים, הם נשמרים אצלי בלבד, רק כדי לחזור אליך. פרטיות

אני קורא כל הצעה, בשמחה ובתודה. מה שייבנה בעקבות הצעה שלך יופיע כאן, ברשימה "שופר בזכותכם". מה כבר שיפרנו בכלים אחרים ←