ב
מיזם הכלים של גילעד רחמים

✓ בחינם✓ ללא הגבלה✓ בלי פרסומות

הרבה כלים כאלה ברשת מוגבלים ומלאים בפרסומות. כאן לא, וגם בלי הרשמה – מתוך רצון לעשות חסד.

מסלול לימוד GPU ו-CUDA: מאיפה מתחילים?

שני מסלולים קצרים בעברית: אחד למי שרוצה להריץ AI על כרטיס NVIDIA, ואחד לסטודנטים להנדסת מחשבים שלומדים תכנות מקבילי וארכיטקטורה. בכל שלב – מושג אחד, תרגיל קטן, והכלי שעוזר.

לא צריך ידע קודם ב-GPU. צריך מחשב עם כרטיס NVIDIA (או חשבון בענן), ו-Python בסיסי.

להכיר את הכרטיס שלכם

לפני הכול: איזה כרטיס יש, כמה זיכרון, ואיזה דרייבר.

VRAM – הזיכרון שעל הכרטיס עצמו. הוא קובע איזה מודל בכלל נכנס. Compute Capability – הדור של הכרטיס (למשל 8.9 = RTX 40).

תרגיל: הריצו ורשמו את שם הכרטיס, כמה GB יש, ואת "CUDA Version".
nvidia-smi

להתקין PyTorch שרואה את הכרטיס

הטעות הכי נפוצה: מתקינים PyTorch בלי CUDA, והכול רץ לאט על המעבד בלי שמרגישים.

CUDA – השפה והספריות של NVIDIA שמאפשרות לתוכנות להריץ חישובים על הכרטיס.

תרגיל: צריך לראות True ואת שם הכרטיס.
python -c "import torch; print(torch.cuda.is_available(), torch.cuda.get_device_name(0))"

להריץ מודל שפה ראשון

הדרך הכי קלה היא Ollama: פקודה אחת, והמודל רץ אצלכם, בלי אינטרנט ובלי לשלם.

קוונטיזציה – לשמור כל מספר במודל בפחות ביטים (8 או 4 במקום 16). המודל קטן פי 2–4 ונכנס לכרטיס קטן יותר.

תרגיל: בדקו במחשבון כמה VRAM צריך, ואז קבלו את ההגדרות המדויקות לכרטיס שלכם.

להבין למה זה מהיר (או איטי)

כדי לכתוב כל מילה, הכרטיס קורא את כל המודל מהזיכרון. לכן מהירות הזיכרון חשובה יותר מכוח החישוב.

טוקן – חתיכת מילה (בערך ¾ מילה באנגלית). רוחב פס – כמה GB הכרטיס קורא בשנייה.

תרגיל: השוו במחשבון את אותו מודל ב-FP16 וב-4 ביט. פי כמה זה מהר יותר, ולמה?

לאמן משהו קטן משלכם (LoRA)

לא מאמנים מודל מאפס. לוקחים מודל קיים ומלמדים אותו משהו קטן – סגנון, נושא, פורמט – עם LoRA.

LoRA – במקום לשנות את כל המודל, מוסיפים לו "מתאמים" קטנים ומאמנים רק אותם. חוסך הרבה זיכרון וזמן.

תרגיל: חשבו כמה זמן ייקח לאמן מודל 3B על 2,000 דוגמאות בכרטיס שלכם.

💛 הכלי הזה חינמי ובלי פרסומות. אני בונה אותו לבד ומשלם עליו מהכיס, באהבה. אם הוא עוזר לכם, אפשר להיות שותפים: חסות, תרגיל שתכתבו, או תמיכה קטנה.

הסימונים "סיימתי" נשמרים רק בטלפון שלכם. המסלול הוא הקדמה – הוא לא מחליף קורס או את CUDA Programming Guide של NVIDIA.

🎬 מאיפה מתחילים – ככה זה עובד

⬇️ להורדת הסרטון
📄 פרוספקט לשיתוף – תמונה אחת שמסבירה הכולפרוספקט: מאיפה מתחילים – ככה זה עובד
⬇️ להורדה (פוסט)

💛 באהבה ממיזם הכלים של גילעד רחמים · מיזם חינמי להנגשה. לא הכול זה כסף: רעיון, תוכן או עזרה בהפצה, או שותפות במיזם.

ללמוד GPU ו-CUDA בעברית, צעד אחרי צעד

שני מסלולים. הראשון למתחילים שרוצים להריץ AI על כרטיס NVIDIA: להכיר את הכרטיס, להתקין PyTorch שרואה אותו, להריץ מודל שפה ראשון, להבין למה זה מהיר או איטי, ולאמן משהו קטן עם LoRA.

לסטודנטים להנדסת מחשבים

המסלול השני הוא תכנות מקבילי ב-CUDA: מודל grid, block ו-thread, היררכיית הזיכרון, occupancy והסתרת השהיה, ועוד. ליד הרבה שלבים יש קישור לכלי באתר שעוזר לתרגל.

בחינם ובלי הרשמה. כלים מהדרך: מחולל פקודות GPU, מחשבון Occupancy ומחשבון VRAM.

למבנה מחשבים: ממיר בסיסים וביטים.

איך משתמשים במסלול

בוחרים מסלול: "מתחילים עם AI" או "הנדסת מחשבים". כל שלב הוא משימה קטנה, ולידה "סיימתי". השלבים שסיימתם נשמרים בטלפון, כך שאפשר להמשיך מחר. בחלק מהשלבים יש פקודה להעתקה או שאלה עם תשובה, ובאחרים קישור לכלי שמתרגל בדיוק את מה שלומדים.

למי זה מתאים

לסטודנטים בקורסים של מבנה מחשבים ותכנות מקבילי, למפתחים שרוצים להתחיל עם AI על כרטיס בבית, ולמי שקנה כרטיס NVIDIA ולא יודע מאיפה להתחיל. אין צורך בידע קודם ב-CUDA, ובמסלול של AI גם לא בתכנות מתקדם.

מה לומדים בכל מסלול

במסלול של AI: להכיר את הכרטיס, להתקין PyTorch, להריץ מודל שפה, להבין מהירות וזיכרון, ולאמן עם LoRA. במסלול של הנדסת מחשבים: grid, block ו-thread, היררכיית הזיכרון, occupancy, ומדידה עם ncu ו-nsys.

כמה זה עולה?

כלום. האתר נבנה כחסד, בלי פרסומות ובלי איסוף פרטים, ואין צורך להירשם. אם הכלי עזר לכם, שלחו אותו לחבר. ואם חסר לכם משהו, כתבו לנו איזה כלי לבנות.

כמה זמן זה לוקח

בערך שעתיים-שלוש בשבוע, לאורך כמה חודשים.

שאלות ותשובות

מאיפה מתחילים ללמוד CUDA?

מהבנת מודל התכנות: grid, block ו-thread, ואז היררכיית הזיכרון. במסלול לסטודנטים זה מסודר לפי הסדר.

צריך כרטיס NVIDIA כדי להתחיל?

למסלול המעשי כן. אפשר להתחיל מהשלבים שמסבירים, ולהריץ אחר כך.

המסלול מתאים למי שלא מתכנת?

המסלול הראשון מתאים למתחילים שרוצים להריץ מודל. המסלול השני דורש רקע בתכנות.

זה בעברית?

כן, כל ההסברים בעברית. המונחים הטכניים נשארים באנגלית, כמו בעבודה.

צריך כרטיס NVIDIA כדי ללמוד CUDA?

כדי להריץ קוד CUDA כן. את המושגים אפשר ללמוד גם בלי כרטיס, ולהריץ קוד בענן, למשל ב-Google Colab.

עוד כלים בחינם שאולי יעזרו

לכל הכלים של ״כלים למתכנתים בעברית: AI, NVIDIA, סטודנטים וראיונות״ ←

הכלי עזר לך?

💡 יש לך רעיון איך לשפר? אשמח מאוד

או לכתוב לי בווטסאפ. אפשר לשלוח גם בלי שם ובלי פרטים. אם השארת פרטים, הם נשמרים אצלי בלבד, רק כדי לחזור אליך. פרטיות

אני קורא כל הצעה, בשמחה ובתודה. מה שייבנה בעקבות הצעה שלך יופיע כאן, ברשימה "שופר בזכותכם". מה כבר שיפרנו בכלים אחרים ←