יישום שולחן העבודה של 77Fox ל-Windows יכול להריץ חמישה מודלי תרגום על המחשב שלכם: M2M100, Hy-MT2-1.8B, Hy-MT2-7B, Index-Translate-2B ו-Index-Translate-9B. התרגום מתבצע מקומית, הטקסט לא יוצא מהמחשב, ולא מנוכים קרדיטי AI. את המודל בוחרים קודם לפי השפות שמתרגמים, ואחר כך לפי כרטיס המסך. המודלים רצים בתוך יישום שולחן העבודה, ותוסף הדפדפן יכול להשתמש בהם דרכו; המסוף האינטרנטי ואפליקציית Android לא יכולים.
הרבה אנשים לא רוצים לשלוח חוזים, חומרים של לקוחות או מסמכים פנימיים לשום שירות ענן. בטיסה, או ברשת פנימית בלי יציאה לאינטרנט, תרגום בענן ממילא לא מתחבר, ו-API שמחויב לפי שימוש מצטבר לסכום. החלק הקשה הוא הבחירה: גודל ההורדה משתנה כמעט פי חמישה, מספר השפות נע בין 33 ל-150, והאצת GPU תלויה ביצרן של כרטיס המסך.
חמשת המודלים בטבלה אחת
| מודל | הורדה | שפות | רישיון | מפרסם | האצת GPU |
|---|---|---|---|---|---|
| M2M100 (418M) | כ-1.8 GB | כ-100 | MIT | Meta | NVIDIA בלבד |
| Hy-MT2-1.8B | כ-1.1 GB | 33 | Apache-2.0 | Tencent Hunyuan | NVIDIA, AMD, Intel |
| Hy-MT2-7B | כ-4.3 GB | 33 | Apache-2.0 | Tencent Hunyuan | NVIDIA, AMD, Intel |
| Index-Translate-2B | כ-1.2 GB | 150 | Apache-2.0 | צוות Index של bilibili | NVIDIA, AMD, Intel |
| Index-Translate-9B | כ-5.4 GB | 150 | Apache-2.0 | צוות Index של bilibili | NVIDIA, AMD, Intel |
גודלי ההורדה הם המספרים ש-77Fox מציג בהגדרות. M2M100 צריך בנוסף סביבת Python, כפי שמוסבר בסעיף הבא.
בשורה אחת לכל מודל:
- M2M100: כ-100 שפות; צריך סביבת Python, ועם כרטיס מסך של AMD או Intel הוא רץ על ה-CPU בלבד.
- Hy-MT2-1.8B: ההורדה הקטנה ביותר מבין החמישה, 33 שפות.
- Hy-MT2-7B: אותן 33 שפות, בקובץ גדול בערך פי ארבעה.
- Index-Translate-2B: 150 שפות, בקובץ שגדול רק במעט מ-Hy-MT2-1.8B.
- Index-Translate-9B: הקובץ הגדול ביותר מבין החמישה, גם הוא 150 שפות.
המודלים נמצאים ב״הגדרות ← 77foxAI ← AI מקומי״, תחת ״מודלים מקומיים״. כל אחד יורד בנפרד; כדי להסיר מודל, לוחצים לחיצה ימנית על השורה שלו ובוחרים ״הסרה ומחיקת קבצים״. הורדה אינה טעינה: מודל נכנס לזיכרון רק כשמשהו משתמש בו. הורדה שנעצרה ממשיכה מאותה נקודה, ו״החלפת תיקייה״ מעבירה את תיקיית המודלים לכונן עם יותר מקום.
שני דברים לבדוק לפני ההורדה
סביבת הריצה שכל מודל צריך
Hy-MT2 ו-Index-Translate חולקים סביבת ריצה אחת, שנקראת בממשק ״סביבת llama.cpp״ ומותקנת יחד עם הראשון מהם שמורידים. הגרסה לכרטיסי NVIDIA שוקלת כ-630 MB; במחשבים אחרים מדובר בכמה עשרות MB. מתקינים אותה פעם אחת, וארבעת המודלים חולקים אותה.
M2M100 משתמש בסביבת Python נפרדת: Python 3.10–3.13 צריך להיות מותקן כבר במחשב, ואז 77Fox מתקין בסביבה מבודדת את PyTorch ותלויות נוספות, כ-3.4 GB במסלול NVIDIA או כ-950 MB במסלול CPU. רכיבים שכבר מותקנים מדולגים, וכרטיס NVIDIA עם מנהל התקן ישן מדי עובר גם הוא למסלול CPU. בלי Python תופיע ההודעה ״לא נמצא Python 3.10–3.13. יש להתקין Python תחילה״, וגם גרסה שלא נמצאת בטווח הזה מקבלת הודעה.
מאיפה ההורדות מגיעות
Hy-MT2 ו-Index-Translate יורדים רק מ-Hugging Face, בגרסאות קבועות שנבדקות אחרי ההורדה, והתקנה שלא עברה את הבדיקה לא נחשבת מותקנת; סביבת llama.cpp מגיעה מ-GitHub. ל-M2M100 יש תפריט ״מקור הורדה״, שברירת המחדל שלו היא ModelScope, מאגר מודלים שבסיסו בסין; אם ההורדה משם נכשלת, הוא עובר ל-Hugging Face. אפשר גם לבחור ישר ב-Hugging Face.
ברשתות שבהן הגישה ל-Hugging Face או ל-GitHub מוגבלת, ייתכן ש-Hy-MT2 ו-Index-Translate לא יותקנו; את M2M100 אפשר להוריד מ-ModelScope.
בחירה לפי כרטיס מסך
| המחשב שלכם | מה קורה בבחירה אוטומטית | המלצה |
|---|---|---|
| כרטיס NVIDIA | עם מנהל התקן עדכני, כל החמישה רצים על ה-GPU דרך CUDA | בחרו לפי שפה; הקבצים של 7B ו-9B גדולים, אז השאירו מקום בזיכרון הגרפי |
| כרטיס AMD | Hy-MT2 ו-Index-Translate יכולים להשתמש ב-GPU דרך Vulkan; M2M100 רץ על ה-CPU | העדיפו את Hy-MT2 או את Index-Translate |
| כרטיס Intel | כמו AMD | כמו AMD |
| אין GPU שמיש | כל החמישה רצים על ה-CPU | התחילו ב-Hy-MT2-1.8B או ב-Index-Translate-2B: הורדה קטנה ועומס קל יותר |
האצת Vulkan בכרטיסי AMD ו-Intel דורשת שספריית הריצה של Vulkan תהיה מותקנת ב-Windows. בלעדיה נעשה שימוש ב-CPU.
הגדרת ״חומרת תרגום״
״חומרת תרגום״ מופיעה ב״הגדרות ← 77foxAI ← AI מקומי״, בהגדרות תרגום צילום המסך ובהגדרות של תוסף הדפדפן. בכל המקומות האלה זו אותה הגדרה.
- כברירת מחדל 77Fox בוחר אוטומטית ומשתמש ב-GPU כשיש אחד שמיש: NVIDIA דרך CUDA; AMD ו-Intel דרך Vulkan, אבל Vulkan עובד רק עם Hy-MT2 ו-Index-Translate, ו-M2M100 ירוץ בכרטיסים האלה על ה-CPU.
- אפשר לבחור ידנית CPU או GPU. המעבר ממתין לסיום התרגום הנוכחי ונשמר גם אחרי הפעלה מחדש. כדי לחזור לאוטומטי, לוחצים ״בחירה אוטומטית״, כפתור שמופיע רק אחרי בחירה ידנית. כשהמודל הנוכחי לא יכול להשתמש ב-GPU, אפשרות ה-GPU מוצגת באפור.
- השורה מציגה גם את ההתקן שבחרתם וגם את זה שרץ בפועל, למשל ״פועל על GPU״. גם תרגום טקסט נבחר ותרגום צילום מסך מציינים ליד משך הזמן אם הפעם רץ על CPU או על GPU.
- אם ה-GPU נכשל, מקבלים שגיאה; אין חזרה שקטה ל-CPU. אם נעלתם ידנית על GPU ואחר כך עברתם למודל שהכרטיס לא יכול להאיץ, למשל M2M100 בכרטיס AMD, הטעינה תיכשל; עברו ל״בחירה אוטומטית״ או ל-CPU.
הבחירות האלה נשמרות רק במחשב הזה ולא מסתנכרנות עם החשבון.
בחירה לפי שפה
- אם כל מה שאתם מתרגמים נמצא בתוך 33 השפות של Hy-MT2, בחרו Hy-MT2; גרסת 1.8B היא הקלה מבין החמישה, ו-7B גדולה בהרבה.
- אם בטקסט המקור מופיעות לעיתים קרובות שפות פחות נפוצות, בחרו Index-Translate, שמכסה 150.
- M2M100 נמצא באמצע עם כ-100 שפות. המגבלה שלו היא סביבת הריצה: צריך Python, והאצת GPU רק ב-NVIDIA.
- בתוך כל משפחה, שני הגדלים מכסים את אותן שפות, וההבדל הוא בגודל הקובץ ובצריכת הזיכרון.
מספרי השפות מתארים את מה שכל מודל מכסה. דרך 77Fox, מודלים מקומיים מתרגמים אל 33 שפות נפוצות, כך שמודל עם כיסוי רחב יותר בעיקר קורא יותר שפות מקור. מספר השפות גם לא אומר שכל שפה יוצאת טוב באותה מידה: אם תריצו פסקה מהחומר שאתם מתרגמים בדרך כלל דרך כל מודל מועמד, תלמדו יותר מכל טבלה.
זיכרון: מודל אחד בכל פעם, ו״להשאיר טעון״
מבין החמישה, רק מודל אחד נמצא בזיכרון או בזיכרון הגרפי בכל רגע נתון. כשמחליפים מודל, 77Fox מוודא שהקודם יצא לגמרי לפני שהוא טוען את הבא.
בלי ״להשאיר טעון״, מודל משתחרר אחרי 15 דקות ללא פעילות, והתרגום הבא ממתין שייטען מחדש. ״להשאיר טעון״ מאפשר לבחור מודל מותקן אחד: הוא נטען מיד, ונטען שוב בכל הפעלה של 77Fox. בחירה ב״ללא״ משחררת אותו מיד. כשההגדרה פעילה ותכונה אחרת שואלת לרגע מודל אחר, המודל הקבוע חוזר אחר כך. ההגדרה נמצאת ב״הגדרות ← 77foxAI ← AI מקומי״ ובהגדרות תרגום צילום המסך, ובתפריט של מגש המערכת יש מתג ״להשאיר את מודל התרגום המקומי טעון״.
| להשאיר טעון | זיכרון או זיכרון גרפי | המתנה לפני תרגום | מתאים ל |
|---|---|---|---|
| ״ללא״ (ברירת מחדל) | משתחרר אחרי 15 דקות ללא פעילות | התרגום הראשון אחרי השחרור ממתין לטעינה | שימוש מזדמן, זיכרון מוגבל |
| מודל שבחרתם | תפוס כל הזמן | אין המתנה לטעינה | שימוש יומיומי כבד, עם זיכרון פנוי |
כדאי להשתמש באותו מודל לצילומי מסך, לדפי אינטרנט ולפרומפטים. רק מודל אחד נכנס בכל פעם, ולכן ערבוב מודלים פירושו פריקה וטעינה חוזרות.
איפה המודלים המקומיים עובדים
| איפה | מודלים מקומיים? | הערות |
|---|---|---|
| תרגום דפים וטקסט נבחר | כן | דרך תוסף הדפדפן של 77Fox (מותקן בהכוונת יישום שולחן העבודה), שפונה ליישום שולחן העבודה המצומד בחיבור מקומי |
| תרגום צילום מסך | כן | ביישום Windows; ראו תרגום צילום מסך |
| תרגום פרומפטים | כן | בספריית הפרומפטים; ראו תרגום פרומפטים |
| המסוף האינטרנטי ואפליקציית Android | לא | האפשרויות המקומיות מציגות ״נדרש יישום שולחני״; אפליקציית Android טוענת את המסוף האינטרנטי |
| תוסף 77Translate העצמאי | לא | רק הערוץ החינמי של Google ומפתחות אישיים; ראו 77Translate |
לשימוש בדפדפן, השאירו את יישום שולחן העבודה של 77Fox פועל ומצומד. אם הוא לא פועל, התוסף עובר זמנית למקור הראשון שזמין לכם, בסדר הזה: Key אישי, ענן 77Fox (כשאתם מחוברים ונשארו קרדיטים בתוכנית), ואז הערוץ החינמי של Google (כשהוא לא מוגבל בקצב). בדף מוצגת הודעה חד-פעמית שאומרת ש-77Fox לא פועל ושהמודל המקומי עבר זמנית למקור אחר. בזמן הזה טקסט הדף נשלח לאותו מקור, וענן 77Fox מנכה קרדיטים. כשיישום שולחן העבודה חוזר, התוסף חוזר למודל המקומי. אם אף אחד משלושת המקורות לא זמין, התוסף מודיע שיישום שולחן העבודה לא מחובר. תרגום צילומי מסך ותרגום פרומפטים רצים בתוך יישום שולחן העבודה, כך שזה לא נוגע להם.
הגדרת התוסף מוסברת במודלי תרגום מקומיים בתוסף הדפדפן, סוגי המנועים באיך בוחרים מנוע לתרגום דפים, וצילומי מסך במדריך לתרגום צילום מסך.
שאלות נפוצות
זה עובד לגמרי בלי אינטרנט?
הורדת מודל וסביבת הריצה שלו דורשת אינטרנט; התרגום שאחרי זה רץ על המחשב שלכם. תרגום צילומי מסך ופרומפטים עם מודל מקומי עובד גם כשהרשת מנותקת. תרגום דפים פונה ליישום שולחן העבודה בחיבור מקומי, ולכן גם הוא עובד בלי אינטרנט, כל עוד היישום פועל ומצומד; אחרת התוסף עובר זמנית למקור אחר.
אפשר להשתמש בזה במחשב נייד בלי כרטיס מסך נפרד?
כן. כל חמשת המודלים רצים על ה-CPU. גם כשיש רק גרפיקה משולבת של Intel או AMD, הבחירה האוטומטית עשויה להריץ את Hy-MT2 ואת Index-Translate דרך Vulkan, וההגדרות מציגות איזה התקן נמצא בשימוש בפועל. אם הזיכרון מוגבל, התחילו ב-Hy-MT2-1.8B או ב-Index-Translate-2B, שקטנים יותר בהורדה ובטעינה.
למה אין מעבר אוטומטי ל-CPU כשה-GPU נכשל?
כדי שתמיד תדעו מה רץ בפועל. מעבר שקט היה ממשיך לייצר תרגומים ומסתיר שה-GPU לא עבד, ולא הייתם יודעים אם לתקן מנהל התקן או לשנות הגדרה. אחרי השגיאה, העבירו את ״חומרת תרגום״ ל-CPU ונסו שוב; אם נעלתם ידנית על GPU, גם ״בחירה אוטומטית״ תעבוד.
מותר להשתמש במודלים האלה למטרות מסחריות?
כאן מצוינים רק שמות הרישיונות: M2M100 תחת MIT, ו-Hy-MT2 ו-Index-Translate תחת Apache-2.0. האם זה מתאים לשימוש שלכם תלוי בנוסח הרישיון של כל מפרסם, ואין בכך ייעוץ משפטי.
מודלים מקומיים עולים כסף?
לא מנוכים קרדיטי AI. רק תרגום בענן 77Fox מחויב בקרדיטים (תמחור); מודל מקומי עולה מקום בדיסק, הורדה אחת וזמן חישוב של המחשב שלכם.