**🧠 פרק 19: ניהול Context Window - המדריך המלא | CloudAI Podcast — Transcript & Summary | SozAI**
Source: https://sozai.app/transcript/context-window-management-cloudai-podcast/

מדריך מקיף לניהול Context Window ב-AI, עם טיפים מעשיים לשימוש ב-GPT, קלוד, וג'מיני, והסברים על בעיות כמו Context Rots.

## Key Takeaways

- גודל ה-Context Window משפיע על איכות וזמינות המידע אך לא תמיד גודל גדול יותר הוא טוב יותר.
- Context Rots היא תופעה נפוצה שמורידה את איכות התשובות במודלים עם קונטקסט ארוך ומבולגן.
- יש להקפיד על ניהול נכון של הקונטקסט ולשלוח רק מידע רלוונטי כדי לשפר ביצועים ולחסוך עלויות.
- פתיחת שיחה חדשה מומלצת כשמשנים נושא או מתחילים פרויקט חדש כדי למנוע בלבול במודל.
- שימוש באגנטים וכלים חיצוניים יכול לשפר את ניהול הקונטקסט ולהפוך את העבודה עם AI ליעילה יותר.

## What the video covers

- הסבר על מהו Context Window וכיצד הוא מגביל את המידע שהמודל יכול לזכור ולהבין.
- סקירה של גדלי ה-Token Window במודלים שונים כמו GPT 4.0, קלודסונט וג'מיני, והמשמעות של גודל זה.
- הצגת תופעת Context Rots – ירידה באיכות התשובות כאשר הקונטקסט מלא ומבולגן.
- הסברים על סימנים לזיהוי Context Rots, כמו שכחת מידע, תשובות גנריות, טעויות, איטיות וחזרה על מידע.
- הצגת תופעת Loss in the Middle – מידע באמצע הקונטקסט עלול ללכת לאיבוד, והמלצה למקם מידע חשוב בתחילת או בסוף המסמך.
- טיפים מעשיים לשימוש יומיומי עם מודלים: לשלוח רק קטעים רלוונטיים מהמסמך או הקוד, לא את הכל בבת אחת.
- חלוקה לשימושים עיקריים: כתיבה ועריכה, פיתוח תוכנה, ושימושים עסקיים עם AI ווקטור דטאבייס.
- הסבר על ניהול הקונטקסט בעולמות העסקיים והטכנולוגיים, כולל שימוש באגנטים וכלים חיצוניים.
- המלצות לפתיחת שיחה חדשה כשמשנים נושא או מתחילים פרויקט חדש לשמירה על איכות התשובות.
- דיון על עלויות השימוש ב-API בהתאם לגודל הקונטקסט וכיצד לנהל זאת בצורה יעילה.

## Chapters

1. 00:00 הקדמה והצגת הנושא – מה זה Context Window?
2. 03:31 גדלי הקונטקסט במודלים שונים והשפעותיהם
3. 06:39 תופעת Context Rots – מה זה ואיך מזהים?
4. 10:03 טיפים מעשיים לשימוש יומיומי ב-AI
5. 13:01 מתי לפתוח שיחה חדשה ולמה זה חשוב
6. 19:04 ניהול קונטקסט בעולם העסקי וטכנולוגיות מתקדמות
7. 26:12 שימוש באגנטים ווקטור דטאבייס לניהול קונטקסט
8. 29:18 סיכום והמלצות לניהול יעיל של Context Window

Answers

## Questions about this video

מה זה Context Window ואיך הוא משפיע על השימוש במודלי שפה?

Context Window הוא גבול הזיכרון של המודל שמאפשר לו לראות ולהבין רק חלק מהשיחה או הטקסט בו זמנית. ככל שהקונטקסט גדול יותר, המודל יכול לשלב יותר מידע, אך יש מגבלות טכניות וכלכליות.

מהי תופעת Context Rots ואיך ניתן להימנע ממנה?

Context Rots היא ירידה באיכות התשובות כאשר הקונטקסט מלא במידע לא רלוונטי או סותר. ניתן להימנע ממנה על ידי ניהול נכון של הקונטקסט, שליחת מידע רלוונטי בלבד ופתיחת שיחות חדשות כשמשנים נושא.

כיצד מומלץ לנהל שיחות ארוכות עם מודלים כמו קלוד או GPT?

מומלץ לשלוח רק את הקטע הרלוונטי שאתה עובד עליו בתוספת קונטקסט קצר, ולפתוח שיחה חדשה כשמשנים נושא או מתחילים פרויקט חדש, כדי לשמור על איכות התשובות ולחסוך עלויות.

## Full Transcript — Download SRT & Markdown

00:01

Speaker A

שלום לכולם, ברוכים הבאים לפרק מספר 19. זה אחד חי פלוס 1 של קלאודי א. אני אריאל, ואיתי גרגיל, הגאון הביתי שלנו, ניר שילוני. מה ינימם ניר? אריאל לכולם. גאון? זה קצת מוגזם, אבל קונטקסט ווינדו על זה אני יכול לדבר שעות.

00:24

Speaker A

יפה, בסדר. אז על זה עשית לי ספוילר, על זה נדבר היום על קונטקסט ווינדו, ואני חייב, חייב להגיד לך שזה אחד הנושאים שאני חושב שאנשים חושבים שהם מבינים בו, אבל לא בטוח מבינים מספיק. כמו נגיד ככה.

00:43

Speaker A

זה נכון? זה נכון 100%. שמעתי כבר אנשים שמספרים על זה שהם פתחו שיחה חדשה כי קלוד נהיה, ולא ידעו שיש לזה שם, יש לזה סיבה, יש לזה פתרון.

01:00

Speaker A

יפה, אז היום המטרה שלנו בעצם זה לעשות סדר, וככה אולי יתן לו קצת בריף, בריף קצת יותר ארוך. רגע, מה בדיוק נכסה היום? כי זה תחום מאוד רחב, נכון?

01:20

Speaker A

יפה. אז היום אנחנו נשתדל לעבור באמת על כל הרמות של מה זה בכלל קונטקסט ווינדו. נתחיל מהבייס למה זה חשוב. נעבור לטיפים מעשיים שכל מי שמשתמש ב-GPT, ג'מיני,

01:29

Speaker A

name it whatever ביום יום. נדבר על מה שנקרא קונטקסט רות, התופעה שאוכלת לכם את השיחות בלי שתרגישו.

01:50

Speaker A

ולבסוף, כמו שאנחנו משתדלים תמיד לעשות, יכנס מהעולם הפרטי לעולם העסקי, אזור AI בדרוק ורטקס, כל הדברים מסביב, וכמובן איך אפשר בלי אגנטים. בסוף הפרק הזה תצאו עם צידה לדרך, לשנה, לכם את הוורקלואו שלך עובדים גם באמת ברמה היומיומית עד הרמה האנטרפרייז.

02:09

Speaker A

גריד הכי גבוהה, מעולה. ונגעת בנקודה חשובה בסוף, אמרת רגע שיש הרבה רמות, ויש לנו מאזינים, מאזינים גם שכל אחד בעולם תוכן אחר שלו. אז בוא נתחיל מהשאלה הבסיסית ביותר, מה זה בכלל קונטקסט ווינדו, ובבקשה נייר גובה העיניים.

02:30

Speaker A

יפה, אוקיי, אוקיי. אנלוגיה פשוטה: שאתה מדבר עם עוזר שמאוד מאוד חכם, אבל יש לו מגבלה אחת, הוא יכול לראות רק חלק מהשיחה שלכם. כל מה שנמצא בתוך החלון הזה הוא זוכר ומבין. כל מה שיצא מהחלון הוא פשוט לא יודע שקיים.

02:52

Speaker A

אוקיי, אז אם אני יכול לדמות את זה, זה כמו שאני אוהב לכתוב על דפי ארבע ניערות, והוא יכול לראות רק את הדפים שנמצאים על השולחן, בול. ובדיוק כמו שולחן, יש לו גודל מוגבל. הגודל, הגודל זה עמדד בטוקנים. טוקנים זה לא בדיוק מילה, זה לא שטוקן שווה מילה, זה כמו חתיכת מילה במוצא באנגלית. א זה בערך ארבעה תווים לטוקן. גורטיק בעברית, אם אתה זוכר, אנחנו משלמים קצת יותר.

03:12

Speaker A

אוקיי, זה קצת יותר יקר. מילה בעברית בישראל ובעברית משלמים יותר נכון. לפעמים זה בין פי שתיים לבין קצת פחות. זאת אומרת, נגיד א, אה, מילה אחת בעברית שווה שניים שלושה טוקנים פחות או יותר. אז איזה גדלים יש? יש בשוק היום של א של טוקנים?

03:31

Speaker A

יפה, אז הנפ השתנה מאוד. ניקח דווקא כרפרנס לא את ה-GPT החדש 5.2, אלא דווקא את 4.0, כי הוא מאוד סולידי בקטע הזה. יש לו 128K טוקנים, 128,000 טוקנים. קלודסונט 4ח, יש לך 200,000 טוקנים, זה אחד הגדולים. וג'מיני, ג'מיני 3פו, ג'מיני העוצמתי שלנו, יש לך 1 מיליון טוקנים, ובאולטרה שני מיליון טוקנים. אבל הנהקץ' גדול, זה לא תמיד בהכרח טוב, ולא בהכרח כמה שיש יותר יתן לנו את הגביע הקדוש.

03:57

Speaker A

אז אתה אומר הגודל לא תמיד קובע?

04:04

Speaker A

ואיך זה יכול להיות? בסוף, ממה שאני מכיר בעולם של המחשוב, ככל שיש יותר זיכרון, לרוב זה יותר טוב.

04:24

Speaker A

זו שאלה מצוינת. יש לנו בעצם שתי בעיות עיקריות. ראשית, עלות, כסף. כל טוקן עולה כסף. API מחושבים לפי טוקנים. אם הקונטקסט ווינדו שלך ענק, אוקיי? כל מה שתקשר איתו, אתה משלם יותר על כל request. זה לא רק על כי כל request נשלח כל פעם מחדש. אוקיי? שנית, ויש לזה שם, קונטקסט פאושן, כמו זיהום קונטקסט, כמו שאמרנו מקודם, ככל שהקונטקסט ארוך ארוך יותר, המודל צריך לחפש בעצם בתוך כמות עצומה של מידע ולהחליט מה רלוונטי, ולפעמים הוא פשוט מפסיד דברים באמצע. וואלה, אז זה כבר אירוע משמעותי, זה אשכרה מפחיד אם דברים נעלמים באמצע או שזה נתקע באמצע. יש בכל מקרה איזה סוט ספוט כזה שנוכל לדעת מה הוא. יש, ואנחנו נדבר עליו.

04:42

Speaker A

בוא ניגע קוד כל, בבסיס באמת. מה בכלל נכנס לתוך הקונטקסט ווינדו עצמו?

05:03

Speaker A

אוקיי, אז בוא נדבר על, דיברנו על וינדו, נכון? אז נניח שאני פותח צ'אט, שיחה עם קלאוד, עם קלאוד. קלאוד, אני קורא לו כיפה, אמרתי פעם קוראים לו קלאודי. מה קורה בחלון?

05:17

Speaker A

כן, הראשית יש לך את מה שנקרא סטמפומפט, אם יש. אוקיי, זה אורחות שמגדירות איך היה מתנהג. שנית, כל היסטוריית השיחות, אוקיי? כל מה שכתבת, כל מה שקלאוד דנה. שלישית, כל מסמך, קובץ או קוד שהעלית. ורביעית, אם זה רלוונטי, אגנטים, תוצאות של הטולים, של הכלים, כמו תוצאות חיפוש, שליפה עם השדה נתונים למשל, וכדומה. כל זה ביחד מייצרים לך את הקונטקסט של אותה שיחה. אוקיי?

05:36

Speaker A

אז אני יכול, תתקן אותי אם אני טועה, אז בעצם שיחה ארוכה שווה קונטקסט מלא שווה הרבה בעיות או בעיות?

05:57

Speaker A

פחות או יותר.

06:11

Speaker A

כן, פחות או יותר. עכשיו בוא נדבר על מה קורה שקונטקסט מתמלא ואיך מזהים את זה.

06:18

Speaker A

אוקיי, אז בוא נתחיל לחבר את הדברים. לפני זה נגעת בקונטקסט רות, נכון? זה נשמע רע ואפילו רע מאוד. מה זה אומר בדיוק?

06:39

Speaker A

יפה, אז קונטקסט רות זה תופעה שבעצם המודל מתחיל לתת תשובות שהן פחות טובות בגלל שהקונטקסט שלו מלא ומבולגן. זה קורה כשהקונטקסט מכיל יותר מדי מידע לא רלוונטי, ניסיונות קודמים בתוך אותה שיחה שנכשלו, הוראות שסותרות אחת את השנייה, אוקיי? או פשוט המון המון היסטוריה שכבר לא רלוונטית. אוקיי, ואיך אני יודע שזה קורה? אני יכול לראות סימנים?

06:56

Speaker A

אה, כן, יש סימנים קלאסיים. הרי קודם כל בדרך כלל AI מתחיל לשכוח דברים שאמרת לו בתחילת השיחה. שנית, הוא מחזיר תשובות יותר גנריות, פחות מותמות אישית. שלישית, הוא עושה טעויות. שים לב, זה הרבה אנשים פספסים, שהוא לא היה עושה בתחילת השיחה. רביעית, האיטנס יגדל, לוקח לו יותר זמן לענות. ואני חושב שהדבר החמישי זה שהוא מתחיל לחזור על עצמו או לסתור דברים שהוא אמר קודם. אוקיי, טוב, טוב. פה זה מתחיל להיות קשוח.

07:14

Speaker A

אם בסוף, אם בסוף אנחנו נתקעים רגע בבעיות האלה, ואני זוכר שאני שומע, אתה יודע, אנשים גם באים ואומרים פתאום קלוד נהיה טיפש לקראת סוף הפרויקט, או אתה יודע, מילים כאלה ואחרות, בסוף זה באמת הקונטקסט רות.

07:33

Speaker A

לרוב כן, יש לזה גם סיבה טכנית. המודל לא נהיה טיפש, הוא פשוט עסוק בלנסות לסנן ולפרש כמות נקודתית של מידע, חלק רלוונטי, חלק לא רלוונטי. זה כמו לעבוד עם משרד שהוא בולגן לגמרי. לא יודע אם צריך הפעם לעבוד עם כל המאות חברות, שזה אנשים שהם זורקים הכל. זה לא שאתה פחות חכם, פשוט יותר קשה לו לחשוב.

07:51

Speaker A

כן, כן, פחות קשה להתנהל ברגע שיש, אה, יותר קשה סליחה, להתנהל ברגע שיש בלאגן. נכון, ויש משפט אחר גם או תופעה, loss in the middle.

08:08

Speaker A

תוכל? זה מתחבר רגע לנושא הזה, נכון?

08:27

Speaker A

נכון, נכון. לפני שאתה, זה מידל, היא עושה קצת שורי בית. מה קורה איתך? אתה יודע, מדי פעם צריך לעשות שורי בית, חביבי. חושד בכשרים, לוקה בגופו. אני חייב להפסיק לחשוב בכשרים, זה לא סטנדמידל.

08:45

Speaker A

הוא בעצם תוצאת מחקר מ-2023 שהראה שמודלים מגיבים הכי טוב למידע שנמצא בתחילת הקונטקסט ובסוף הקונטקסט. מידע שנמצא באמצע לפעמים פשוט הולך לאיבוד. לכן כשאתה מספק מסמך ארוך, שים את המידע הכי חשוב בהתחלה או בסוף, לא באמצע.

09:04

Speaker A

אוקיי, אוקיי. אז אם אני בסוף מניח שיש משהו חשוב, ויש לזה איזה מילה, נכון, שאומרים אינט מה שט? כן, זה הפך האינטואיציה שלך. אתה אומר אינטואיציה? בואנה, זה המרכז, זה באמצע אומר לך המודל, אה, לא טוב. תחדד לי את זה, תשחלה או אתה גיש לי את זה בסוף?

09:29

Speaker A

אז האינטואיציה שלנו פה לא עובדת לצערי, לא בדיוק. הטעות הנפוצה יש. כן, יש גם עוד נקודה מעניינת על הדבר הזה בקלוד ספציפית. כולנו אוהבים את קלוד. קלוד במקרה שלך, זה מחקרים יראו שהוא קצת יותר טוב בממוצע בלמצוא מידע באמצע, אבל עדיין לא מושלם. ג'מיני עם ה-1 מיליון טוקן קונטקסטונדר שלו, הבעיה שלו הפוכה. לפעמים יש לו כל כך הרבה מידע שהוא צריך להחליט למה לתת עדיפות.

09:45

Speaker A

כן. אז עד עכשיו, רגע, דיברנו רגע קצת בהיי לבל, רגע. בוא ננסה רגע לצלול רגע למשהו יותר פרקטי. אולי נדבר על זה, טיפים מעשיים.

10:03

Speaker A

בסדר, אז בוא, בוא אני אתן לך דוגמה. בסדר, אני משתמש אמיתי, אני משתמש בקלאוד, בקלאוד AI, ב-GPT, בג'מיני. מה באמת אני צריך לדעת? רגע עכשיו, ובוא נלך על US, בסדר? כאילו בוא, בוא נחלק את זה כמו שאנחנו אוהבים את זה, קאססים. בטח אתה אוהב לחלק את זה לשלושה, נכון? זה הכי יוסף, זה כבר אתה קובע, אבל כן, יאללה, שלושה קאססים. יאללה, יוסקי.

10:26

Speaker A

ראשון, כתיבה ועריכה. בסדר, אתה עובד על מסמך ארוך. טיפ מספר אחת, אל תשלח את כל המסמך בכל פעם.

10:44

Speaker A

שלח רק את הקטע שאתה עובד עליו, בתוספת קונטקסט קצר. המסמך הוא על X, והחלק שאני עורך עכשיו הוא על Y. זה חוסך טוקנים, חוסך קונטקסט רות, מרחיק אותך מהקונטקסט רות. נתת משהו קטן, קיבלת משהו קטן, אתה יכול להתקדם.

10:58

Speaker A

אוקיי. האמת שאהבתי. אהבתי, אהבתי. זה מעשי. אני מעיד על הנושא הזה.

11:15

Speaker A

בוא ניקח סקייס אחר. בוא, יש אלפי מפתחים, נכון? פיתוח תוכנה, נכון? יש קצת פחות אלפי מפתחים בחודשים האחרונים, אבל זה כבר נושא לפרק אחר. אבל הם נמצאים פחות, יש להם לצערי פחות, יש עדיין, כן, הם שם, זה נכון, נכון?

11:23

Speaker A

אז היוסקי השני הוא באמת, הוא נכון, נכון. אנחנו גם כן נדבר על הקלודקוד וקוורק, וזה פוף, איזה התקדמות, אין דברים כאלה. אז הקאס השני באמת, כמו שאתה אמרת, הוא קודינג. אוקיי, כאן הקונטקסט הוא ממש קריטי, כי כשאתה עובד על קודבי גדול, אל תשלח את כל הריפו.

11:40

Speaker A

אוקיי, שלח רק את הקבצים הרלוונטיים לשאלה הספציפית. קלי כמו קאסל למשל. אוקיי, הם עושים, הם עושים, הוא עושה את זה בצורה אוטומטית. הם בוחרים מה להכניס לקונטקסט לפי הקונטקסט שלך.

11:59

Speaker A

יפה, כולם עובדים אותו. הם בפרים כניס לקונטקסט לפי הקונטקסט שלך. מעשי, יפה.

12:18

Speaker A

כן, נגד אני ואתה מפתחים ביחד עובדים על...

12:36

Speaker A

צוות רחב שעובד אולי על יותר מפרויקט אחד בוזמנית אוקיי הוא עובד אולי יותר מרפוזיטור אחד בזמנית וזה חשוב מאוד החלוקה הזאת זה למה קרסון מקבל כזה היילייט כי הוא באמת הקבלת החלטות שלו על בצורת עבודה בצוות היא משמעותית מאוד

12:52

Speaker A

כן. וב אני חושב שזו אחת השאלות הכי נפוצות שאנשים שואלים. מתי מתי באמת פותחים שיחה חדשה?

13:01

Speaker A

או אחלה. זה זאת באמת שאלת השאלות. אז הכלל האצבע שאני יכול להציע הוא פותחים שיחה חדשה כש נקודתיים אחד שינית את הנושא לגמרי. התחלת משהו חדש זה לא קשור לקודם.

13:15

Speaker A

אין משמעות לשיחה הקודמת. שתיים, סיימת טק אחד, אתה מתחיל טסק אחר. אוקיי? שלוש, אתה מרגיש שהai שכחורות בסיסיות שנתת בהתחלה. אתה קולט אותו, אחי.

13:29

Speaker A

צריך עוד חד. שים לב שפתאום הוא קצת הודעה. אה, ארבע. העברת איזה 30 40 הודעות על אותו נושא. אתה מרגיש שהפרפורמנס שלך יורד.

13:40

Speaker A

פחות זה כבר נקודה כשהשיחה אתה מרגיש שהכל אותו דבר כאילו מתגלגל מתגלגל ואז אתה אומר עדיין בסוף משהו מתקלקל משהו פחות טוב בעצם כן כן כן זה או או זה לא או של שני אתה מנסה כן בוודאי והחלק האחרון אני חושב זה כן שהתחלת לפתח

13:56

Speaker A

דיר רקשן שלא עבד בשיחה הקודמת ונצח איזה פרש סטארט כן אני האמת ש זה הרדסט שיחה חדשה זה זה אני אני לרוב נמשך לשמה לפעמים באמת כשאני רואה שזה או או שלא נתתי אני הוראות מספיק טובות ואני רואה שזה לא זה אז אני

14:13

Speaker A

אתה יודע ריפרש F5 ריפרש נכון זה לא רק הוראות לא נכונות זה גם אתה יודע בברייןסטורם מתי הזם בנשמה בברייןסטורם אחי עולים רעיונות טובים לא טובים טובים לא טובים זה לא אידיאלי לאלם הטוב לא טוב באותה שיחה כי מבחינתו אפילו

14:29

Speaker A

שאמרת לו שהלא טוב הוא לא טוב הוא חלק מאותו קונטקסט הוא צריך להמשיך לנבור בו כל פעם מחדש ולהגיד אה זה לא טוב או לכבוד שהוא יבין שזה לא טוב יפה אהבתי אהבתי את אהבתי את הדגש הזה מגניב אה ומה אז מה כן נגיד בוא נגיד מה

14:44

Speaker A

כן שומרים בשיחה אחת אוקיי אולי זה יפתיע אותך זה בדיוק ההפך אחד אתה בונה על מידע מצם זה היה מפתיע אותי הייתי בבעיה זהכן לא צריך לעשות לך שיחה חדשהכן רצית לבדוק שאני חד אחד חד סליחה לשאול יוצאים משאולים של שבוע כמו

15:06

Speaker A

שה לפיליפ מדי דיפ צ'קס עלו שבועיים שיעורים לא עלינו אז לנו יש רק שבוע אתה בונה על מידע מצטבר ליבוד הדרגתי ש של היה על הפרויקט שלך אוקיי זה סיבה טובה להמשיך אתה עובד על מה שנקרא eterative refinement אוקיי אתה מוסיף כל הזמן

15:22

Speaker A

אטרציות כל סבב בונה על הקודם שכבה הבאה עכשיו עוד משהו זה שהקונטקסט שצברת הואolול זה יכול להיות א הבין את הסגנון שלך הוא עונה לעניין הוא זורם אחלה קופיילוט אוקיי, הוא איתך והוא הבין את הrequמ שלך, הוא הבין את

15:40

Speaker A

הקוטר שלך, זורם. אוקיי, ויש יש עוד טיפ שאני אוהב לקרוא לו. אגב, סליחה, עוד משהו אחד, סליחה, עוד משהו אחד. אני למשל שאני בהרבה שיחות, שאני נגיד עובד מול פרויקטים שונים, לקוחות שונים, אפילו שיחות מזדמנות, אני נותן שמות למוב כמובן לשיחות. אוקיי? וקל

15:58

Speaker A

מאוד לחזור לאותו לקוח עם אותה שיחה, מאותה נקודה גם משיחה חודשיים אחרי במיוחד שיחה שהיא לא מלוכלכת מדי או לא עמוסה מדי. אוקיי וזה קלאסי אתה לא צריך להסביר לו כלום אתה תמשיך את אותו דיון מאותה נקודה בדיוק לא הפסקת השנייה priceלס

16:14

Speaker A

כן ויש דיברנו ב בשיחה שעשינו קצת הכנה רגע ואו שאתה קראת לזה או שאני כבר לא זוכר הסיכום בתחילת שיחה חדשה מה מה תסביר לי זיכרון טוב זיכרון טוב זה אחד הטיפים הכי שימושים כשאתה פתח שיחה חדשה אחרי שיחה

16:32

Speaker A

ישנה שהייתה טובה הייתה שיחה חיובית תפתח ח עם סיכום למשל תגיד לו בשיחה הקודמת עבדנו על x הסכמנו על y על הגישה פה פהפה הבעיות שכבר פתרנו אין z אוקיי עכשיו אני רוצה להמשיך עם a זה מאפשר מאפשר לו

16:47

Speaker A

להמשיך מאותה נקודה אוקיי בלי קונטקסטר ויש דרך לעשות את זה אוטומציה או צורה אחרת זה הצורה שאני עובד בה בדרך כלל כשאני או שאני עצלן או שפשוט לא בא לי לכתוב את הכל מאפס אוקיי אני מייצר איזשהו promפט temp

17:05

Speaker A

טמפלט קבוע לתחילת פרויקטים אתה כבי יכול לבקש מאי בלי עכשיו תבנית תסכר מי את השיחה שהייתה לנו עד עכשיו בחמש נקודות עיקריות כדי שיוכל להשתמש בה בשיחה חדשה לפעמים גם אתה יכול לעשות יותר מזה אתה יכול להגיד לג'מיני אני עובר לקלוד או לצ

17:21

Speaker A

אני עובר לגמיניאי סכם לי ותכין את זה עם פרפ מתאים לגמיניי או לקלוד או לצ וואלה כן לא תמיד הניואנסים כן עובד לא תמיד הניואנסים כל כך שונים אבל זה כן משמעותי כשאתה רוצה לייצר איזשהו תוצר מסוים נגיד

17:35

Speaker A

בשמח נגיד אה אה בקלוד זה נקרא אה אה נו ארטפקט ברכה לימ כמה שניות מוצא שבת עכשיו אנחנו מקליטים אז אני אחרי שבת קודש המוח שלך באחוז ודברים אחרים עדיין ארטפקט אז שאתה רוצה שזה ארטפקט במיוחד ע עם הנחיות מסוימות ואתה מביא אותו החוצה

17:56

Speaker A

מאלם אחר אז כן יש משמעות לאנחיות האלה אוקיי ואני אני מנסה להישאר קצת אה אתה יודע א משפטים ומונחים אולי שאתה יודע שאנחנו שומעים כ כי אמרנו לפעמים אנשים חושבים שמבינים רגע את הקונטקסט בנו עד הסוף ואנחנו מבינים עוד

18:16

Speaker A

פעם משיחות ממה של החורים שלו אז עוד משהו חשוב ש שמדברים עליו זה הסיסטם promומפס נכון אז אני אשמח ש שתיתן כמה כמה נקודות על זה זאת נקודה מאוד חשובה טוב שאלת systemסטם promptפט זה זה זה ההגדרות אוקיי זה כל

18:34

Speaker A

הסettינס שבעצם נשארות קבוות לכל השיחה בוד אוקיי דידנו יש למשל proקטס אוקיי שם אתה יכול להגדיר system prompt קבוע שמתחיל כל שיחה בצ'אט gpt יש לך custom instructiontion אוקיי בג'מינה יש גמס אוקיי וכל אחד מהם שוב אם זה פר שיחה

18:52

Speaker A

אחת אז זה לא כזה משנה אבל אם זה פרויקט או ג'ם אובר אז כן זה כן משנה ואז הוא יודע שהוא עונה על הדרישות הפרק quזס האלה כל פעם חדש לפני שהוא מתחיל שיחה.

19:04

Speaker A

אוקיי? אז אם זה כזה חשוב, תן לנו רגע קצת פרטים. מה כדאי לשים שם?

19:09

Speaker A

אוקיי, דוגמה. א מה שנשאר קבוע לכל השיחות למשל, אתה עוזר לדולופר שעובד בפייתון, בסדר? א תמיד תסביר קוד, תמיד תדגים בדוגמאות קצרות, אל תכתוב יותר מ-50 שורות קוד בלי לשאול, בסדר? אלה אורות שלא ישתנו. לעומת זאת, פרטים ספציפיים לשיחה,

19:28

Speaker A

אלה טסים בגוף השיחה. ודיברנו גם על על נקודה שקשורה לפרומטים עצמו א אקורing זה זה המונח יפה נכון אנקרנ כמו עוגן אוקיי עיגון הקונטקסט מה שהרבה לא רבים לא יודעים אני לפחות מה שאני רואה כשאתה כותב הוראו הוראה בתחילת

19:52

Speaker A

השיחה ואז שוב א באמצע כשצריך זה מחזק את הuringנ זאת אומרת אם בהתחלה כתבת לו תמיד תענה בעברית ואחרי 20 הודעות היה התחיל להערבב עם אנגלית. זה קורה מדי פעם. פשוט כתוב שוב זכור תמיד בעברית. זה פשוט אבל

20:09

Speaker A

אפקטיבי. וואלה. אוקיי. ולפני רגע שעד עכשיו באמתי לנשים פרטיים לשימושים שלנו אז לפני שרגע שנגיע ל לחברות והמוצרים אני אשמח שיתן ככה רגע בסוף אנשים משתמשים בפלטפורמות שונות. תן לי תן קצת אולי הסבר או תגיד אולי שאלה אחרת אתה יודע מי הכי טוב

20:31

Speaker A

בקונטקסט אולי אתה יודע נעשה קצת תחרות טוב זה מעניין קטונתי להיות שופט אבל זה מעניין נגיד קלוד באמוצע 200kטוקנס אוקיי והוא ידוע בלהיות טוב ולעקוב אחרי קונטקסט ארוך הוא ידוע משהו שמאפיין אותו זה חלק מהיכולות של הקלות קוד ובכלל בשיחות

20:49

Speaker A

ארוכות הוא טוב בזה מחקרי בירוש הוא יחסית ביצוע הרבה יותר עקבי לאורך שיחות ארוכות עכשיו צ'אט GPT שוב לוקח את ה4O כרפרנס אוקיי כי הוא מאוד מאוד סטבילי מאוד יציב 128,000 טוקנס אוקיי עכשיו הוא מאוד מאוד חזק בריזנינ זוכר את הפל שדיברנו על הO

21:09

Speaker A

הוא אחלה בריזני אבל עדיין ה הממורי בין שיחות שונות עדיין מוגבל זאת אומרת יש לו ממורפ אבל א לא הכי טוב בעולם בסדר עכשיו אם תיקח את הג'מיניא למיניהם לדורותיהם שתיים נניח הוא יודע לעבוד עם קונטקסטור ענק עד שני מיליון טוקנים שזה

21:33

Speaker A

זה חולה שני מיליון טוקנים תרגם זה רגע כמות מילים לא משנה אם בעברית או באנגלית זה המון תוכן כן כן עכשיו מצוין לניתוח דוקימנטים ענקיים אבל עם קונטקסט כל כך גדול לפעמים אמרנו שהוא מאבד פוקוס על מה שחשוב

21:49

Speaker A

כן אז א רק כדי אולי סקם דיברנו על זה ש גדול הוא לא תמיד הכי טוב בסיטואציה זו ויש את הסוויטפסויטספוט שבסוף הוא תלוי בוסקיס של כל אחד ואחד כל אחד ואחד בחלון הנוכחי א סבבה אז עכשיו דיברנו רגע על שימושים של אנשים פרטיים א

22:14

Speaker A

בוא בוא נדבר על חברות ונו שיחקנו גם קצת עם AWS ובוא בוא נתחיל עם AWS בדרוק אם אפשר מעולה יופי אז יאללה עולים כיתה בדרוק ניהול קונטקסט הוא שונה לחלוטין ממה שאתה מכיר מקלוד רגיל או מכל החבר'ה שדיברנו

22:31

Speaker A

למעד עכשיו מה הסיבה בעצם הרי בבדרוק אתה בונה לצורך העניין אפליקציה את כל האפליקציה מסביב שמתייחסת לאלם אחד או יותר בזאת אתה שולט לגמרי כל מי שנכנס לקונטקסט אתה מחליט איך הוא מנהל אותו זה לא שיש לך איזשהו בלאק בוקס מנועל ואתה

22:47

Speaker A

מקווה שאתה עובד איתו בצורה נכונה כן ואולי נצלול רגע איך זה עובד בפועל אוקיי אז הבדרוק יש לך בעצם כמה מנגנונים מרכזיים ראשית יש לך מה שנקרא message hisory management כשאתה קורא לדרוק בAPI אתה מספק את הCV היסטור כray אוקיי כל API קל שולח לך את

23:09

Speaker A

כל היסטורים מחדש ככה שהאפליקציה אפליקציה שלך אחרית לנהל אפליקציה מה לשמור ומה להוסיף אוקיי ואם ההיסטוריה היא גדולה מדי שאלה מצוינת יש אז יש כמה strategגies ראשית מה שנקרא דיברנו על זה כמה פעמים slליידing wדונ הלה שמור רק x הודעות

23:34

Speaker A

שמור רק כמו ננו בננה שמור רק איקס הודעות אחרונות ונגיד 20 הודעות לצורך העניין אוקיי וכל מה שישר יותר זורקים שניתמריזשן סיכום כן כל איקס הודעות מבקשים המודל לסכם את מה שעבר ומשתמשים בסיכום במקום בכל ההיסטורי עכשיו שלישית כמו בגיבוי selective retion

23:58

Speaker A

אוקיי שרים רק הודעות שמסומנות כחשובות אוקיי יש דרכים להגדיר אותם כחשובות או מיותרות למשל הוראות decision או אפקטס למי הם הם נשמרות וכל השתנקה ואז הוא כל הזמן ממשיך לטפל אך ורק המידע החשוב ביותר שובר איתך הלאה הבנתי בסדר גמור מעולה תמיד גם פה היה

24:21

Speaker A

שלוש אסטרטגיות אז זה בסדר אה ואם אה יש א יש פיצ'ר מיוחד נכון בבדרק שהוא עוזר גם עם הקונטקסט א knowledge בס נכון טוב לך יפה מאוד בס אמרתי התחלתי לשחק אתה יודע הם משחקים נכון זה בעצם הרג המנועל הרג אהובנו

24:40

Speaker A

המנועל זה קוב להכניס את כל הדוקומנטים לקונטקסט אתה מעל אותם knowledge bas אוקיי זוכר פרק של וקטורד beז אותו דבר וה והבדרוק שולף רק את החלקים הרלוונטים בזמן אמת. עכשיו זה מאוד מאוד מגדיל את היעילות. זה מעבר לזה שאנחנו רוצים לרגשה

24:57

Speaker A

למידע שהוא צריך ומיעלים אותו עם וקטור דביז. זה גם מנהג את הקונטקסט. הוא לא צריך להחזיג את הכל בזיכרון. הוא פונה, שולף את הצ'אנק האידיאלי, מתשאל אותו טוב לי, כן, משאיר אותו בזיכרון או חלק ממנו, עושה purgeגge למשהו לא רלוונטי, מביא חלק

25:13

Speaker A

אחר. זה טוב לי? כן. זה עונה לשאלה? לא מספיק. תביא עוד חלק וכו וכו וכו. וככל שכשוב לא ניכנס לפרק על רג אבל ככל שזה יותר מדויק והסמנטיקה יותר טובה והחיפוש ההיברידי עובד בצורה טובה ואתה מקבל פד פידבק משתמש בפידבק לופ שהתוצאה היא טובה

25:29

Speaker A

והמודל עומד וכו וכו וכו כל המערכת מנגנת אבל זה משפיע לנו ישירות על הקונטקסט כן אז בסוף בסוף זה קונטקסט חכםסמרט קונטקסט נכון כאילו זה זה כל הכל כל האירוע פה כן זה כל האירוע זה נכון וזה מביא אותה

25:45

Speaker A

לנקודה חשובה מה שנקרא contסט compression בבית דרוק. אוקיי, יש API שמאפשר לך לבקש מהמודל לדחוס את הקונטeקסט לפני הrequוסט.

25:55

Speaker A

עכשיו זה יחסית חדש וזה יכול לחסוך חלויות משמעותיות מאוד בשיחה ארוכה. אוקיי. אוקיי. אני גם שמתי לב דרך אגב אני לא ראיתי על זה טיעוד אבל אני מה שראיתי זה קורה גם בקלול וגם בצpt. הוא מתחיל את השיחה חדשה

26:07

Speaker A

רגע אתה רואה שהוא עושה משהו מ שהוא סליידר. הוא קנה מקפרס את הקונטקסט וממשיך אתם מאותה נקודה.

26:13

Speaker A

אוקיי תשאל אותו אם הוא עשה את זה. אני נשאל. נקודה טובה חשבתי לשאול אותה ויאללה א דיברנו על AWS בדרוק בואו נדבר על אזור AI foundדרי מה מה קורה שם אהובנו הזורפאונדרי הוא אחת מהפלטפורמות למה אובנו למה לא עשתה שלא יגידו שאנחנו

26:36

Speaker A

נותנים לך תכף תראה תשמע הם עשו הם עשו הם עשו קברת דרך שיהיו בריאים באמת אתה יודע אנחנו שנינו קרובים ליבנו קרוב גם לאמזון אבל הם עשו עבודה מאוד מאוד יפה תכף תראה בחברה הראשונה אני בחברה הראשונה אני

26:51

Speaker A

עשיתי רק טז'ור הכל טוב נכון טוב אתה עשית הכל ברוך השם אבל כן הראשונה הייתה אזור כן ברוך השם נכון אזול קונטקסט מחזיר אותנו כן סליחה אני מחזיר אותנו לאזור foundering כן יא אלאלה כפק יפה אז השיעור מספק מה שנקרא

27:11

Speaker A

convcation cont manement מה זה אומר חלק חלק מהאורקסר אוקיי מהשכבה למטה שעושה את הניהול של כל המודלים וכל השיחות בחוכ בחור וכל הלמים אחד הפיצ'רים המגניביםסמנטיקל זה סדקי של מייקרוסופט לבניית AI application אוקיי עכשיו מה הוא כולל מבחינתנו memמור management מובנה

27:36

Speaker A

אוקיי אוקיי אז א כל אתה יודע כמו ששאלנו גם על בדרוק מה מה זה אומר בפועל יפה אז אז כמו כל דבר טוב שלושה semמנטיקל מחלק את המemמורי לשלושה סוגים סוג אחד procederal procederal memory אוקיי proceder ה יודע לעשות כן נכון מאוד מה ai

27:59

Speaker A

בעצם יודע לעשות מה הפנקס והסמנטיק אוקיי מה סליחה מה מה הפנקס והפגנס סליחה השני נקרא semמנטק mורy הסמנטic mורy הוא בעצם מה המידע שהיה צריך צריך להכיר פרטי לקוח, נתונים פקטס וכו וכו. והחלק השלישי שלעתי אין לאף אחד אחר בינתיים, אני אשמח

28:23

Speaker A

כמישה רוצה לתקן אותנו בהערות זה אפיסודק ממורי. היסטורית שיחות כשכל אחד מנועל בנפרד. אוקיי? מה שמאפשר לך שליטה מאוד מאוד טובה על כל פינה. מה נכנס לקונטקסט מה נכנס? או ממש יכול פיק and selectקט תוך כדי תנועה לקחת בגלל החלוקה של השלושה

28:43

Speaker A

שלבים האלה. יש לו גרנולריות מאוד מאוד טובה בשליפת נתונים ובתיוב onגינ של הקונטeקסט. אוקיי. ויש עוד יש עוד פיצ'ר אחד בתחום הקשינג, נכון, שהוא יחסית ייחודי ל כן, הכל הוא יודע היהודי הזה. הכל הוא יודע. נכון יש להם אחי PRפT casing באזור

29:03

Speaker A

Open AI יש להם פיצ'ר שמאפשר בעצם לאז'ור לשמור קשר על חלקים שחוזרים בקונטקסט הרבה. זאת אומרת בעיקרסטם promפט עכשיו זה יכול לחסוך לך עד איזה 50% בעלויות של recquוסטים חוזרים וואו זה דרמה 50% זה באמת מאוד מאוד משמעותי אכן

29:24

Speaker A

אתה חושב שאתה מרוויח מזה יותר ככל שאתה עובד בסקיל יותר גדול עם יותר שיחות שונות ויותר סיסטם prומט שחוזרים על עצמם נורא נחמד כן טוב יאללה בוא נלך לגדול השלישי בחבורה גוגל ורטקס ‏AI נכון נכון אז ברטקס AI עם גמיני אוקיי יש

29:45

Speaker A

להם כמובן במודל גרדן מלא מלא מודלים אבל לא ניקח צעד שלישי ניקח אתגמיני זה מודל הבית שלהם כאן הסיפור הוא קונטקסט מה שיוניקי שם זה קונטקסט גדול אמרנוגמיני פרו וגמיני אולטרה כל אחד מהם עם בין אחד לשני מיליון טוקנים אוקיי עכשיו הם פותחים

30:04

Speaker A

לך באמת אפשרויות שלא יהיו לך לפני אתה יכול לשלוח למשל שעה של וידאו לנתח אותו אתה יכול לשלוח את כל הריפו. אמרנו מקודם זה לא בספרקטיס אבל אולי פה אתה צריך של חברה קטנה את הכל. אתה יכול לשוח איזה 200

30:17

Speaker A

דוחות כספיים ענקיים הכל בקונטקסט אחד. הוא יקח את הכל הוא יסתכל על הכל. אגב גם קלאוד אופוס 4.6 יש לו קונטקסט ווינדור דומה הוא יכול לקחת הכל עשרות דוחות ולהבין מהם תובנות. מיני רג כזה רג בלי רג.

30:33

Speaker A

כן רגלי רג. גד קטן אבל אבל הזכרת שבסוף יש שמה בעיות בגדלים לא נכון נכון זה זה אותו דבר כמו מקודם אבל בואו טיפה תייחס זה יותר ה נקרא relevance degregation degradation הדרדרות של רלוונטיות מודל של 1 מיליון טוקנים צריך לחשוב בעצם

30:56

Speaker A

כל הזמן מה חשוב מה מעניין מה המשתמש רוצה מחייי גוגל פיתחה משהו שנקרא רגאונדינ אוקיי, הם משתמשים בוקטור כדי למצוא את החלקים הרלוונטיים לפני שמכניסים את זה לקונטקסט.

31:12

Speaker A

דומר קצת למה שהזור עושים עם שם אחר. כן. כן. אוקיי. א ובסוף יש עוד פיצ'ר יחסית ש אולי אני חושב ש שלא מעט מכירים קונטקסטש.

31:26

Speaker A

נכון? נכון מאוד. זה פיצר שמאפשר לשמור חלק מהקונטקסט בעיקר מסמכים גדולים. אוקיי בקש אז מה נחמד כסף כל אתה משלם פעם אחת על הפרocessינג שלו כל זה ממורי כמו רדיס בעולמות של דטביס וכוב חוסר המון המון כסף שמשתמשים שוב ושוב באותו מסמך א כמו נגיד

31:49

Speaker A

איזה מול מדריך של מוצר אופicy document codb דברים שאתה צריך עוד פעם ועוד פעם תן לי אולי דוגמה אראה שy דמני כמה כמה אפשר לחסוך פה למשל אוקיי בוא נגיד ניקח שיש לך איזשהו מדריך למשתמש כזה של אשו שוקן נגיד 200,000

32:07

Speaker A

טוקנס אתה יודע זה לא כזה ארוך כן למדריך משתמש אם זה לא יודע 60 70 דף כזה פונט 4 באנגלית שאתה מפנה עליו 100 רק recקquסטים ביום בלי casשינג אתה משלם 100 פעם 200kטוקס כי זה מה שהוא עלה לך עם casing

32:21

Speaker A

אתה משלם פעם אחת 200Kטוקס ורק על הקy הקטן הזה בכל requוסט בקל זה חיסרון של 90% בעליות כי תמיד תמיד תמיד אני חזרנו על זה כל כמה פרקים אני שוב שם את שינג הרבה יותר זול מאשר פנייה והתרדה של

32:37

Speaker A

המודל, של הוקטורדבייס, של כל המעורבים. כן. ב יותר מהיר, אבל זה כבר דבר כגל כדי של כסף.

32:47

Speaker A

בסוף קשינג זה casשינג. אה מסך קשינג, נכון? א יאללה בוא בוא נעבור רגע לנושא שכולם כולם כולם כולם אבל כולם מדברים עליו אגנטים ואני יכול לתאר לעצמי שקנטקסט מנג'מנט שמה הוא אפילו יותר מורכב אתה זוכר מה פיליפ אמר בפרק הקודם לגבי

33:12

Speaker A

אדג'טים מה הוא אמר וואו פי כמה זה מורכב אתה זוכר אמר כן אמר נכון שאלתו תגיד פיליפ זה יותר מורכב ג'טים הוא אמר לך הלוואי שהייתי יכול להגיד לך שלא ואז הוא התפס את הראש כזה אמר זה הרבה

33:26

Speaker A

יותר מורכב ואז הוא גם אמר לך שאלה טובה אם אתה זוכר כן אמר לך כן כן כן היה אפילי נחזור על נחזור אליו בהמשך נכון פי כמה אז לשאלתך זה פי כמה זה פי כמה אתה מורכב כי באגנטים הקונטקסט לא

33:41

Speaker A

כולל רק שיחה הוא כולל syסטם prompt של הagent היסטוריה היסטורית שיחה משתמש תוצאות של טולקס לאיזה כלים הוא קרה. אוקיי? וענו, לא ענו, זמינים, לא זמינים. אה, הטול הטול עשה את העבודה כמו שצריך. תוצאות של שעילתות מדטבייסים כשהוא פונה אליהם. אתה יודע מה

34:02

Speaker A

אפשר על הכלי, נכון? יש לך סקילים ויש לך טולים. אם בסקילים הוא עושה 1 ש3 והטולים הוא עושה 1 2 3 כל דבר כזה הוא צריך להחזיק בקונטקסט של האגנent.

34:11

Speaker A

כן. תוצאות של חיפוש באינטרנט. לפעמים וזה כבר הופך להיות הרבה יותר מה שרק לפעמים תוצאות קניקש בין agentים שונים אוקיי טוב אז agent עם agent והוא ענה לו התחיל להכפיל עכשיו את כל הפרומפטים למיניהם אז אז מה ממה שאנחנו רואים פה בסוף מה ש

34:31

Speaker A

מה שאנחנו מבינים שקונטקסט של agent יכול להתמלא מאוד מאוד מהר ממש ממש ממש ויש גם בעיה שנקראת call accumulation זאת אומרת כל טול קל כל מה שהוא קורא לזה כלי צריך להביא את הג'אבקד צריך להביא את המקיטה נגיד חיפוש בגוגל שמחזיר חמש

34:51

Speaker A

תוצאות כל אחת עם 500 מילים נכנס לקונטקסט אחרי 10ט קולס כולם מה כולם חמישה חמש שנפות בגוגל הקונטקסט מלא בתוצאות שחלקן כבר לא רלוונטיות אוקיי אז עכשיו דיברנו רגע על על האתגרים והבעיות בוא בוא ניגע בפתרונות בוא בוא

35:11

Speaker A

נדבר על אסטרטגיות שאפשר לפתור בעיות פה. אחלה. בסדר. אז יש כמה בעת אסטרטגיות טובות שאני חושב שיכול לעזור בהרבה דברים.

35:21

Speaker A

למשלט tool result summarization. אוקיי? אחרי כל א טול כל call לא שומרים את כל התוצאה רק סיכום שלה. כמו מקודם. חיפזתי x מצאתי y הוא הכי רלוונטי. Z פחות. סבבה?

35:36

Speaker A

תחשוב כמה זה מקצר את הכל, נכון? כן. שניתatch padדפ pattern זה נקרא הagent מחזיק פנקס יעני notebook כזה קטן שלו אוקיי נפרד לworing mורy למה שהזור עושים אוקיי ורק תוצאות סופיות נכנסות למיין קנטeקסטוש אומר פה ת את צאת עליהם מקשקש זה זה יאללה

36:01

Speaker A

תרשום פה תעשה לו אתה יודע דמפ לפה אוקיי ושלישי זה נקרא contסט proning לאחר שלב יש איזה מנגנון שבעצם מחליט מה להסיר מהקונטקסט כל פעם הוא עושה אתה יודע פידבק לופ על עצמו למשל תוצאות ישנות של טולקס מי יצרך אותו לשמור 700 פעם מה קרה

36:21

Speaker A

עם ה כן כן כן אוקיי אה אה ואולי אולי נגעת בנקודה הזאתי ניר שיש א שיש שיחות בין בין הרבה סוכנים וכולי אז יש בסוף אה אה א פטר ש שהוא שהוא בעייתי פה לא שהוא שהוא גורם לנו לבעיות

36:41

Speaker A

שיכול לגרום לנו לבעיות בוא נגיד ככה נכון זה פשוט אתה יודע הכל זה מרגיש ששיחות ביני זה בפקטור of 2 זה כל הזמן גדל אוקיי ולכן יש דבר שנקרא מולטי agent contסט sharרing זה אומר כשיש כמה אentנטים שם עובדים ביחד

36:55

Speaker A

על משימה אחת או יותר כל אחד כל אחד עם הקונטקסט שלו אוקיי השאלה היא מה הם חולקים ביניהם אם כל אג'נט מקבל את הפולק contטקסט של השיחה פלוס הקונטeקסט שלו לפצת אטום זהקסט exposion הוא בחיים לא יעמוד בזה

37:11

Speaker A

כן כן ומה מה מה הפתרון הפתרון הכי טוב שאני מכיר היום זה נקרא shared mורy ארכיטקטור בדומה לםware למרות אוקיי שהיה להם shar ממורי ארכיטקטור והיית מחליט בעצם מי יכול לגשת באיזה רמה של shריing אתה עושה של המשאבים אז זה אותו דבר נגיד יש לך shרד

37:32

Speaker A

ממורי מרכזי נגיד רדס אופינקו ידידנו פינקון עוד שכולם יכולים לקרוא ולכתוב אז כל אג'נט קורה ממנו רק מה שהוא צריך כך אין לך דופליקציה זה לא שכל אחד מתשאל את השני כל בשבק כלום פונים לדataביס מקרים כמו שצריך מחזירים וגם אין

37:54

Speaker A

contקסט infפation התוכן לא מתנפח כי יש לך דביס מרכזי כן אין דבר אתם בסוף חוזרים לאותם לאותם לאותם עקרונות כל פעם מחדש גם עםסי של אגנטים כן כן וגם א בבדרוק נכון יש פיצ'ר מסוים שמטפל בנושא הזה נכון מאוד א זה נקרא bedדroק

38:16

Speaker A

agent memמור סליחה יש להם גם את הagent core שבתור פלטפורמה יש להם ניהול זיכרון אבל בתוך bedדroק יש לך את הagנס memמור זה ממש mורy management מובנה לאנטים לא המצאנו כלום זה בדיוק הנושא הזה שלושה אליי mורy בתוך הסן ויש לך יש לך אסטרנל ממור שזה

38:36

Speaker A

מחוץ לסשן ויש לך גם א אסמטיק ממורי זה נורא מזכיר את השור ב בחלוקה הזאת זה אותה לוגיקה כן אז אז אז אז בסוף ה ה ה הפנימי הוא הוא מטפל בנושא אקסטרנל הוא מאפשר לעשות א א המשכיות נכון בין ה בין הסשיונים השונים

39:01

Speaker A

ויש את העניין הסימנתי בסוף חיפוש סימנטי במה שנשמר אז אחלה פיצ'ר כמו שאומרים א זה הפיצר שב אני אגיד לך זה לא לגמרי nice to כי שתה מתחיל לעבוד עם agent אחד זה שטויות זה לא קריטי אם הרבה בלי זה אתה

39:18

Speaker A

תראה את זה פשוט לא נהיל אי אפשר לעבוד עם זה כן כן ו כולם מדברים על mcp modelודל contנטeקספר prוטוקocוקול זה קשור לנושא שלנו כן כן ממש כן mcp של אנטרופי פיק א פרוטוקול שבטח כולם מכירים אותו כבר

39:37

Speaker A

שמגדיר איך הנטים יכולים לבקש גישה ל לטעולים ולמידע בצורה סטנדרטית אחד הבנפיטים שלו לגבי קונטקסט הוא מאפשר זה נשמע אולי לא טוב אז זה טוב ליy loading ליזי שלקנטeקסט האagent לא מקבל את כל המידע מראש הוא שולף מה שצריך בזמן אמת זה

39:59

Speaker A

מאוד מפחיד את הקונטeקסטפוprintינט אוקיי רגע ו זה נשמע טוב זה נשמע מגניב ממש כאילו א ויש א עכשיו זה כאילו מידהמנד הוא לא צריך את הכל מראש תירגע תשאל תקבל תשאל תקבל לא ביום אחד כן כן כן תוך כדי שאני חושב אז ניסיתי רגע

40:18

Speaker A

לחשוב ע על הלייזי שהוא טוב אז בסדר זה יסתדר לי בראש אה ויש יש עוד best prctice לagent יש עוד מלא אבל בגדול אחד החשובים הוא א systemם prompt engineering אוקיי תחזור על זה תחזור על זה system engineering כמו שהיינו עושים ל agents ז

40:42

Speaker A

תפיסת עולם היא לצי של agentים הסטם prompt שלent צריך לכלול בצורה מאוד מאוד מוגדרת מה התפקיד של האנט בצורה טובה כדי שהוא לא יתבדר לנו לא יחטייה לא יעשה שטויות שלא צריך וכאלה הנחיות לגבי מה לזכור מה לשכוח זה חשוב אוקיי כל הטולquים

40:59

Speaker A

היישנים וכאלה תמחק אותם אני חיוד מתי לסכם כם מתי לשמורטל יכול להיות שאם עכשיו אתה עושה איזה debag mode או אתה מפעיל אent חדש אתה תרזה את זה בדails יש שווה לך לשלם על הקונטקסט window בדל וגם מה הבנדריies מה agent עושה מה הוא לא

41:15

Speaker A

עושה ככל שהסם prompt ברור יותר הagנ מנהל את הקונטeקסט שלו בצורה טובה יותר כן מגניב מגניב ואולי אולי לפני שנעבור קדימה רגע יש מטריקה כלשהי שחברות ש שיכולות לעקוב אחרי האגנטים ריבוי agentים אנחנו מדברים על פרודקש נכון כאילו בסוף

41:40

Speaker A

חשוב לעקוב נכון נכון יש לך דבר שנקרא contט utilization rate אוקיי זה בעצם כמה אחוז מהקונטeקסטוינדו שלך בשימוש באמוצע אם זה 90% פלוס באופן עקבי אולי יש לך בעיה אתה כנראה צריך או להגדיל contנטeקx wדו או לשפר compפרש

42:01

Speaker A

עכשיו אם זה 20% זה בעיה אחרת אתה בטח משלם על מודל גדול מדיכ הסוויטספוט ששאלת עליו מקודם הוא בדרך בין 60 ו75% אוקיי שזה כמו שימוש של שרת וינטל קלאסי בתוך הארגון כן להגיד מתי עושה אתה עושה א מוסיף עוד עוד

42:22

Speaker A

ל לרק שלנו או לאיפה שזה לא יהיה המספרים נשארו אותו דבר בקטע זה אותו דבר זה נכון כן כן. אוקיי. אז א עכשיו א בוא את החלק שהמאזינים שלנו לפחות אנחנו רוצים שהמזנים שלנו יעבו את הקטע הזה יותר מהכל. הטיפים

42:42

Speaker A

פרקטיים ובעיקר טיפים אולי מתקדמים ניתן להם פה עכשיו לאנשים. אה אז קדימה יאללה. אז הכלנו להם כמה טיפים. אני חושב שכל אחד יכול להסם מחר. כל אחד שמשתמש בללם. כן. טיפ ראשון נקרא contטקסטסנפשוט לפני שאתה פותח שיחה חדשה אוקיי תבקש מai

43:07

Speaker A

תכתוב לי קנטeקסטסנפשוט של מה שדיברנו מה הגל מה הstrain מה מה מה הדdecision שקיבלנו מה השלב הבא תשמור את זה תשמור את זה תפתח שיחה חדשה הדבר הראשון שתעשה הוא להדביק את הסנפשוט פשוט אבל גאוני קיבלת מחמא כן כן כן הוא קיבל את המחמא זה

43:32

Speaker A

שרשמת טיפ שני א the forget that techניק יעני אשכח את זה טכניקה כשניסית משהו שלא עבד ואתה רוצה לנסות כיוון חדש תגיד לi תשכח מה שניסינו עד עכשיו בנושא איק עזוב אותך תוציא לא טוב תוציא בוא נתחיל פרש עם

43:50

Speaker A

הגישה הבאה נקודותיים זה לא בעכשיו זה לא באמת מוחק מהקונטקסט אבל מה זה אומר לייי לתת עדיפות נמוכה לניסיונות הכושלים.

44:00

Speaker A

אוקיי, מאוד מעניין. מאוד מעניין. כן. האמת ש אה עושה שכל כמו שאומרים. אה אולי טיפ טיפ שלישי מתאייר לעצמי שיש לך עוד אחד.

44:10

Speaker A

כן. האמת שיש אפילו יותר משלישי. אז אני מקווה שככה צמח גורה. אני שלך. אל תניק.

44:16

Speaker A

השלישי נקרא א Structural Contjection. אוקיי? במקום לכתוב contטקסט. אוקיי? בצורה מורכבת. עזוב לך על משהו פשוט.

44:27

Speaker A

פורמט מובנה אוקיי כן זה פורמט מובנה כמו איזה קובץ ימל כזה contטeקסט proקט נקודתיים מערכת CM אקסטק נקודתיים פי FI poג SQL אוקיי א מה current task נקודתיים בניית API end point לחיפוש לקוחות אתה מבין constraints לא לשנות את הסכמה prvious attemptsינו x

44:53

Speaker A

לא עבד כי y זה הפורמט עכשיו זה פורמט שאם אתה שומר עליו בעקביות הוא קל תחזוקה כי אתה לא תמיד צריך לשנות המון דברים והוא מאוד מאוד מובנה לai מקבל את זה מבין את האירוע מאוד מאוד מהר עם מעט מאוד טוקנים

45:11

Speaker A

שצרחת והוא הוא שזורם איתך מהר מעולה טוב אמרת שיש עוד הרבה אז יאללה טיפ רביעי לא עוד הרבה לא עוד הרבה יש עוד הרביעי זה כזה של כסף הנושא שלטוקן בג'טינג אוקיי לפני שת שולח פרומפט את ארוך שאל את עצמך כמה זה שווה כלים כמו

45:32

Speaker A

טיק טוקן של open AI אוקיי מאפשרים לך לספור טוקנים לפני הrequוסט יש לך כמעט לכל א לכל העלם יש לך טוקייזר אוקיי clוד רווח טוקיזר בגוגל open ai טוקי אתה תקבל מסך של טוקנים ואתה יכול לנסות לשאול אותו

45:47

Speaker A

את אותו דבר ולראות כמה טוקנים זה יעלה אוקיי א בקלוד אגב אתה יכול לראות גם טוקן coנט כמעט ברט time בתוך ‏API עכשיו אתה יודע כמה אתה משתמש ואם אתה יכול לקצץ איפה לקצץ שעלטות קצרות ארוכות וכוכ כן אוקיי ויש טולינג ספציפי אני זוכר

46:07

Speaker A

שדיברת על הסמיטי עלסמט בפרק הקודם נכון נכון נכון יפה אז אותו כלי שדיברנו עליו אז באמת בעולמות של א של וקטורים אוקיי סליחה של evaluationש של evaluationש מחילה אסמית אוקיי שעושה גם מוניטורing זוכר וגםשן אז הוא חלק מהלנצן

46:28

Speaker A

הוא מראה לך בדיוק כמה טוקנים יש לך בכל שלב בשיחה של משתמש זה נורא נחמד יש לך עוד כלי חמוד שנקראפלייר אני לא חושב שהזכרנו אותו עד היום לא דיברנו עליו גם כל עושה טרקינג של כל הפרומפטים ממש

46:43

Speaker A

פרפט שווה על פרומפט שאלה תשובה אפוטפוט על בטוקנים כן הטוקנים נגזרים מאיזה מודל לקחת אם לקחת clודסונט או לקחת את הנוב מייקרו זה לא אותו עלות אבל תוכל לספור טוקנים בסדר והליקון שבטח אתה זוכר אותו גם מהפרק של אולואציה

47:04

Speaker A

הוא בעצם מוסיף לך obsרבילי על כל הAPI call שלך עלמים זאת אומרת גם סופר את הקול וגם אתה קל observabity על הדרך למי שצריך למי שודע אוקיי א מגניב אז א שאלה ששמעתי עליה הרבה אולי זה נכון או לא נכון אני אשמח לדעתך

47:24

Speaker A

האם בסוף כדאי להשתמש ברג כתחליף לקונטקסט גדול? מה אתה אומר על זה? שאלה מעולה.

47:31

Speaker A

מעולה. תקשיב תלוי רגrivalent generation זה במקום להכניס את כל הledג base לקונטקסט נכון? זה יש בכלל רג בין היתר.

47:42

Speaker A

עכשיו שולפים רק את החלקים הרלוונטים. מה היתרון? עלות נמוכה קונטקסט קטן מנועל. מה החיסרון? הוא שולף לפי. לפעמים הוא מחמיץ מידע חשוב. שלא מתאים בדיוק לc.

47:55

Speaker A

אוקיי. אוקיי. ובעצם אז אם תוכל לתת מתי מתאים כל אחד בעצם אני חושב שהרג זה בעיקר כשיש לךג ביס גדול מאות או עד אלפי מסמכים. אוקיי?

48:09

Speaker A

כשהqueries ידועים וצפויים כשאתה צריך exact answers ממסמכים שהם ספציפיים וזה רג. כן. ‏contסט שכאילו מה שאד עכשיו עשנו נגדו אבל בוא נראה מתי הוא יכול להיות יעיל שאתה צריךנ על פני כמות גדולה של מידע ביחד כשהquy לא ידוע מראש ויכול להתייחס

48:31

Speaker A

לכל חלק המסמך אוקיי וכשהמסמך עצמו הוא הסקט ולא רק הרפרנס לתשובה אוקיי אחלה זה זה בעצם סנריו לכל אחד המלצות לכל אחד מהם ודיברנו א לא מעט על הנושא הזה זה חברות שמתחילות לבנות בפרודקשן. מה הטיפ הכי חשוב שאתה יכול לתת

48:53

Speaker A

להם? קצת דיברנו עליו נראה לי באחד הפרחים הקודמים אבל יאללה go for it. נכון נכון של observability אבל באיזה הקשר? של contט contact observability first אוקיי זה נקרא לפני שאתה בונה את האפליקציה המלאה תבנה את המוניטורינג קודם כל אוקיי תבין כמה טוקן אתה משתמש per

49:12

Speaker A

requוס איפה הקונטeקסט מתמלא חשוב להסתכל עליו זה לא bu product אוקיי זה משהו שהוא בסיס הוא מאוד מאוד א חשוב בתור משהו שהוא לי בא ומה הטוקן cost פיצ'ר במיוחד אם אתה רוצה לצרף כמה פיצ'רים לאותו פרומפט אוקיי

49:29

Speaker A

עכשיו הרבה חברות אני חושב שרוב החברות שאני עובדת לפחות גילו בפרודקשן שהקוסט שלהם גדול פי חמש עד פי 10 ממה שהם ציפו זה כי לא נהלו את הקונטקסט בצורה נכונה בדיוק בחינתם זה היה משהו שתוך כדי תנועה עכשיו

49:46

Speaker A

זה באמת באמת מנדטורי זה לא יכול להיות תוך כדי תנועה כי זה בסקייל כל דבר כזה הוא בסקייל כפול כמות הקריאות מנועים וכו וכו אוקיי מעניין יאללה עכשיו עשינו קצת אה משינוי או לא א ביקשנו מהקהילה ככה שתמליץ

50:04

Speaker A

אותנו גם על פרקים נכון על נושאים וגם שאלנו שביקשנו שאלות אז א נראה שזה עבר קצת אז א בוא בוא נלך על השאלה הראשונה אני מקווה שאני לא אתה בהקראה א האם הAI באמת קורא את כל ה כל הקונטקסט או רק חלק

50:23

Speaker A

ממנה אחלה שאלה מבחינה טכנית ה כן הטרנספורמר ארכיטקטור, אוקיי? הGPT, הטרנספורמר, קורא את כל הקונטקסט, אבל הוא א הוא לא נותן לכל חלק את אותו וט, את אותו משקל. זה הטנש מקזם.

50:40

Speaker A

אוקיי? חלקים משמעותיים במרכאות או שלא הם מרחאות בהתחלה, בסוף, אוקיי? בהתחלה או בסוף מילות מפתח מקבלות אתשן יותר גבוה.

50:50

Speaker A

בסדר? זה מה שדיברנו המצוקה הזאת של האמצע דווקא. אז בפועל כן, הוא קורא את הכל, אבל הוא מקשיב לחלקים באופן שהוא לא שווה.

51:00

Speaker A

אוקיי, מגניב. שאלה נוספת, האם השיחות שאני מוחק בקוד ai משפיעות על הI? לא, לא, בכלל לא משפיעות. כל שיחה בקוד, למשל, היא indepפendנent, היא לגמרי. הוא לא זוכר שיחות קודב, זה לא מעניין אותו גם, אבל בודקס יש לך את ה את הCROS memory

51:20

Speaker A

conversations זה הקטע. לכן אנחנו מייצרים proקט בין הטר חוץ וכו וכו והמemמורy feature ובצ'אט GPT יש לך ממורy feature שכן שומר מידע בין שיחות אוקיי וחשוב להכיר את הפיצ'ר של הכלי שאתה משתמש בו אוקיי כל כלי מתנהג אחרת עם מידע

51:39

Speaker A

שהוא אני לא מדבר כרגע בתוך אותה שיחה בתוך אותה שיחה זה אותו קונטeקסט ממור הוא הוא יש לך shortטם או longונטר מ mורy לאותה שיחה הנקודה היא איך הוא מתייחס בין שיחות שונות לכן השאלה הזאת לקלוד היא פחות רלוונטית כן אוקיי כן. אה, שאלה

51:53

Speaker A

שלישית בסוף א עכשיו תגענו בזה בפרק, אבל אולי אולי חשוב גם שתענה על זה ב למי ששאל כמה קונטקסט הוא יותר מדי בפרודקשן?

52:03

Speaker A

אז בוא נראה את הזיכרון שלך. כמה אמרנו באמת? 60 א בין 60 ל-75% כן נכון מאוד. זה בדיוק ככה מתוך המקס קונטeקסטוינדו אוקיי? אז אם זה מעל זה כנס יש לך משהו שאתה צריך לפתור אותו שאתה יכול לתייב אותו. 40 עד 60 זה נוח מתחת

52:20

Speaker A

ל-30% אתה זורק כסף לרוח חבל כנ מודל גדול מדי כן אוקיי מגניב אז שאלה אחרונה ובאמת תודה לכולם א מה הכלי הכי טוב לניתור קונטקסט בפיתוח אוקיי אז אין פה אמת מוחלטת אני חושב שלפיתוח אוקיי לנסמט לאלה שבנויים עלנציין

52:42

Speaker A

אוקיי זה אותו אקוסיסטם אה בבדרוקש פשוט פשוט וקל cloud watch AWS cloud watch הוא נותן לך תמונה טובה עם מטריקות מובנות אוקיי לאourור מוניורing עם פוס application insverורטקס גם כן החבר'ה עם הקופירי הטוב בעולם זה נקרא clודitoring אוקיי ואין מה לעשות זה

53:06

Speaker A

פשוט החברה הזאת לא לא משקיע בעליל בקופירייטינג ואלה שרוצים משהו פארטי שיעבוד עם כולם אז אנחנו דיברנו או הליקון אוקיי מהפרק של obity וגם מהפרק של א הs andes שגם ישקירטר מהעולמות העליונים זה השם של המוצר שזה עולם אחר

53:27

Speaker A

אני אתפק לו לצחוק קשה גדול בן אדם אה טוב דיברנו אני אסתכל על השעון לא יודע כמה כמעט שעה א על הקונטקסט ווינדוס ווינדו ובוא תסכם לנו בבקשה ר את ה חמש דברים שמישהו יכול לקחת רגע מהפרק שלנו.

53:55

Speaker A

יאללה. אז אם באמת חמישה דברים זה מה שאתה מקציב להם. סבבה אני אני זורם אחד סליחה לא השיעול דווקא את זה. אל תקחו קוס ווינדו כן אחד קודקס ווינדו הוא משאב. זה לא איזה מכשיר קסמים. תנהלו אותו בצורה מודעת. אוקיי, תסתכל במה אתה

54:16

Speaker A

משתמש, כמה אתה משתמש, מה נכנס, מה לא נכנס. זה אחד. שתיים, חוזרים להתחלה. קונטקסטרות רקב הוא אמיתי. זה דבר שקורה. שיחה ארוכה עם הרבה ניסיונות כושלים, כיוונים שהשתנו, מידע לא רלוונטי, פוגע הביצועים. כמה? לא יודע. תלוי בכם. תפתחו את האינסטינקט

54:38

Speaker A

לזהות מתי לפתוח שיחה חדשה. תן לי אני אני אנסה את השלישי אולי. או נגענו בפרק בהרבה עניין של סיכום וסקניפשוטים שבסוף הם כלים מאוד חשובים אז כמו שאמרת לפני שמסיימים שיחה רגע לסכם ולפני שפותחים שיחה חדשה חבר'ה תנו

54:58

Speaker A

קונטקסט נכון כאילו זה בסוף א א יכול מאוד מאוד לשנות את החווית העבודה עם עם יין לחלוטין אמת אמת ארבע לחברות אוקיי לא למשתמש קצה קש ורג שווה כסף אוקיי casing באזור contסing בנושא של basing בורטקס או בדרוק

55:24

Speaker A

אותו דבר בקטע הזה זה לא פיצ'רים זה לא סתם פיצ'רים זה חיסרון ישיר בעלויות ובזמן ובקונטקסט תמשו את הדבר הזה חמישי רוצה לנסות אבזרבילי אני חושב ש כן אני חושב שהנקודה האחרונה שנגעת אובסרבילטי בסוף א גם בתחום של של האגנטים בעיקרון

55:44

Speaker A

אז לפני ש אולי לפני שמתחילים בפודקשן או שמתרחבים להתחיל לעבוד עם הרבה מאוד אגנטים אז עדיף למדוד ולבדוק לפני זה ולנתר זה כמובן ה ה הדבר החשוב ואולי תזכיר את המטריקות החשובות ניר הכי חשוב לדעתי conקx utilation rate תכלס

56:06

Speaker A

מה מה הultילציה שלך latency כמו כל דבר בחיים וכל זה per session ואז אתה יכול להתחיל להכפיל אלה השלוש מטריקות שיגידו לך אם אתה בכלל בכיו הנכון כן מגניב מגניב אוקיי אז היה פרק א אני חושב ש אחד ברמה של הפרקים אני חושב שהוא

56:25

Speaker A

היה מאוד עמוס בסדר אני חושב שהיה תוכן טוב אבל אה אולי תשמעו את הפרק פעמיים חבר'ה למי שככה לא לא אני אומר יודע לפעמים לוקח זמן א א להבין דברים עד הסוף אז אה זה מה שהייתי אומר זו המלצה שלי

56:41

Speaker A

מספר שיש לאנשים על הפרק הזה נכון תודה רבה ומי שבאמת שאלות ספציפיות קהילת הוואטסאפ שלנו מתחילה לצבור תאוצה האתר החדש שלנו על תעלה יש לנו כבר אתר חדש כבר הולך אתר חדש חדש הולך לראות אחרת רות המקצועי בלוג פוסט וקורסים אונליין יש

57:00

Speaker A

לנו הרבה תוכניות לעתיד בעזרת השם בונים את זה איתכם ביחד גם מקבלים באמת מלא פידבקים מאנשים זה נורא נורא כיף לאחרונה הצאות לשיתופי פעולה הצאות להשתתפות בפרקים פרקים שאתם רוצים לראות, פרקים שלא אהבתם זה priceלס אנחנו מאוד מאוד נהנים זה וזה

57:18

Speaker A

עושה לנו מאוד טוב ואנחנו רואים שזה לפחות חלק מהדברים שאנחנו עושים אריל משפיעים טובים בצורה טובה אנשים מבסוטים עוזר להם ללמד אותם אנחנו בעיקר עוד פעם המטרה המרכזית שלנו זה להפיץ את את הידע את המידע א ולעזור לאנשים א לא ליפול על טעויות שאולי יהיה

57:37

Speaker A

אנחנו יכולים לחסוך להם נכון זה מצד אחד אבל שני גם איך איך ללמוד? תשמע, אני לפני חודשיים, שלושה כמעט לא נגעתי בכלי. היום, אתה יודע, אני אני לא עושה כמעט שום דבר בלי, זה כבר מתחיל להיות מפחיד, בוא נגיד ככה.

57:53

Speaker A

והפרודוקטיביות והדברים שאפשר לעשות הם הם מדהימים. אז א אם הפרק הזה עזר לכם או פרקים אחרים, אז נשמח שגם תעקבו אחרינו סבסקרייב, איפה שאתם לא רואים את את הפרק.

58:06

Speaker A

א, תעבירו לאנשים שאולי יכולים להשתמש בזה. וזהו זה פרק מאוד חשוב שיכול לשנות הרבה מאוד דברים בדרך שאתם עובדים היום.

58:14

Speaker A

יופי חברים, זה עד הפרק הבא. תמשיכו לחדש, תמשיכו לנהל את הקונטקסט שלכם חכם ותזכרו ה הוא כלי.

58:21

Speaker A

A כלי. מי שיודע יש בו נכון מנצח. המאז מנצח. טוב חברים, תודה רבה ועד הפעם הבאה.

58:31

Speaker A

ביי ביי. צ'או. יפה. עכשיו בושה ש

Topics: קונטקסט ווינדו GPT קלוד AI ג'מיני Context Rots ניהול קונטקסט טוקנים AI עסקי אגנטים וקטור דטאבייס


---
This is the markdown twin of https://sozai.app/transcript/context-window-management-cloudai-podcast/ — the same content, without the markup.
Published by SozAI (https://sozai.app). Reuse and quotation are allowed with attribution and a link back.
Machine-readable index: https://sozai.app/llms.txt · data API: https://sozai.app/api/