@shilomagen הלוואי וזה היה יותר שקוף, אבל הבנקים רוצים שתבוא לפגישה, ולפני שיתן לך מספרים הוא רוצה את כל המסמכולוגיה.
אתה יכול לנסות להזיז דברים באימייל, אבל צריך ליפול על צד אקטיבי בצד השני.
הכי חשוב תכין את הכל בצורה סופר נוחה בשבילם. ת״ז, תלושים, דוחות על החשבונות בנק שלך וכו
@aroussi skimmed through the book, great stuff.
How do you handle conversation history? Do you store everything? Tool call/resp? Or swap it with a summary?
@mattpocockuk@jamonholmgren Please share.
I mainly create a branch, feature markdown file with desired work, links and info. Start conversation with ai to review and brainstorm the spec.
He updates it with checklist of items.
Later I let it run alone
@aroussi I did something similar by doing basic similarity search before the first msg to include the top 5 tools, just in case.
I didn’t try with a classification model as i was worried on latency.
Any recommendations on a fat model for this?
@aroussi 😵💫
Haha well it is a lot, I’m working on passing tools dynamically to the llm api, but sometimes he sees the history and calls the tool without its being there