ארכיטקטורה

סקירת ארכיטקטורה ציבורית

עשרה משטחים ארכיטקטוניים - בידוד רב-דיירי, צינור RAG, הפשטת ספק LLM, מתאמי ערוצים, תגובת streaming, זרימת נתוני קבלן-משנה, טופולוגיית פריסה, התאוששות מאסון, צינור הערכה ותצפיתיות. אות אמון בצד-הנדסה המצמד עם בקרות אבטחה, עמדת ציות ורשימת קבלן-משנה.

בידוד נתונים רב-דייריים

כל דייר מקבל מפתח-מחיצה ClientId קפדני המיושם בכל שכבת אחסון. טבלאות SQL Server (SLAtech.Db) ואוספי החיפוש-הווקטורי שלנו מקושרים ל-ClientId עם מסנני שורה ואוסף הנאכפים בשכבת השאילתה. תבנית ה-repository דוחה כל שאילתה ללא ClientId בזמן-הידור דרך כלל מנתח-סטטי (SLATECH001). פרויקטי Sentry, יומני ביקורת ומיכלי blob כולם שומרים על אותה משמעת מחיצה. נתונים בין-דיירים הם בלתי-אפשרות מבנית, לא בדיקת זמן-ריצה.

צינור אחזור RAG

קליטה → chunk → embed → upsert: מסמכים (PDF, DOCX, HTML שנגרד, זוגות FAQ) מחולקים ל-chunks של 200-500 טוקנים עם חפיפה של 50 טוקנים. Chunks מוטמעים דרך מודל ההטמעה שלנו (וקטורים בני 1536 ממדים) ונכנסים למנוע החיפוש-הווקטורי שלנו עם metadata (ClientId, sourceUrl, chunkIndex). נתיב שאילתה: שאלה מוטמעת, חיפוש דמיון-קוסינוס top-K מסונן לפי ClientId, ScoreThreshold ברירת-מחדל 0.5. Chunks שאוחזרו עוברים ל-LLM עם metadata ציטוט מובנה כדי שהתשובה תישא Snippet לכל מקור. פיוס רץ לילית כשירות BackgroundService.

הפשטת ספק LLM

כל קריאות LLM עוברות דרך ILlmProvider - הפשטה דקה מעל כמה ספקי מודל-שפה (ספק ראשי, חלופת מסלול-Enterprise ל-failover, וספק re-ranking אופציונלי). בחירת ספק לכל-דייר דרך תצורה; failover מנותב אוטומטית בהגבלת-קצב או 5xx. שימוש בטוקנים ועלות מדווחים לכל-קריאה במטען התגובה כדי שהדיירים יוכלו לעקוב אחר הוצאות בזמן-אמת. החלפת ספק אינה דורשת הגירה בצד-הלקוח - ההפשטה מבודדת קוד יישום.

תבנית מתאם ערוצים

כל ערוץ (web widget, Telegram, WhatsApp Business, Instagram DM, אימייל) מיישם IChannelAdapter - חוזה משותף המתרגם מעטפות הודעות מקומיות לערוץ למודל Conversation דומיין מאוחד. תבנית המתאם מאפשרת לצינור השאילתה הליבה לרוץ בלי-תלות-בערוץ; עיצוב לכל-ערוץ (מקלדות מוטמעות של Telegram, הודעות תבנית של WhatsApp) שוכן בתוך המתאם. הוספת ערוץ אינה נוגעת בצינור השאילתה.

צינור תגובת streaming

Streaming מבוסס-SSE דרך נקודת קצה /v1/query/ask-stream. אירוע ראשון הוא sources-early - פולט metadata ציטוט לפני שמתחיל streaming של LLM (כדי שווידג'טים יציגו hover-cards "לפי" בזמן שהתשובה עדיין זורמת). אירועים עוקבים הם chunks של טוקנים; אירוע סופי הוא done עם metadata מצטבר (סה"כ טוקנים, סה"כ עלות, מזהה יומן שיחה). חותך אחורית-נתפסת ב-~70% לעומת תגובה סינכרונית.

זרימת נתוני קבלן-משנה

שאילתת לקוח → Kestrel ingress → SLAtech.Api → קריאת הטמעה לספק המודל שלנו (ארה"ב, SCC 2021/914) → חיפוש וקטור במנוע האחזור שלנו → קריאת LLM לספק מודל-השפה שלנו עם chunks שאוחזרו → תגובה ל-Kestrel → SSE חזרה לווידג'ט. Sentry מקבל מעטפות שגיאה מנוקות (PII מנוקה לפני פליטה). SendGrid מטפל באימייל טרנזקציוני (ארה"ב, SCC 2021/914). Cloudflare WAF ו-CDN בקצה גלובלי. רשימת קבלן-משנה מלאה ב-/he/sub-processors/.

טופולוגיית פריסה

Azure App Service (Linux) עבור SLAtech.Api, SLAtech.Web, SLAtech.AdminUI, SLAtech.Business + 8 רכזות אנכיות. Azure SQL Database לאחסון יחסי עם גיבוי יומי ושחזור לנקודת-זמן של 24 שעות. מנוע החיפוש-הווקטורי שלנו על Azure VM עם אוספים לכל-דייר. Azure Cache for Redis ל-session + token bucket להגבלת-קצב. Azure Storage ל-blobs של מסמכים. Cloudflare בחזית ל-WAF / הקלת DDoS / CDN. זרימות עבודה של GitHub Actions מפעילות פריסות ייצור ב-push לסניף production.

עמדת התאוששות מאסון

RTO 4 שעות, RPO שעה. גיבויי Azure SQL יומיים עם שמירה של 35 ימים; שחזור לנקודת-זמן בתוך 24 השעות האחרונות. מנוע החיפוש-הווקטורי שלנו מצולם לילית ל-Azure Storage. Failover רב-אזורי לזמינות גבוהה. ספר-הפעלה של DR נבדק רבעונית עם כשל אזור מדומה. דף סטטוס ב-status.slatech.ai מראה את זמינות הרכיבים כרגע.

צינור הערכה

תשובות הבנויות על תוכן שאוחזר מנוקדות בקריאת-מודל שנייה על עובדתיות, הזיה וביטחון. הציונים נכתבים לכל שאילתה וגלויים ללקוח שהאתר שייך לו בתיבת הניהול. אין הרצה תקופתית מול סט-בדיקה קבוע - /he/eval/ מסביר מה תדרוש השוואה שניתן לפרסם.

מחסנית תצפיתיות

Sentry לכל שירות backend עם ניקוי PII לפני פליטה. ניטור עסקאות סינתטיות בתדר 5-דקות. טווחים מאופיינים-OpenTelemetry לתזמוני צינור שאילתה. יומן ביקורת לכל-דייר ניתן ליצוא במסלול Enterprise. status.slatech.ai בודק 12 רכיבי ייצור ומראה אם כל אחד מהם עונה.

צריך דיאגרמות ארכיטקטורה עמוקות יותר?

מצגת ארכיטקטורה Enterprise ודיאגרמות-רצף לכל-רכיב זמינות תחת NDA.

כלי הערכת-קונה

ארבעה כלי שירות-עצמי להערכת SLAtech (או כל ספק צ'אטבוט AI) ללא שיחת-מכירות:

עמוד איכות התשובות איך אנחנו מודדים איכות תשובות מחשבון TCO חיסכון שנתי + תקופת החזר כלי השוואת-ספקים סנן 16 ספקים לפי 6 קריטריונים צ'ק-ליסט ספק 30 שאלות בדיקת-נאותות רכש