تصور کنید کارمندی بپرسد «سقف تنخواه واحد فروش چقدر است؟» و دستیار هوش مصنوعی به‌جای جستجو در ده‌ها فایل، جواب را با اشاره به بند دقیق آیین‌نامه بدهد. این همان چیزی است که با RAG (Retrieval-Augmented Generation یا تولید پاسخ با کمک بازیابی) ساخته می‌شود. ایده جذاب است، اما اگر بدون طراحی امنیتی پیاده شود، می‌تواند اطلاعات محرمانه را در اختیار افراد نادرست بگذارد.
RAG چطور کار می‌کند؟
مدل زبانی به‌خودی‌خود اسناد شرکت شما را نمی‌شناسد. RAG در دو مرحله این مشکل را حل می‌کند:
- آماده‌سازی: اسناد خوانده، به تکه‌های کوچک (Chunk) تقسیم و هر تکه با یک مدل Embedding به یک بردار عددی تبدیل می‌شود که معنای آن را نشان می‌دهد. این بردارها در یک پایگاه داده برداری (Vector Database) ذخیره می‌شوند.
- پاسخ‌گویی: سؤال کاربر هم به بردار تبدیل می‌شود، نزدیک‌ترین تکه‌ها پیدا می‌شوند و همراه سؤال به مدل زبانی داده می‌شوند. مدل بر اساس همین متن‌ها جواب می‌نویسد و منبع را ذکر می‌کند.
مزیت اصلی این است که برای افزودن دانش جدید لازم نیست مدل را دوباره آموزش دهید؛ کافی است سند تازه را به مخزن اضافه کنید.
مزایا
- دسترسی سریع به آیین‌نامه‌ها، مستندات فنی، قراردادهای نمونه و پاسخ‌های پرتکرار.
- امکان نمایش منبع هر پاسخ، که بررسی صحت را ساده‌تر می‌کند.
- کاهش وابستگی به چند نفر که «همه‌چیز را می‌دانند».
- امکان اجرای کامل روی سرور داخلی، اگر مدل زبانی و مدل Embedding هر دو محلی باشند.
ریسک‌های اصلی
- نشت از طریق دسترسی‌ها: بزرگ‌ترین خطر این است که همه اسناد در یک مخزن ریخته شوند و دستیار، حقوق مدیران یا قرارداد محرمانه را برای هر کسی که بپرسد خلاصه کند. سطح دسترسی هر سند باید در مرحله بازیابی رعایت شود، نه فقط در پوشه اصلی.
- پاسخ نادرست: RAG خطای مدل را کم می‌کند، اما حذف نمی‌کند. اگر تکه اشتباه بازیابی شود یا سند ناقص باشد، مدل ممکن است با اطمینان جواب غلط بدهد.
- اسناد قدیمی: اگر نسخه قدیمی یک آیین‌نامه پاک نشود، دستیار ممکن است از آن جواب بدهد.
- تزریق دستور (Prompt Injection): متنی که داخل یک سند یا ایمیل پنهان شده، می‌تواند مدل را به رفتار ناخواسته وادار کند؛ مخصوصاً اگر دستیار به ابزار یا سیستم دیگری هم دسترسی داشته باشد.
- خروج داده: اگر مدل زبانی یا Embedding یک سرویس ابری باشد، تکه‌های اسناد برای آن ارسال می‌شود. شرایط نگهداری داده آن سرویس را بررسی کنید.
- لاگ‌ها: سؤال‌های کاربران خودشان می‌توانند حساس باشند و باید مثل داده محرمانه با آن‌ها رفتار شود.
پیش از وارد کردن هر پوشه به مخزن RAG، از خودتان بپرسید: «آیا حاضرم هر کسی که به دستیار دسترسی دارد، این سند را بخواند؟» اگر جواب منفی است، یا آن را وارد نکنید یا کنترل دسترسی سندمحور پیاده کنید.
طراحی امن‌تر
- با یک مجموعه محدود و غیرحساس شروع کنید، مثل مستندات عمومی IT یا سؤالات پرتکرار کارکنان.
- کاربران را از طریق Active Directory احراز هویت کنید و گروه‌های دسترسی را به اسناد نگاشت دهید.
- برای هر سند مالک و تاریخ بازبینی تعیین کنید و فرایند حذف نسخه‌های منسوخ داشته باشید.
- یک مجموعه سؤال آزمایشی با جواب درست بسازید و بعد از هر تغییر، کیفیت پاسخ‌ها را با آن بسنجید.
- دسترسی دستیار به ابزارهای دیگر، مثل ارسال ایمیل یا تغییر داده، را تا حد امکان محدود کنید.
- از مخزن برداری و پیکربندی آن بکاپ بگیرید و سرور را مثل یک سرور حاوی داده محرمانه ایمن کنید.
چک‌لیست
- محدوده اسناد مجاز و غیرمجاز مکتوب شده است.
- سطح دسترسی کاربران در مرحله بازیابی رعایت می‌شود.
- هر پاسخ منبع خود را نشان می‌دهد.
- اسناد مالک، تاریخ بازبینی و فرایند به‌روزرسانی دارند.
- مسیر ارسال داده به سرویس‌های خارجی روشن و تأییدشده است.
- مجموعه سؤال آزمایشی برای سنجش کیفیت وجود دارد.
- لاگ‌ها و مخزن برداری محافظت و بکاپ‌گیری می‌شوند.
کارشناسان ITPlus724 می‌توانند سرور، شبکه، یکپارچگی با Active Directory، کنترل دسترسی، امنیت و بکاپ لازم برای میزبانی چنین سامانه‌ای را در شرکت شما آماده کنند.