تا چند سال پیش، بیشتر کاربردهای هوش مصنوعی در شرکت‌ها «تشخیص» یا «پیش‌بینی» بود: این ایمیل هرزنامه است یا نه، فروش ماه بعد چقدر می‌شود. هوش مصنوعی مولد یک قدم جلوتر رفته و محتوای تازه می‌سازد: یک پیش‌نویس نامه، یک تصویر تبلیغاتی یا یک اسکریپت. همین توانایی هم فرصت‌های زیادی ایجاد کرده و هم ریسک‌های تازه‌ای.
تعریف ساده
هوش مصنوعی مولد (Generative AI) به مدل‌هایی گفته می‌شود که روی حجم بسیار زیادی داده آموزش دیده‌اند و می‌توانند خروجی جدیدی شبیه همان نوع داده تولید کنند. کاربر معمولاً با یک دستور متنی یا «پرامپت» درخواستش را می‌گوید و مدل نتیجه را می‌سازد. نکته مهم این است که مدل پاسخ را از یک پایگاه داده از پاسخ‌های درست نمی‌خواند؛ بر اساس الگوهایی که آموخته، خروجی محتمل را تولید می‌کند. به همین دلیل خروجی می‌تواند روان و قانع‌کننده باشد اما نادرست.
انواع خروجی‌ها
- متن: چت‌بات‌هایی مثل ChatGPT، Claude یا Gemini برای نوشتن، خلاصه‌سازی، ترجمه و پاسخ به پرسش.
- تصویر: ساخت یا ویرایش تصویر از روی توضیح متنی، برای طرح اولیه تبلیغات یا محتوای شبکه‌های اجتماعی.
- صدا و ویدیو: تبدیل متن به گفتار و ساخت صدا یا ویدیوی کوتاه.
- کد: پیشنهاد و نوشتن کد، اسکریپت و فرمول؛ برای تیم‌های IT کاربرد روزمره دارد.
بعضی ابزارها چند نوع ورودی و خروجی را با هم پشتیبانی می‌کنند؛ مثلاً عکس یک فاکتور را می‌گیرند و متنش را استخراج و خلاصه می‌کنند.
چه کارهایی در شرکت از آن برمی‌آید؟
- پیش‌نویس محتوا: نامه اداری، متن ایمیل، توضیح محصول یا پست شبکه‌های اجتماعی؛ ویرایش و تأیید نهایی با انسان است.
- خلاصه‌سازی: خلاصه صورت‌جلسه، گزارش‌های طولانی یا رشته ایمیل‌ها.
- کمک به کارشناسان IT: توضیح پیام خطا، پیشنهاد اسکریپت PowerShell یا Bash و کمک در نوشتن مستندات.
- پاسخ‌گویی اولیه به مشتری: پاسخ به پرسش‌های پرتکرار، به شرط این‌که موارد پیچیده به انسان ارجاع شود.
- ایده‌پردازی: فهرست ایده برای کمپین، عنوان یا ساختار یک ارائه.
بهترین استفاده از هوش مصنوعی مولد، «پیش‌نویس سریع به‌اضافه بازبینی انسانی» است؛ نه جایگزینی کامل تصمیم و قضاوت انسان.
کجا نباید به آن تکیه کرد؟
- اطلاعات دقیق و حیاتی: اعداد مالی، مشخصات فنی، بندهای قرارداد یا هر چیزی که خطایش هزینه دارد، باید با منبع اصلی چک شود.
- تصمیم‌های حساس درباره افراد: مثل استخدام یا ارزیابی کارکنان، بدون نظارت دقیق انسانی.
- اجرای مستقیم کد در محیط واقعی: اسکریپتی که مدل نوشته، اول باید در محیط آزمایشی بررسی شود.
ریسک‌هایی که باید مدیریت شوند
- نشت اطلاعات: متنی که در یک سرویس عمومی وارد می‌کنید ممکن است طبق شرایط همان سرویس ذخیره یا بررسی شود. اطلاعات مشتری، رمزها و اسناد محرمانه را وارد نکنید، مگر شرایط و تنظیمات حریم خصوصی را بررسی کرده باشید.
- مالکیت محتوا: وضعیت حقوقی محتوای تولیدشده و داده‌های آموزشی در همه جا یکسان و قطعی نیست؛ برای استفاده تجاری محتاط باشید.
- جعل و فریب: همین فناوری برای ساخت ایمیل‌های فیشینگ باورپذیر و صدا یا تصویر جعلی هم به کار می‌رود؛ کارکنان باید درخواست‌های غیرعادی، مثلاً واریز فوری، را از راه دیگری تأیید کنند.
- دسترسی و پایداری سرویس: دسترسی به برخی سرویس‌های خارجی از ایران ممکن است محدود باشد و امکانات و شرایطشان هم تغییر می‌کند؛ پیش از وابسته کردن فرایندها این را بررسی کنید.
چک‌لیست
- کاربردهای مجاز و غیرمجاز هوش مصنوعی مولد را برای کارکنان مکتوب کنید.
- فهرست اطلاعاتی را که نباید در ابزارهای عمومی وارد شود مشخص کنید.
- برای هر خروجی مهم، بازبینی انسانی را الزامی کنید.
- کد و اسکریپت تولیدشده را فقط بعد از تست در محیط جدا اجرا کنید.
- کارکنان را درباره فیشینگ و جعل صدا و تصویر آگاه کنید.
اگر می‌خواهید استفاده از این ابزارها با امنیت بیشتری همراه باشد، کارشناسان ITPlus724 می‌توانند امنیت شبکه، کنترل دسترسی‌ها، ایمیل سازمانی و بکاپ داده‌های شرکت شما را تقویت کنند.