اخطار در رابطه با ریسک سایبری چت بات های هوش مصنوعی
به گزارش مهندس وب، مقامات انگلیس در رابطه با یکپارچه سازی چت بات های هوش مصنوعی در کسب و کارها به سازمان های مختلف اخطار دادند.
به گزارش مهندس وب به نقل از رویترز، مقامات انگلیس در رابطه با یکپارچه سازی چت بات های هوش مصنوعی در کسب و کارها به سازمان های مختلف اخطار داده و اعلام نمودند مطالعات نشان می دهد این ابزارها را میتوان برای انجام کارهای خطرناک فریب داد. مرکز ملی امنیت سایبری انگلیس(NCSC) در یک پست وبلاگی اعلام نمود کارشناسان هنوز نتوانسته اند به صورت کامل مشکلات امنیتی احتمالی در ارتباط با الگوریتم هایی را شناسایی کنند که قادر به ایجاد واکنش های مشابه انسان هستند و به مدلهای زبانی بزرگ (LLM) مشهورند. استفاده از ابزارهای مبتنی بر هوش مصنوعی نه تنها به رشد کاربرد چت بات ها منجر شده بلکه برخی معتقدند علاوه بر آنکه جایگزین جستجوی اینترنتی می شود بخش سرویسهای مشتریان و تماس ها برای فروش را هم از آن خود می کند. بر اساس گزارش این مرکز چنین ابزارهایی امکان دارد ریسک هایی در بر داشته باشند بخصوص اگر مدلهای زبانی بزرگ به سایر عناصر فرآیندهای تجاری سازمان متصل شده باشند. کارشناسان و محققان مکررا روش هایی را یافته اند که با ارسال دستورهای ممنوع به چت بات ها یا گمراه کردن آنها و دور زدن اقدامات محافظتی، این ابزارها را از کار می اندازند. بعنوان مثال اگر هکری سوالات مشخصی را در چت بات یک بانک وارد کند، می تواند این سیستم را فریب دهد و تراکنش های غیرمجاز انجام دهد. NCSC در یکی از پست های وبلاگی خود ضمن اشاره به عرضه آزمایشی نرم افزارمی نویسد: سازمان هایی که با استفاده از LLM ها سرویسی ایجاد می کنند باید مانند زمانیکه یک محصول یا کدی را در وضعیت بتا عرضه می کنند، مراقب باشند. امکان دارد سازمان ها اجازه ندهند محصول آزمایشی از جانب مشتری تراکنشی انجام دهد و به صورت کلی آنرا معتبر ندانند. همین اقدامات احتیاطی باید در مدلهای زبانی بزرگ هم اتخاذ شود. مقامات سراسر دنیا مشغول دست و پنجه نرم کردن با مدلهای زبانی بزرگ مانند چت جی پی تی شرکت اوپن ای آی هستند. کسب وکارهای مختلف این ابزارها را به صورت وسیع در سرویسهای خود همچون بخش های فروش و خدمات مشتریان به کار می گیرند.
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب