اپن ای آی با کلاهبرداران چت جی پی تی مقابله می کند
به گزارش مهندس وب، شرکت توسعه دهنده هوش مصنوعی چت جی پی تی به نام اُپن ای آی (OpenAI) مشخص کرده است که سرویس هوش مصنوعی پرچمدار آن جهت استفاده های مخرب و نامناسب ساخته نشده است.
به گزارش مهندس وب به نقل از ایسنا، این شرکت گزارشی منتشر نموده است که در آن جزئیاتی از مشاهده و بررسی روند نحوه ی استفاده کاربران مخرب از این پلت فرم دیده می شود. اُپن ای آی مشخص کرد که ده ها حساب کاربری را به ظن استفاده از چت جی پی تی به روش های غیرمجاز، مانند اشکال زدایی کد برای تولید محتوا برای انتشار در پلت فرم های توزیع مختلف» حذف کرده است.
به نقل از دیجیتال ترندز، این شرکت همینطور اخیرا اعلام نموده که به ۴۰۰ میلیون کاربر فعال هفتگی رسیده است. این شرکت توضیح داد که در کمتر از سه ماه بیشتر از ۱۰۰ میلیون کاربر افزایش پیدا کرده است چونکه شرکت ها و توسعه دهندگان بیشتری از ابزارهای آن استفاده می نمایند. با این وجود، چت جی پی تی همچنان یک سرویس مجانی است که در سطح جهانی قابل دسترس است. از آنجاییکه جنبه های اخلاقی و عملکردهای آن مدت ها مورد سوال بوده است، اُپن ای آی باید با این حقیقت کنار بیاید که نهادهایی وجود دارند که انگیزه های پنهانی برای این پلت فرم دارند.
سیاستهای اُپن ای آی بشدت استفاده از خروجی ابزارهای این شرکت را برای کلاهبرداری ممنوع می کند. این شرکت در گزارش خود اظهار داشت: ده ها حساب کاربری را شناسایی و مسدود کردیم.
اُپن ای آی در گزارش خود توضیح داد که باید اقدامات شرورانه ای را که در چت جی پی تی صورت می گیرد به چالش بکشد. این شرکت چندین مطالعه موردی را مورد توجه قرار داده است و در آنها با ممنوع کردن حساب هایی که از این ابزار برای اهداف مخرب استفاده می نمایند، بررسی و اقدام نموده است.
در یک نمونه، این شرکت، حسابی را تشریح کرد که در آن مقالات خبری تحقیرآمیز در مورد ایالات متحده نوشته می شد و منبع خبری در آمریکای لاتین زیر پوشش یک نشریه چینی منتشر می شد.
مورد دیگری که در کره شمالی بومی سازی شده است، ایجاد رزومه و مشخصات شغلی برای متقاضیان کار غیر واقعی بود. این حساب امکان دارد برای درخواست شغل در شرکتهای غربی استفاده شده باشد.
مطالعه دیگری نشان داد که حساب هایی که گمان می رود از کامبوج سرچشمه بگیرند، از چت جی پی تی برای ترجمه و ایجاد نظرات در چندین پلت فرم شبکه های اجتماعی همچون ایکس، فیسبوک و اینستاگرام استفاده می نمایند.
اُپن ای آی تایید کرده است که یافته های خویش را با هم عصران صنعت خود، مانند متا، به اشتراک گذاشته، چونکه که امکان دارد آنها هم به صورت ناخواسته تحت تاثیر اقدامات انجام شده در چت جی پی تی قرار گیرند.
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب