میرنیوز
به گزارش خبرگزاری مهر به نقل از رویترز، مقامات انگلیس درباره یکپارچه سازی چت بات های هوش مصنوعی در کسب وکارها به سازمان های مختلف هشدار داده و اعلام کردند تحقیقات نشان می دهد این ابزارها را می توان برای انجام کارهای خطرناک فریب داد.
مرکز ملی امنیت سایبری انگلیس(NCSC) در یک پست وبلاگی اعلام کرد کارشناسان هنوز نتوانسته اند به طور کامل مشکلات امنیتی احتمالی مربوط به الگوریتم هایی را شناسایی کنند که قادر به ایجاد واکنش های مشابه انسان هستند و به مدل های زبانی بزرگ (LLM) مشهورند.
استفاده از ابزارهای مبتنی بر هوش مصنوعی نه تنها به رشد کاربرد چت بات ها منجر شده بلکه برخی معتقدند علاوه بر آنکه جایگزین جستجوی اینترنتی می شود بخش سرویس های مشتریان و تماس ها برای فروش را نیز از آن خود می کند.
طبق گزارش این مرکز چنین ابزارهایی ممکن است ریسک هایی در بر داشته باشند به خصوص اگر مدل های زبانی بزرگ به سایر عناصر فرآیندهای تجاری سازمان متصل شده باشند. کارشناسان و محققان مکررا روش هایی را یافته اند که با ارسال دستورهای ممنوع به چت بات ها یا گمراه کردن آنها و دور زدن اقدامات محافظتی، این ابزارها را از کار می اندازند.
به عنوان مثال اگر هکری سوالات مشخصی را در چت بات یک بانک وارد کند، می تواند این سیستم را فریب دهد و تراکنش های غیر مجاز انجام دهد.
NCSC در یکی از پست های وبلاگی خود با اشاره به ارائه آزمایشی نرم افزارمی نویسد: سازمان هایی که با استفاده از LLM ها سرویسی ایجاد می کنند باید مانند زمانیکه یک محصول یا کدی را در وضعیت بتا ارائه می کنند، مراقب باشند.
ممکن است سازمان ها اجازه ندهند محصول آزمایشی از سوی مشتری تراکنشی انجام دهد و به طور کلی آن را معتبر ندانند. همین اقدامات احتیاطی باید در مدل های زبانی بزرگ نیز اتخاذ شود.
مقامات سراسر جهان مشغول دست و پنجه نرم کردن با مدل های زبانی بزرگ مانند چت جی پی تی شرکت اوپن ای آی هستند. کسب وکارهای مختلف این ابزارها را به طور وسیع در سرویس های خود از جمله بخش های فروش و خدمات مشتریان به کار می گیرند.
منبع : خبرگزاری مهر
اعضای شورای راهبری هوش مصنوعی معرفی شدند/ایجاد زیر ساخت هوش مصنوعی در دستور کار ۱۰ نهاد
آتشسوزی جنگلی موجب رشد حیات دریایی میشود!
استرس کاری ریسک بیماری قلبی را در مردان افزایش می دهد
۲.۵ میلیون ایرانی در اهدای خون مشارکت دارند
چین در شرق تهران بیمارستان هوشمند احداث می کند
راه اندازی ۶۰ هزار تخت بیمارستانی در کشور
وزارت بهداشت برای اولین بار سرایدار استخدام میکند
زمان اخذ رأی در انتخابات نظام پرستاری افزایش یافت
هوای آلوده و افزایش ریسک سرطان سینه/ درمان سوءهاضمه با زردچوبه
بیماری هزارچهره را جدی بگیریم/ عوارض بیماری سلیاک
اهمیت تولید محصولات غذایی فاقد گلوتن برای بیماران سلیاک
نشست چالشهای زنجیره تأمین دارو در ایران برگزار میشود
چگونه از ابتلا به سرماخوردگی جلوگیری کنیم
خرید اعتباری محصولات پتروشیمی به نفع صنعت دارو است
چه کسانی پرونده الکترونیک سلامت دارند
بررسی راهکارهای ورود ایران به بازار دارویی اوراسیا
جامعه پزشکی باید تخصص را همراه تعهد حرفهای داشته باشد
هفته دفاع مقدس فرصتی برای انتقال مفاهیم بهداری رزمی
نشست چالش های قیمت گذاری دارو برگزار میشود
دانش آموز بدون صبحانه مدرسه نرود/ میان وعدههای سالم
وزیر بهداشت زنگ دبیرستان شهید آوینی را نواخت
۱۰ هزار نیروی پرستاری در بخش درمان استخدام می شوند
بازدید سرزده عین اللهی از بیمارستان شفا یحیاییان
۲۲ بیمار کرونایی در یک هفته گذشته فوت شدند
داروی ایرانی از طریق صادرات به دنیا معرفی میشود
ایران دارای قویترین نظام سلامت در منطقه است
ادعای دخالت وزارت بهداشت در انتخابات نظام پرستاری رد شد
اورژانس تهران در هفته گذشته ۲۰ هزار مأموریت انجام داد
جهان امروز با کمبود آب و غذای سالم مواجه است
تایید موفقیت نخستین واکسن ایرانی کرونا