کد خبر: ۳۲۴۷۲۰
۲۰ بهمن ۱۳۹۸ - ۱۹:۰۳
0
پول نیوز - تا به حال از شیوه‌های مختلفی برای فریب سیستم‌های هوش مصنوعی استفاده شده و در تازه‌ترین رویداد از این دست، محققان دانشگاه ام آی تی سیستم هوش مصنوعی گوگل را فریب داده اند.

فریب هوش مصنوعی گوگل توسط محققان ام آی تی

 

به گزارش پول نیوز به نقل از نکست وب، پژوهشگران این دانشگاه یک سیستم متنی موسوم به تکست فولر ابداع کرده‌اند که می‌تواند مدل‌های هوش مصنوعی که از سیستم پردازش زبان‌های طبیعی استفاده می‌کنند را گول بزند.

بسیاری از دستیارهای صوتی مانند الکسای آمازون و سیری اپل از سیستم پردازش زبان‌های طبیعی برای درک دستورات کاربران استفاده می‌کنند و لذا فریب آنها می‌تواند امنیت چنین سیستم‌هایی را به خطر بیاندازد. همچنین فریب سیستم مذکور موجب سوءاستفاده از آنها برای ارسال هرزنامه یا متون غیرمؤدبانه می‌شود.

تکست فولر یک سیستم فریبنده است که با درک نقص‌ها و ضعف‌های سیستم پردازش زبان‌های طبیعی آنها را فریب می‌دهد.

این سیستم جملاتی را با دستکاری چند کلمه آنها به خورد سیستم پردازش زبان‌های طبیعی می‌دهد، بدون اینکه دستکاری یادشده موجب تغییر معنا یا ایجاد غلط‌های دستور زبانی شود.

بعد از این کار و بررسی واکنش سیستم پردازش زبان‌های طبیعی به این تغییر، به تدریج تغییرات جدی تر و عمیق‌تری در جملات ایجاد می‌شود تا در نهایت از حساسیت و دقت این سیستم کاسته شود و بتوان آن را فریب داد.

محققان دانشگاه ام آی تی می‌گویند با همین روش سه مدل متداول در سیستم پردازش زبان‌های طبیعی را دستکاری کرده و فریب داده‌اند.

یکی از این مدل‌ها که برت نام دارد، یک مدل زبانی متن باز ابداع شده توسط گوگل است که تنها تغییر ۱۰ درصد از بخش‌های هر جمله توسط تکست فولر به فریب آن منجر شد. بر همین اساس انتظار می‌رود شرکت‌های فناوری برای ارتقای سیستم پردازش زبان‌های طبیعی اقدام کنند تا از دستکاری آن جلوگیری کنند.

ارسال نظرات
نام:
ایمیل:
* نظر:
گزارش مجامع بیشتر
حرکت سریع «مبین‌وان» به سوی آینده/ برنامه ریزی برای سودآوری بیشتر

حرکت سریع «مبین‌وان» به سوی آینده/ برنامه ریزی برای سودآوری بیشتر

در مجمع سالیانه شرکت مبین وان کیش سود 100 ریالی تقسیم شد.
سود ۲۰۰ ریالی در جیبت سهامداران «سپ»

سود ۲۰۰ ریالی در جیبت سهامداران «سپ»

مجمع عمومی عادی سالیانه سهامداران شرکت «پرداخت الکترونیک سامان کیش» با حضور۹۰ درصد از سهامداران تشکیل شد.
سود ۷۰ تومانی برای سهامداران «واتی»

سود ۷۰ تومانی برای سهامداران «واتی»

مجمع عمومی عادی سالانه صاحبان سهام شرکت «گروه سرمایه‌گذاری آتیه دماوند» صبح روز گذشته به دلیل شیوع ویروس کرونا و طبق دستورالعمل سازمان بورس، به صورت آنلاین و با حضور مدیرعامل، هیئت مدیره و ۸۱/۲۹ سهامداران شرکت برگزار شد.
پربازدید
پرطرفدارترین
برای دریافت خبرنامه پول نیوز ایمیل خود را وارد نمایید: