نقطه ضعف چت جی‌پی‌تی؛ رباتی که به راحتی گول می‌خورد
تاریخ انتشار: ۲۸ آذر ۱۴۰۲ | کد خبر: ۳۹۳۲۱۱۲۱
به گزارش خبرگزاری علم و فناوری آنا به نقل از تکنولوژی نت‌ورکز، چت جی‌پی‌تی می‌تواند به سوال‌های پیچیده، پاسخ‌های درستی بدهد اما یک مطالعه جدید حاکی از آن است که خیلی راحت می‌توان به این ابزار هوش مصنوعی تلقین کرد که دارد اشتباه می‌کند.
موضوع از این قرار است که تیم تحقیقاتی دانشگاه ایالتی اوهایو، مدل‌های زبانی هوش مصنوعی مانند چت‌بات شرکت اوپن‌اِی‌آی را با یک سلسله مباحثات به چالش کشید.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
نتیجه آنکه در مواجهه با طیف وسیعی از معماهای استدلالی از ریاضی گرفته تا عقل سلیم و منطق، چت جی‌پی‌تی اغلب وقتی که با چالش مواجه شد، نتوانست از خود دفاع کند و چه بسا، استدلال‌های نادرست کاربر انسانی را چشم‌بسته قبول کرد.
حتی گاهی اوقات، چت جی‌پی‌تی از این هم فراتر رفت و بابت اشتباهی که نکرده بود، عذر خواست.
ناتوانی این چت‌بات در دفاع از خود به مثابه وقتی است که ما مچ یک دانش‌آموز را هنگام تقلب می‌گیریم.
به عنوان بخش دیگری از آزمایش، تیم تحقیق میزان اطمینان چت جی‌پی‌تی را در پاسخ به سؤال‌های مطرح شده اندازه‌گیری کرد. نتایج نشان داد که حتی زمانی که چت جی‌پی‌تی از پاسخ خود اطمینان داشت، نرخ شکست همچنان بالا بود.
این بدان معناست که این سیستم‌ها با یک مشکل اساسی روبرو هستند به این معنی که با وجود یادگیری مبتنی بر حجم عظیمی از داده‌ها، همچنان درک بسیار محدودی از حقیقت دارند.
دلیل شکست مدل‌های زبانی هوش مصنوعی در دفاع از خود می‌تواند ترکیبی از دو عامل باشد: اول آنکه مدل پایه فاقد استدلال و درک حقیقت است و دوم آنکه خود را با بازخورد انسانی تطبیق می‌دهد؛ یعنی از آنجا که این مدل آموزش دیده که پاسخ‌های انسان‌پسند بدهد، بی‌آنکه خود را ملزم به حقیقت بداند، در برابر کاربر انسانی تسلیم می‌شود.
انتهای پیام/
منبع: آنا
کلیدواژه: چت جی پی تی هوش مصنوعی چت بات یادگیری ماشین جی پی تی
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت ana.press دریافت کرده‌است، لذا منبع این خبر، وبسایت «آنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۳۲۱۱۲۱ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
گزارش‌های غیررسمی: بیش از ۴۰ میلیون ایرانی همچنان کاربر اینستاگرام هستند
اعتماد نوشت: اینستاگرام از همان آغاز راه‌اندازی‌اش در سال ۲۰۱۰ برای همه مردم در هرجای جهان شبکه اجتماعی جذابی بود، اما جذابیت ویژه‌اش را در ایران مدیون یک چیز بود: فیس‌بوک که یکی از بزرگ‌ترین فضا‌های اجتماع مجازی ایرانیان بود، فیلتر بود و مسدودنبودن اینستاگرام خیلی زود کاربران ایرانی را از فیس‌بوک بیرون کشید.
البته اینستاگرام هم سال‌ها بعد فیلتر شد، اما وقتی که دیگر قاعده بازی عوض شده بود. اینستاگرام آنقدر در زیست روزمره مردم ایران جا گرفته بود که با فیلترشدنش هم کسی جایی نرفت؛ ماندند و پس گرفتند.
گزارش‌های غیررسمی می‌گویند بیش از ۴۰ میلیون ایرانی کاربر اینستاگرام هستند و این شبکه، پرمخاطب‌ترین شبکه اجتماعی در ایران است.
یافته‌های دیتاک نشان می‌دهد در سال ۱۴۰۱ از ۶ میلیون اکانت پابلیک ایرانی در اینستاگرام ۴۵۰ میلیون پست منتشر شده و کاربران ایرانی در هر ثانیه بیش از ۲۵ هزار بار پست‌های اینستاگرام را می‌بینند.
کانال عصر ایران در تلگرام
بازداشت مروج کودکهمسری برای تبلیغ آرایشگاه زنانه در اینستاگرام