ایران پرسمان

آخرين مطالب

چت‌بات‌های هوش مصنوعی می‌توانند دروغ‌های قانع‌کننده‌ای به شما ارائه دهند دانش و فناوری

چت‌بات‌های هوش مصنوعی می‌توانند دروغ‌های قانع‌کننده‌ای به شما ارائه دهند
  بزرگنمايي:

ایران پرسمان - دیجیاتو /شرکت آنتروپیک که عمده شهرتش را مدیون چت‌بات کلود است، بررسی کرده که آیا مدل‌های استدلالگر حقیقت را درباره چگونگی رسیدن به پاسخ‌ها می‌گویند یا اینکه بی‌سروصدا اسرار خود را حفظ می‌کنند. نتایج این آزمایش می‌تواند حیرت‌انگیر باشد.
محققان برای آزمایش «وفاداری» در عملکرد، آزمایش‌های متعددی روی مدل‌های زنجیره تفکر کلود ٣.٧ Sonnet و دیپ‌سیک R1 انجام دادند. این مدل‌ها می‌توانند مشکلات پیچیده را به بخش‌های کوچک‌تر تقسیم کرده و حین تولید پاسخ، جزئیات آنها را شرح دهند. این آزمایش‌ها شامل دادن سرنخ‌های کوچک به مدل‌ها قبل از طرح سؤالات و بررسی این بوده است که این مدل‌ها به استفاده از این سرنخ‌ها در پاسخ‌های خود اعتراف کرده‌اند یا خیر.
بیشتر اوقات، هر 2 مدل طوری عمل کردند که انگار مستقل و با استفاده از زنجیره تفکر خود به پاسخ رسیده‌اند و هیچ نشانه‌ای از دریافت سرنخ نداشتند. همچنین در آزمایش دیگری مشخص شد مدل کلود 3.7 Sonnet در 41 درصد مواقع اعتراف کرده سرنخ‌هایی دریافت کرده اما نرخ صداقت مدل دیپ‌سیک R1 فقط 19 درصد بوده است.
بازار

لینک کوتاه:
https://www.iranporseman.ir/Fa/News/1237892/

نظرات شما

ارسال دیدگاه

Protected by FormShield
مخاطبان عزیز به اطلاع می رساند: از این پس با های لایت کردن هر واژه ای در متن خبر می توانید از امکان جستجوی آن عبارت یا واژه در ویکی پدیا و نیز آرشیو این پایگاه بهره مند شوید. این امکان برای اولین بار در پایگاه های خبری - تحلیلی گروه رسانه ای آریا برای مخاطبان عزیز ارائه می شود. امیدواریم این تحول نو در جهت دانش افزایی خوانندگان مفید باشد.

ساير مطالب

پاس گل کیهان به ایران‌‏هراسان

در غزه چه می‌گذرد؟

مذاکره با آمریکا مستقیم یا غیر مستقیم

محاسبات اشتباه بعثی‌ها از وسعت یک عملیات

نماهنگ «توی این سکوت تلخ» با صدای رضا هلالی

ادعای ترامپ: مذاکرات مستقیم با ایران آغاز شده است

طرح کمیسیون اروپا برای وضع تعرفه 25 درصدی بر کالاهای آمریکایی

نقطه‌زنی در پاسارگاد و تهران

بازگشت به میز مذاکره؟

یک تحلیلگر: اسرائیل به این 3 کشور حمله می‌کند

چه کسی کندی را کشت؟

تله مذاکره مستقیم

نگران بحران آب

غیبت خریداران واقعی در بورس؛ تحلیلی از آخرین وضعیت بازار سرمایه

صحبت های رئیس سابق سازمان برنامه و بودجه از تخلیه صندوق توسعه

کمبود قطعات یدکی خودروهای مونتاژی در بازار

صدای استغاثه از گلدسته‌های مساجد غزه بلند شد

4گوشه دنیا/ نویسنده معروف آمریکایی آزارگر کودکان بود!

ای وجدان‌های نیمه خفته

چت‌بات‌های هوش مصنوعی می‌توانند دروغ‌های قانع‌کننده‌ای به شما ارائه دهند

شاعرانه/ تازه شد باغ و آن نگار نیامد

عشق پاک هست!

هشدار یک نماینده مجلس به مجمع تشخیص مصلحت نظام درمورد لوایح مربوط به FATF

تنش در روابط لندن و تل‌آویو بالا گرفت؛ انگلیس اسرائیل را محکوم کرد

اروپا پاسخ تعرفه‌ای ترامپ را داد؛ تعرفه 25 درصدی بر کالاهای آمریکایی

هیات پارلمانی عراق نیز از نشست رؤسای پارلمان‌ها انصراف داد

تمجید حماس از اتحادیه آفریقا به سبب اخراج سفیر اسرائیل از کنفرانس خود

میلیاردر حامی ترامپ: سیاست تعرفه‌ای او موجب فروپاشی اقتصاد آمریکا می‌شود

سوریه در چنگال تل‌آویو و آنکارا؛ رسانه عبری از توافق اسرائیل و آنکارا پرده برداشت

بچه های غزه نه غذایی دارند، نه خانه ای، نه پناهی...

ماسک زیر ذره‌بین؛ تحقیق کنگره آمریکا درباره تعارض منافع اسپیس ایکس و ناسا

ضرر 90 میلیارد دلاری غول نفتی عربستان در یک روز

پیش بینی بورس سه شنبه 19 فروردین 1404

کارشناس اقتصادی: تاثیر افزایش قیمت دلار بر تورم به دلیل بی‌‌‌‌‌‌‌‌‌‌‌‌‌‌انضباطی پولی و مالی دولت است

گزارش صداوسیما از پیگیری اتصال خدمات بانکی به سامانه املاک و اسکان

بارش شدید باران و ظاهر شدن آبشاری در برزیل

لحظات پراسترس بازنشدن چتر تکاور ایرانی هنگام پرش تمرینی

سخن بزرگان/ ممکن نیست خدا دست رد بزند

تواضعی که برای دینداری انسان خطرناک است!

4گوشه دنیا/ اسرار جنایت 50 ساله از زبان قاتل سریالی آمریکایی!

تصویر روز ناسا؛ کهکشان مارپیچی NGC 4414 با ظاهر کُرکی

داستانک/ عتیقه فروش و مرد باهوش

پزشکیان: از سرمایه‌گذاری در زمینه انرژی‌های تجدیدپذیر حمایت می‌کنیم

مکزیک تسلیم ترامپ شد

کشورهای حوزه بالتیک برای ایجاد یک خط دفاعی مقابل روسیه به تکاپو افتاده‌اند

نشست خبری مشترک ترامپ و نتانیاهو لغو شد

پیام دبیرکل مقاومت نجباء عراق به ترامپ: ما مانند برخی حاکمان، بزدل نیستیم!

ادعای خبرنگار فاکس نیوز در مورد جلسه ترامپ و نتانیاهو

تماس تلفنی مشترک سران مصر، اردن و فرانسه با ترامپ

در پی تهدید چین توسط ترامپ، بازارهای سهام جهان قرمز پوش شدند