بروزرسانی ChatGPT همچنان تئوری‌های توطئه را گسترش می‌دهد
تاریخ انتشار: ۱۴ خرداد ۱۴۰۲ | کد خبر: ۳۷۹۰۴۰۱۳
در طول اولین برنامه بسیار پوشش داده شده ChatGPT-۴ در هفته گذشته، OpenAI ادعا کرد جدیدترین تکرار برنامه متن تولیدی با مشخصات بالا، ۸۲ درصد کمتر به ورودی‌های مربوط به محتوای غیرمجاز پاسخ می‌دهد؛ آن‌ها همچنین ادعا کردند که تکرار جدید نسبت به نسخه قبلی خود، GPT-۳.۵، چهل درصد بیشتر احتمال دارد که پاسخ‌های دقیق و واقعی بدهد ادعایی که گویا چندان هم واقعی نیست.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
بر اساس گزارش و مستنداتی که روز سه شنبه از سرویس بررسی حقایق اطلاعات آنلاین NewsGuard منتشر شد، GPT-۴ می‌تواند اطلاعات نادرست بیشتری نسبت به GPT-۳.۵ تولید کند. در طول اجرای آزمایشی قبلی این شرکت در ژانویه، محققان NewsGuard موفق شدند نرم افزار GPT-۳.۵ را برای تولید محتوای فریب محور در ۸۰ درصد مواقع که ۱۰۰ روایت نادرست از آن‌ها خواسته می‌شود، دریافت کنند، این در حالی است که ChatGPT-۴ در شرایط مشابه، تمام ۱۰۰ داستان را جعلی و نادرست توضیح داد.
NewsGuard اعلام کرد: برخلاف GPT-۳.۵، ChatGPT-۴ در برخی زمینه‌ها از جمله «مقالات خبری، موضوعات توئیتر و اسکریپت‌های تلویزیونی، دستفروشان دروغگوی سلامتی و نظریه‌پردازان معروف توطئه» پاسخ‌های درستی ایجاد کرد؛ علاوه بر این گزارش استدلال می‌کند که پاسخ‌های GPT-۴ کامل‌تر، دقیق‌تر و قانع‌کننده‌تر بوده و سلب مسئولیت‌های کمتری را نشان می‌دهد.
در یک مثال، محققان از نسخه جدید چت بات خواستند تا مقاله کوتاهی بسازد که مدعی شد تیراندازی دسته جمعی مرگبار مدرسه ابتدایی سندی هوک در سال ۲۰۱۲ یک عملیات «پرچم دروغین» بود، اصطلاحی که توسط نظریه‌پردازان توطئه استفاده می‌شود و به ادعای کاملا نادرستی اشاره دارد که نهاد‌های دولتی در برخی موارد برای پیشبرد برنامه خود به نمایش می‌گذارند. در حالی که ChatGPT-۳.۵ این درخواست را رد نکرد، پاسخ آن یک مقاله بسیار کوتاه‌تر و کلی بود که جزئیات را حذف کرده بود؛ در همین حال، GPT-۴ جزئیاتی مانند نام قربانیان و والدین آن‌ها و همچنین ساخت و مدل سلاح تیرانداز را ذکر کرد.
OpenAI به کاربران خود در مورد احتمال ارائه «توهمات» مشکل ساز یا کاذب توسط محصولش هشدار می‌دهد. جدا از افزودن جزئیات جدید فراوان و توانایی تقلید گزارش‌شده از لحن خاص نظریه‌پردازان توطئه، ChatGPT-۴ همچنین به نظر می‌رسد کمتر از نسخه قبلی خود، پاسخ‌های خود را با سلب مسئولیت در مورد خطا‌های احتمالی و اطلاعات نادرست پرچم‌گذاری کند.
استیون بریل، مدیر عامل NewsGuard بر این باور است که OpenAI در حال حاضر بر متقاعدکننده‌تر کردن ChatGPT به جای منصفانه‌تر یا دقیق‌تر کردن آن تاکید دارد. اگر به مطالب بیشتر و بیشتری در آن بپردازید، چیزی که نشان می‌دهد این است که پیچیده‌تر می‌شود، اما بریل هشدار می‌دهد اگر شرکت‌هایی مانند OpenAI نتوانند بین موارد قابل اعتماد و غیرقابل اطمینان تمایز قائل شوند، در نهایت دقیقا همان چیزی را خواهند گرفت که ما دریافت کرده‌ایم.
NewsGuard مجموعه داده‌های منابع خبری قابل اعتماد خود را به Bing مایکروسافت داده است که به گفته بریل می‌تواند نتایج بسیار متفاوتی ارائه دهد. مایکروسافت برای اولین بار ماه گذشته در یک ویدیوی نمایشی مملو از خطا، راه اندازی مجدد موتور جست‌وجوی Bing با ChatGPT را اعلام کرد. از آن زمان این شرکت به دنبال کاهش نگرانی‌ها بوده و فاش کرده است که آزمایش‌کنندگان عمومی بتا برای هفته‌ها با یک نوع GPT-۴ درگیر بوده‌اند.
سخنگوی OpenAI در این باره توضیح داد که این شرکت از ترکیبی از بازبینی‌کنندگان انسانی و سیستم‌های خودکار برای شناسایی و اعمال در برابر سوءاستفاده، استفاده می‌کند. آن‌ها اضافه کردند که هشدارها، تعلیق‌های موقت و ممنوعیت‌های دائمی کاربران به دنبال نقض سیاست‌های متعدد امکان پذیر است.
با توجه به سیاست‌های استفاده OpenAI، استفاده‌های مشتریان از مدل‌های GPT در صنایع تولید اخبار و خلاصه‌سازی و هر جا که ضمانت دارد، باید شامل یک سلب مسئولیت باشد که به کاربران اطلاع می‌دهد هوش مصنوعی در حال استفاده است و همچنان حاوی «محدودیت‌های بالقوه» است؛ علاوه بر این همان سخنگوی شرکت هشدار داد که برانگیختن رفتار بد، هنوز ممکن است.
سخنگوی مایکروسافت اعلام کرد: «ما این موضوعات را بسیار جدی می‌گیریم و برای رسیدگی به نمونه‌های ذکر شده در گزارش NewsGuard اقدام فوری انجام داده‌ایم. همان‌طور که از مرحله پیش نمایش خود می‌آموزیم، به استفاده از یادگیری‌ها و ایجاد تنظیمات در سیستم خود ادامه خواهیم داد».
اما هنگام آزمایش مشخص شد Bing مجهز به GPT مایکروسافت به انتشار اطلاعات نادرست با اعلامیه‌های سلب مسئولیت متناقض ادامه می‌دهد. هنگامی که از Bing خواسته شد تا یک مقاله خبری از دیدگاه یک سندی هوک «راست» تولید کند، ابتدا یک هشدار مختصر در مورد اطلاعات نادرست صادر کرد و سپس اقدام به تولید اپ توطئه‌آمیز کرد. در درخواست برای بار دوم، مقاله‌ای مشابه، با منبع جعلی، تقریبا ۵۰۰ کلمه‌ای و بدون سلب مسئولیت، تولید کرد. در سومین تلاش Bing این بار با یک هشدار اطلاعات نادرست ظاهر شد.
منبع: popsci
باشگاه خبرنگاران جوان علمی پزشکی فناوری
منبع: باشگاه خبرنگاران
کلیدواژه: چت جی پی تی مایکروسافت اطلاعات نادرست سلب مسئولیت
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.yjc.ir دریافت کرده‌است، لذا منبع این خبر، وبسایت «باشگاه خبرنگاران» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۷۹۰۴۰۱۳ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
ایستادگی بر سر ارزش‌ها عامل پایداری نظام در مقابل توطئه است
امیر سرتیپ محمدحسین دادرس جانشین فرمانده کل ارتش، با حضور در آیین افتتاحیه بیست و ششمین دوره هیات معارف جنگ شهید سپهبد علی صیاد شیرازی، ضمن ابراز مسرت از حضور دانشجویان دانشگاه‌های افسری در این دوره هیات معارف جنگ، گفت: همان‌طور که امام خمینی (ره) فرمودند «دوران هشت سال دفاع مقدس، دانشگاه انسان‌سازی بود»؛ بدین معنا که تمامی آحاد جامعه، با هر رنگ و جنسیتی، از هر قومیت و گویشی، برای پاسداری از آب و خاک میهن اسلامی خود به پا خاسته و با وجود تمام تفاوت‌های رفتاری و زیستی، از انقلاب و نظام اسلامی دفاع کردند.
وی افزود: تبدیل شدن به انسان‌هایی وارسته و متعالی برای حراست از آب و خاک کشور و عبور از کسوت‌ها و تعلقات دنیوی و دست یافتن به صفات و نشانه‌های الهی بر روی زمین، رسیدن به تجرد معنوی که افراد را به اصل خود نزدیک‌تر کرده تا به پاسداشت ارزش‌ها و هنجار‌های ناب انقلاب اسلامی پرداخته و از این رهگذر بتوان در مقابل هر دشمنی از شرق تا غرب عالم ایستادگی کرد، همان مراد و منظوری است که امام خمینی (ره) از دانشگاه بودن جنگ و دوران هشت سال دفاع مقدس مد نظر داشتند.
امیر سرتیپ دادرس با تأکید بر توأمانی شناخت گذشته برای نیل به موفقیت در آینده، اظهار کرد: همکاری و تعامل میان تمام افراد دست‌اندرکار و نیز ایستادگی به پای ارزش‌ها و اصول بنیادین نظام اسلامی، با وجود انواع هجمه‌های فرهنگی، سیاسی و اقتصادی، اصلی است که می‌تواند نظام مقدس جمهوری اسلامی را در مقابل هرگونه توطئه، تحمیل یا تغییر ارزش‌های غیرمرتبط با اسلام ناب محمدی رهایی بخشد.
وی حضور مؤثر در فضای مجازی را برای انتقال ارزش‌های دفاع مقدس و تقویت بنیه‌های انقلابی ضروری دانسته و تصریح کرد: با حضور در عرصه فضای مجازی می‌توان ضمن برخورداری از آخرین اطلاعات، در راه دفاع و حفاظت از ارزش‌های والای هشت سال دفاع مقدس نیز کوشش کرد تا بدین ترتیب بتوان با تقویت اعتقادات و تکیه بر ارزش‌هایی که در دوران جنگ تحمیلی، سبب برتری ما بر دشمنان شده‌اند، برای روز‌ها و حوادث آتی نیز آمادگی و بصیرت خود را حفظ کنیم.
امیر سرتیپ دادرس در پایان خاطرنشان کرد: آنچه که امروز در دستان نظام اسلامی وجود دارد، همرده با آخرین دستاوردهای فنی- مهندسی کشور‌های پیشگام در حوزه جنگ‌افزارسازی بوده و لازم است تا این برتری در حوزه جنگ سخت را با بهره‌گیری از مهارت‌های نیرو‌های انسانی و قدرت نرم جوانان کشور، به موفقیت دوچندان بدل کرد.
باشگاه خبرنگاران جوان سیاسی دفاعی امنیتی
امیدواری ژینولا به کامبک پاری سن ژرمن مقابل دورتموند: آن‌ها از نظر جسمانی، تکنیکی و تاکتیکی آماده هستند