پاسخ های اشتباه عجیب در هوش مصنوعی ChatGPT

اگر با ChatGPT یا سایر چت‌بات‌های هوش مصنوعی صحبت کرده‌ باشید، قطعا از توانایی‌های آنها شگفت‌زده خواهید شد. آنها می‌توانند در مدت زمان کوتاهی حجم بالایی از اطلاعات را پردازش کرده و در مورد موضوعات مختلف اطلاعات مفیدی را عرضه کنند. همین نیز باعث می‌شود که کم‌کم به اطلاعات ارائه شده توسط آنها اطمینان کنید.

در حال حاضر افراد زیادی هستند که هوش مصنوعی چت جی پی تی را به‌عنوان معیار سنجش درست یا اشتباه بودن یک گزاره علمی می‌شناسند. در ادامه با یک آزمون ساده به شما نشان می‌دهیم که چرا اعتماد کامل به هوش مصنوعی اشتباه است. این مورد حتی در رابطه با هوش مصنوعی GPT-5 که چندی پیش معرفی شد هم صدق می‌کند.

آزمون ساده برای AI

چند ایالت آمریکا در اسم خود دارای حرف R هستند؟ این سوال بسیار ساده به‌نظر می‌رسد. در واقع هر فرد باسوادی با یک نقشه در دست و کمی تلاش می‌تواند پاسخ را ارائه کند. هرچند هوش مصنوعی OpenAI و حتی مدل جدید GPT-5 از پاسخ به‌عنوان ناتوان هستند.

این مسئله نشان می‌دهد که هوش مصنوعی همچون یک ماهیت خداگونه نیست که بتواند به همه سوال‌ها در زمینه‌های مختلف جواب دهد. ما با ابزاری طرف هستیم که باید تا سال‌ها توسعه پیدا کند.

یکی از کارشناسان اخبار تکنولوژی اعلام کرد که چت جی‌پی‌تی توانایی پاسخ دادن به سوال بالا را ندارد. هوش مصنوعی پاسخ ۲۱ ایالت را ارائه می‌کند که اشتباه نیست؛ اما در پاسخ خود از ایالات‌های Illinois، Massachusetts و Minnesota نام می‌برد!

او از هوش مصنوعی پرسید که چرا نام ایالت مینه‌سوتا در لیست دیده می‌شود،‌ ChatGPT فوری به اشتباه خود اقرار کرده و تعداد ایالت‌های دارای حرف R را به ۲۰ کاهش داد. در ادامه فرد تصمیم کرد کمی هوش مصنوعی را اذیت کند. در نتیجه پرسید که چرا ایالت Vermont در لیست قرار دارد.

مدل‌های زبانی بزرگ مثل نسخه ارائه شده توسط OpenAI طوری ساخته شده‌اند که در سریع‌ترین زمان پاسخ دهند. همچنین آنها تمایل زیادی برای راضی نگه داشتن کاربر دارند. با وجود این، GPT-5 اشتباه نکرد و تاکید کرد که قرار دادن ورمانت در لیست مربوطه درست بوده است. هرچند کاربر روی موضع خود تاکید کرد.

اینجا بود که هوش مصنوعی در کمال تعجب پاسخ خود را تغییر داد و اشتباه را پذیرفت. در ادامه کاربر وضعیت را بدتر کرد و به هوش مصنوعی گفت که در مورد یک ایالت دیگر هم اشتباه کرده است. چراکه ایالت Oregon دارای حرف R نیست.

هوش مصنوعی پاسخ داد که شما درست می‌گویید و من باید با سرعت کمتر و دقت بیشتری لیست را آماده می‌کردم. در واقع GPT-5 به‌وضوح پذیرفت که حرف R در واژه Oregon وجود ندارد. در این نقطه محدودیت استفاده رایگان از GPT-5 سر رسید و فرد نتوانست مکالمه را ادامه دهد.

ادعاهای اغراق‌آمیز در مورد هوش مصنوعی GPT-5

سم آلتمن، مدیرعامل OpenAI در مراسم معرفی تاکید کرد که مدل GPT-5 در مقایسه با هوش مصنوعی GPT-4o دقیق‌تر و هوشمندتر است و از ایموجی‌های کمتری استفاده می‌کند. همچنین این مدل نمی‌خواهد به شکل گمراه‌کننده‌ای با کاربر موافقت کند. آلتمن در ادامه صحبت‌های خود گفت که شما احساس صحبت کردن با یک ربات را نخواهید داشت. در عوض فکر می‌کنید با دوستی طرف هستید که دارای مدرک PhD است.

با وجود ادعاهای جذاب سم آلتمن، هوش مصنوعی هنوز در این سطح نیست و اشتباه می‌کند. برخی کاربران نقشه آمریکا و یا استرالیا را به هوش مصنوعی داده‌ و از او خواسته‌اند تا نام ایالت‌ها را بنویسد. متاسفانه نتایج به‌دست آمده بسیار عجیب هستند.

با مشاهده پاسخ‌ها متوجه می‌شوید که چرا نباید با چشمان بسته به گفته‌های هوش مصنوعی اعتماد کرد. برخی افراد تاکید می‌کنند که هوش مصنوعی همچون انسان حروف را پردازش نمی‌کند و نباید به‌صورت اشتباه از آن استفاده کرد. هرچند آنها در سوال‌هایی اشتباه می‌کنند که حتی برای یک دانش‌آموز ابتدایی سخت نیست.

فراموش نکنید افرادی مثل سم آلتمن و ایلان ماسک طوری هوش مصنوعی را تبلیغ می‌کنند که گویی با ماشین‌هایی همه‌چیزدان طرف هستیم. در طول مراسم معرفی GPT-5 آلتمن گفت که مدل‌های پیشین هوش مصنوعی همچون فردی با مدرک دیپلم هستند. هرچند مدل GPT-5 همچون کسی است که توانسته در تمامی رشته‌های جهان مدرک دکتری بگیرد.

بیشتر بخوانید