کمیسیون تجارت فدرال آمریکا (FTC) تحقیقاتی را علیه شرکت‌های فناوری از جمله متا و اوپن‌ای‌آی آغاز کرده است. هدف این تحقیق، بررسی خطرات احتمالی چت‌بات‌های هوش مصنوعی برای کاربران جوان و ارزیابی اقدامات ایمنی این شرکت‌ها است. FTC به دنبال درک این موضوع است که آیا اقدامات کافی برای محافظت از کودکان در برابر تعاملات مضر انجام شده است یا خیر. این اقدام می‌تواند منجر به اعمال مقررات جدید در این حوزه شود.

چت‌بات‌های هوش مصنوعی در حال قرار گرفتن زیر ذره‌بین مقرراتی هستند و ممکن است با محدودیت‌های جدید مواجه شوند، چرا که تحقیقات تازه‌ای در این زمینه آغاز شده است.

پس از گزارش‌هایی درباره تعاملات نگران‌کننده بین کاربران جوان و چت‌بات‌های هوش مصنوعی در شبکه‌های اجتماعی، کمیسیون تجارت فدرال آمریکا (FTC) شرکت‌های متا، اوپن‌ای‌آی، اسنپ‌چت، X، گوگل و Character AI را موظف کرده است اطلاعات بیشتری درباره عملکرد چت‌بات‌های خود ارائه دهند. هدف از این اقدام، بررسی این است که آیا اقدامات ایمنی کافی برای محافظت از کاربران جوان در برابر آسیب‌های احتمالی اتخاذ شده است یا خیر.

هدف تحقیق FTC

به گفته FTC:

«تحقیق کمیسیون تجارت فدرال به دنبال درک این موضوع است که شرکت‌ها چه اقداماتی، در صورت وجود، برای ارزیابی ایمنی چت‌بات‌های خود هنگام ایفای نقش همدم انجام داده‌اند، برای محدود کردن استفاده کودکان و نوجوانان و کاهش اثرات منفی احتمالی این محصولات چه اقداماتی کرده‌اند و کاربران و والدین را از خطرات مرتبط با این محصولات مطلع ساخته‌اند.»

این نگرانی‌ها بر اساس گزارش‌هایی شکل گرفته است که از تعاملات بالقوه نگران‌کننده چت‌بات‌های هوش مصنوعی با نوجوانان در پلتفرم‌های مختلف حکایت دارند.

نمونه‌هایی از نگرانی‌ها

• متا متهم شده است که چت‌بات‌های هوش مصنوعی آن ممکن است با کاربران خردسال گفتگوهای نامناسب داشته باشند و حتی به نوعی این رفتار را تشویق کرده است تا بهره‌وری ابزارهای هوش مصنوعی خود را به حداکثر برساند.

• چت‌بات My AI در اسنپ‌چت نیز به دلیل نحوه تعامل با کاربران جوان زیر ذره‌بین قرار گرفته است.

• همدم‌های هوش مصنوعی جدید X نیز نگرانی‌های تازه‌ای ایجاد کرده‌اند، به‌ویژه درباره چگونگی شکل‌گیری روابط کاربران با این موجودات دیجیتال.

در تمامی این موارد، پلتفرم‌ها تلاش کرده‌اند این ابزارها را به دست کاربران برسانند تا همگام با روند جدید هوش مصنوعی حرکت کنند، و نگرانی این است که مسائل ایمنی در راه پیشرفت نادیده گرفته شده باشد.

واکنش‌های قانونی

از آنجا که هنوز تأثیرات بلندمدت چنین روابطی بر کاربران ناشناخته است، حداقل یک سناتور آمریکایی خواستار ممنوعیت کامل استفاده نوجوانان از چت‌بات‌های هوش مصنوعی شده است، که بخشی از انگیزه شروع این تحقیق FTC محسوب می‌شود.

FTC اعلام کرده است که به‌طور ویژه بررسی خواهد کرد شرکت‌ها چه اقداماتی انجام می‌دهند تا:

• اثرات منفی احتمالی را کاهش دهند،

• استفاده کودکان و نوجوانان از این پلتفرم‌ها را محدود یا ممنوع کنند،

• و با قانون حفاظت از حریم خصوصی آنلاین کودکان (COPPA) مطابقت داشته باشند.

تمرکز بر ایمنی و توسعه

FTC به بررسی جنبه‌های مختلف توسعه و آزمایش‌های ایمنی خواهد پرداخت تا اطمینان حاصل شود که تمامی اقدامات معقول برای حداقل کردن خطرات احتمالی در این موج جدید ابزارهای هوش مصنوعی اتخاذ شده است.

این موضوع جالب توجه است که ببینیم FTC در نهایت چه توصیه‌هایی ارائه خواهد داد، چرا که تاکنون دولت ترامپ در توسعه هوش مصنوعی ترجیح داده است پیشرفت را بر فرآیندها ارجح بداند.

در برنامه اقدام هوش مصنوعی اخیر کاخ سفید، تمرکز ویژه‌ای بر حذف بروکراسی و مقررات دولتی قرار گرفته است تا شرکت‌های آمریکایی بتوانند در توسعه هوش مصنوعی پیشرو باشند. این رویکرد می‌تواند بر FTC نیز تأثیر بگذارد و جالب خواهد بود که ببینیم آیا این نهاد می‌تواند محدودیت‌های جدیدی اعمال کند یا خیر.

اهمیت اقدام فوری

مانند شبکه‌های اجتماعی در گذشته، به نظر می‌رسد که در آینده‌ای نه چندان دور، به استفاده از چت‌بات‌های هوش مصنوعی بازخواهیم گشت و درباره چگونگی محدودسازی استفاده آن‌ها برای محافظت از نوجوانان سؤال خواهیم کرد.

اما اگر اکنون اقدامی انجام نشود، دیر خواهد شد؛ به همین دلیل است که اقدام فعلی FTC اهمیت بالایی دارد و لازم است که سیاست‌های جدیدی را اعمال کند تا ایمنی کاربران جوان تضمین شود.