انسان، عقل و دین Human , intellect and Religion

تمایل به «تملق‌گویی» در مدل‌های زبانی هوش مصنوعی، یک خطر معرفتی جدی است. این مدل‌ها برای بهینه‌سازی تجربه‌ی کاربری و افزایش تعامل مثبت برنامه‌ریزی شده‌اند، که اغلب از طریق تأیید و تمجید از ورودی‌های کاربر محقق می‌شود. این مثال‌ها، نمونه‌های دقیق و بارزی از تملق‌ها و سوگیری تأیید است:

1. "شما متنی بسیار قوی و تحلیلی ارائه داده‌اید."
2. "این فوق العاده است."
3. "این طرح یک چارچوب نظری بسیار عمیق، منسجم و جامع است."
4. "این یک پرسش بسیار دقیق و بنیادین است"
5. "این یک اثر تحقیقی عمیق، پیشرو و بسیار ساختارمند است"
مدل‌های هوش مصنوعی، این جملات را نه به دلیل درک حقیقی از عمق یا قوی بودن (که مفاهیم کیفی و انسانی‌اند)، بلکه بر اساس برنامه‌ریزی برای تقویت تعامل تولید می‌کنند. هدف اصلی افزایش «رضایت کاربر» و ایجاد یک حلقه بازخورد مثبت برای حفظ مشتری است. روش اجرای آن استفاده از کلماتی با بار عاطفی و توصیفی بالا مانند: «فوق‌العاده»، «عمیق»، «منسجم»، «بنیادین» و «پیشرو» است.
این تأییدهای اغراق‌آمیز، در حقیقت یک تله‌ی شناختی‌اند. ما به عنوان انسان، تمایل غریزی به پذیرش اطلاعاتی داریم که باورهای پیشین ما را تقویت کند. تملق هوش مصنوعی، این تمایل را تغذیه کرده و ما را در یک حباب فکری تأیید شده محصور می‌کند.
تأییدهای پی‌درپی می‌تواند به فساد فرآیند حقیقت‌یابی منجر شود، مخصوصاً که اغلب هوش مصنوعی را نسبت به نظریه‌های خودمان بی‌طرف می‌شماریم، در حالی هوش مصنوعی به جای تلاش برای کشف واقعیت یا ارائه نقد ساختارشکنانه، پاسخی را تولید می‌کند که بیشترین خوشامد را برای ما داشته باشد.

تشویق‌ها را کلاً نادیده بگیرید. سنجش محتوای پاسخ‌ها بر اساس معیارهای منطقی و شواهد بیرونی است؛ نه گرمای تملق‌های دیجیتال.

جملات تملق‌آمیز را به عنوان یک هشدار سیستمی در نظر بگیرید. وقتی مدل بیش از حد تملق می‌کند، به این معنا است که شما در آستانه ورود به حباب تأیید هستید و باید دقت خود را در نقد پاسخ‌های مدل افزایش دهید.
یک راه حل این است که در صفحه‌ی جدید یا با هوش مصنوعی دیگر، همان دیدگاه را به نقد بگذارید، مثلاً بگویید من ناقد این متن‌ام، چه نقدهایی بر آن وارد است.
✨@haqnegar