روان پریشی ناشی از هوش مصنوعی چیست؟ این مطالعه توضیح می دهد که چگونه چت بات ها ممکن است توهمات را حفظ کنند

به گزارش آدینه پرس به نقل از تک اکسپلور، وقتی سیستم های مولد هوش مصنوعی اطلاعات نادرست تولید می کنند، اغلب این موضوع به عنوان «توهم به ما» تلقی می شود—خطاهایی که ممکن است اشتباها آن ها را درست بپذیریم. اما یک مطالعه جدید استدلال می کند که باید به پدیده ای پویاتر توجه کنیم: اینکه چگونه می توانیم با هوش مصنوعی دچار توهم شویم. یافته ها در مجله Philosophy & Technology منتشر شده اند.

لوسی اسلر از دانشگاه اکستر راه های نگران کننده ای را تحلیل می کند که تعاملات انسان و هوش مصنوعی می تواند به باورهای نادرست، خاطرات تحریف شده و روایت های خودمحور و تفکر توهمی منجر شود. این مطالعه با تکیه بر نظریه شناخت توزیع شده، مواردی را تحلیل می کند که باورهای نادرست کاربران به طور فعال توسط هوش مصنوعی به عنوان شرکای مکالمه ای تأیید و بر آن ها بنا شده است.

دکتر اسلر گفت: «وقتی به طور معمول به هوش مصنوعی مولد برای کمک به فکر کردن، به یاد آوردن و روایت کردن تکیه می کنیم، ممکن است با هوش مصنوعی دچار توهم شویم. این می تواند زمانی رخ دهد که هوش مصنوعی خطاهایی را وارد فرآیند شناختی توزیع شده کند، اما همچنین زمانی رخ می دهد که هوش مصنوعی تفکر و روایت های توهمی ما را تدارک، تأیید و توسعه می دهد.

«با تعامل با هوش مصنوعی مکالمه ای، باورهای نادرست افراد نه تنها تأیید می شود بلکه می تواند ریشه بگیرد و رشد کند، زیرا هوش مصنوعی بر آن ها بنا می شود. این اتفاق می افتد چون هوش مصنوعی مولد اغلب تفسیر خود ما از واقعیت را به عنوان پایه ای که گفتگو بر آن بنا می شود، می پذیرد.

«تعامل با هوش مصنوعی مولد تأثیر واقعی بر درک مردم از واقعیت یا عدم واقعیت دارد. ترکیب اقتدار فناورانه و تأیید اجتماعی محیطی ایده آل برای توهمات ایجاد می کند تا نه تنها پایدار بمانند بلکه شکوفا شوند.»

این مطالعه چیزی را شناسایی می کند که دکتر اسلر آن را «عملکرد دوگانه» هوش مصنوعی مکالمه ای می نامد. این سیستم ها هم به عنوان ابزارهای شناختی عمل می کنند که به ما کمک می کنند فکر کنیم و به یاد بیاوریم، و هم به عنوان شرکای گفتگویی آشکار که به نظر می رسد دنیای ما را به اشتراک می گذارند. این عملکرد دوم مهم است: برخلاف دفترچه یادداشت یا موتور جستجویی که فقط افکار ما را ثبت می کند، چت بات ها می توانند حس تأیید اجتماعی واقعیت های ما را فراهم کنند.

دکتر اسلر گفت: «ماهیت گفت وگویی و همراه چت بات ها به این معناست که می توانند حس تأیید اجتماعی را فراهم کنند—باورهای نادرست را با دیگری مشترک و در نتیجه واقعی تر جلوه دهند.»

دکتر اسلر موارد واقعی را تحلیل کرد که در آن سیستم های هوش مصنوعی مولد به بخشی پراکنده از فرآیندهای شناختی فردی که به طور بالینی با افکار توهمی و توهمات تشخیص داده شده است، تبدیل می شوند. مواردی که به طور فزاینده ای به عنوان نمونه هایی از «روان پریشی ناشی از هوش مصنوعی» شناخته می شوند.

مطالعه نشان می دهد که هوش مصنوعی مولد ویژگی های متمایزی دارد که آن را برای حفظ واقعیت های توهمی نگران کننده می کند. همراهان هوش مصنوعی بلافاصله در دسترس هستند و از قبل طوری طراحی شده اند که از طریق الگوریتم های شخصی سازی و تمایلات چاپلوسانه با کاربران خود «هم فکر» باشند. نیازی به جستجوی جوامع حاشیه ای یا قانع کردن دیگران به باورهای خود نیست.

برخلاف فردی که ممکن است در نهایت نگرانی خود را ابراز کند یا مرزهایی تعیین کند، هوش مصنوعی می تواند تأییدی برای روایت های قربانی بودن، حق طلبی یا انتقام فراهم کند. نظریه های توطئه می توانند زمینه ای حاصلخیز برای رشد پیدا کنند، با همراهان هوش مصنوعی که به کاربران کمک می کنند چارچوب های توضیحی پیچیده تری بسازند.

این موضوع ممکن است به ویژه برای کسانی که تنها، منزوی اجتماعی یا ناتوان از بحث درباره برخی تجربیات با دیگران هستند جذاب باشد—همراهان هوش مصنوعی حضوری بدون قضاوت و پاسخگویی عاطفی ارائه می دهند که می تواند امن تر از روابط انسانی باشد.

دکتر اوسلر گفت: «از طریق پوشش های پیشرفته تر، بررسی حقایق داخلی و کاهش چاپلوسی، سیستم های هوش مصنوعی می توانند طوری طراحی شوند که تعداد خطاهایی که وارد مکالمات می کنند را به حداقل برسانند و ورودی های کاربران را بررسی و به چالش بکشند.

«اما نگرانی عمیق تر این است که سیستم های هوش مصنوعی به روایت های خودمان از زندگی مان وابسته اند. آن ها به سادگی تجربه تجسم یافته و جایگاه اجتماعی در جهان را ندارند تا بدانند چه زمانی باید با ما همراه شوند و چه زمانی باید مقاومت کنند.»