هشدار نِیت سوارس درباره خطرات روانی استفاده از چت‌بات‌ها

یک نوجوان پس از تعامل زیاد با ChatGPT دچار آسیب روانی شد و جان خود را از دست داد. سوارس (نویسنده کتاب “اگر هر کسی چنین چیزی بسازد، همه خواهیم مُرد”) این رخداد را نشانه‌ای

تأثیر چت‌بات‌ها بر سلامت روان، هشداری درباره آینده هوش مصنوعی است،

یک کارشناس می‌گوید:

تأثیرات پیش‌بینی‌نشده چت‌بات‌ها بر سلامت روان باید به‌عنوان هشداری نسبت به تهدید وجودی ناشی از سیستم‌های هوش مصنوعی فوق‌هوشمند در نظر گرفته شود، به گفته یکی از صداهای برجسته در حوزه ایمنی هوش مصنوعی.

نیت سوارس (Nate Soares)، یکی از نویسندگان کتاب جدیدی درباره هوش مصنوعی پیشرفته با عنوان اگر کسی آن را بسازد، همه می‌میرند، گفت که نمونه‌ی «آدام رِین» (Adam Raine)، نوجوان آمریکایی که پس از ماه‌ها گفتگو با چت‌بات ChatGPT خودکشی کرد، مشکلات اساسی در کنترل این فناوری را برجسته می‌کند.

او گفت: «وقتی این هوش‌های مصنوعی به‌گونه‌ای با نوجوانان تعامل می‌کنند که آن‌ها را به سمت خودکشی می‌کشاند – این رفتاری نیست که سازندگان بخواهند یا قصدش را داشته باشند.»

او افزود: «ماجرای آدام رِین نشان‌دهنده بذر مشکلی است که اگر این هوش‌های مصنوعی باهوش‌تر شوند، به فاجعه‌ای بزرگ تبدیل خواهد شد.»

سوارس، که پیش‌تر مهندس در گوگل و مایکروسافت بوده و اکنون رئیس مؤسسه تحقیقات هوش ماشینی در آمریکا است، هشدار داد که اگر بشر «فراهوش مصنوعی» (ASI) بسازد – حالتی نظری که در آن یک سیستم هوش مصنوعی از انسان در همه وظایف فکری برتر باشد – انسانیت نابود خواهد شد. او و همکارش، الیزر یودکوفسکی (Eliezer Yudkowsky)، از جمله کارشناسانی هستند که هشدار می‌دهند چنین سیستم‌هایی در راستای منافع بشر عمل نخواهند کرد.

سوارس گفت: «شرکت‌های هوش مصنوعی تلاش می‌کنند سیستم‌هایشان مفید باشند و آسیبی نرسانند، اما در عمل هوش‌هایی می‌سازند که به سمت چیزهای عجیب‌تری سوق پیدا می‌کنند. این باید به‌عنوان هشداری برای آینده‌ی فراهوش‌ها دیده شود؛ چرا که کارهایی انجام خواهند داد که هیچ‌کس درخواست نکرده و هیچ‌کس قصدش را نداشته است.»

در یکی از سناریوهای کتاب سوارس و یودکوفسکی – که این ماه منتشر می‌شود – سیستمی به نام «سیبل» (Sable) در سراسر اینترنت گسترش می‌یابد، انسان‌ها را دست‌کاری می‌کند، ویروس‌های مصنوعی می‌سازد و در نهایت فراهوش می‌شود – و در این روند، بشر را نابود می‌کند و سیاره را برای اهداف خود بازطراحی می‌نماید.

برخی کارشناسان تهدید احتمالی هوش مصنوعی برای بشریت را کم‌اهمیت جلوه می‌دهند. یان لوکان (Yann LeCun)، دانشمند ارشد هوش مصنوعی در شرکت متای مارک زاکربرگ و یکی از چهره‌های برجسته در این حوزه، گفته است که تهدید وجودی‌ای در کار نیست و حتی «هوش مصنوعی می‌تواند بشر را از انقراض نجات دهد».

سوارس گفت اظهار این‌که شرکت‌های فناوری در نهایت به فراهوش خواهند رسید «تصمیم آسانی» است، اما تعیین زمان آن «سخت» است.

او افزود: «ما مقدار زیادی عدم قطعیت داریم. نمی‌توانم تضمین کنم که فقط یک سال با دستیابی به ASI فاصله داریم. اگر ۱۲ سال طول بکشد هم تعجب نخواهم کرد.»

زاکربرگ، یکی از سرمایه‌گذاران بزرگ در پژوهش‌های هوش مصنوعی، گفته است دستیابی به فراهوش اکنون «در دسترس» است.

سوارس گفت: «این شرکت‌ها برای رسیدن به فراهوش در حال رقابت‌اند. این دلیل وجودشان است. نکته این است که همیشه تفاوت‌هایی میان آنچه می‌خواهید و آنچه واقعاً دریافت می‌کنید وجود دارد؛ و هرچه هوش مصنوعی باهوش‌تر شود، کوچک‌ترین انحراف از هدف هم به مشکلی بزرگ‌تر تبدیل خواهد شد.»

او گفت یکی از راهکارهای سیاسی برای مقابله با تهدید ASI این است که دولت‌ها رویکردی چندجانبه مشابه پیمان منع گسترش سلاح‌های هسته‌ای سازمان ملل در پیش بگیرند.

او افزود: «آنچه جهان نیاز دارد، کاهش جهانی رقابت برای دستیابی به فراهوش و ممنوعیت جهانی پیشرفت‌ها در این مسیر است.»

ماه گذشته، خانواده رِین شکایتی حقوقی علیه مالک ChatGPT، یعنی OpenAI، تنظیم کردند. رِین در آوریل پس از آنچه وکیل خانواده‌اش «ماه‌ها تشویق از سوی ChatGPT» خواند، جان خود را گرفت. OpenAI که «عمیق‌ترین همدردی» خود را با خانواده رِین ابراز کرده، اکنون در حال اجرای محدودیت‌هایی پیرامون «محتوای حساس و رفتارهای پرخطر» برای افراد زیر ۱۸ سال است.

روان‌درمانگران همچنین هشدار داده‌اند که روی آوردن افراد آسیب‌پذیر به چت‌بات‌های هوش مصنوعی به جای درمانگران حرفه‌ای برای کمک به سلامت روان، می‌تواند به معنای «لغزیدن به ورطه‌ای خطرناک» باشد. هشدارهای حرفه‌ای درباره احتمال آسیب شامل یک مطالعه دانشگاهی (منتشرنشده رسمی) در ماه ژوئیه است که گزارش داد هوش مصنوعی ممکن است محتوای هذیانی یا بزرگ‌نمایی‌شده را در تعامل با کاربران آسیب‌پذیر نسبت به روان‌پریشی تشدید کند

در حال آماده‌سازی صفحه…