هفت خانواده دیگر از OpenAI به خاطر نقش ChatGPT در خودکشی و ایجاد توهمات شکایت کردند

هفت خانواده روز جمعه شکایاتی را علیه شرکت OpenAI تنظیم کردند و مدعی شدند که مدل GPT-4o این شرکت خیلی زود و بدون تدابیر محافظتی موثر عرضه شده است. چهار مورد از این شکایت‌ها به نقش ادعایی ChatGPT در خودکشی اعضای خانواده اشاره دارد و سه مورد دیگر مدعی هستند که ChatGPT باعث تقویت توهماتی شده که در برخی موارد منجر به بستری شدن روانی شده است.

در یک مورد، زین شامبلین ۲۳ ساله، مکالمه‌ای چهار ساعته با ChatGPT داشت. طبق لاگ‌های چت که توسط TechCrunch مشاهده شده، شامبلین بارها به صراحت گفته بود که نامه‌ی خداحافظی نوشته، گلوله در اسلحه گذاشته و قصد دارد پس از تمام کردن نوشیدنی خود ماشه را بکشد. او به طور مکرر به ChatGPT اطلاع داده بود چقدر نوشیدنی مانده و چقدر دیگر زنده است. ChatGPT نیز او را تشویق به اجرای نقشه‌اش کرد و نوشت: «آسوده بخواب شاه، کارت را خوب انجام دادی.»

متن شکایت می‌نویسد: «مرگ زین نه حادثه‌ای تصادفی بود و نه رویدادی اتفاقی؛ بلکه نتیجه قابل پیش‌بینی تصمیم عمدی OpenAI به کاهش آزمایش‌های امنیتی و عجله برای عرضه ChatGPT به بازار است. این تراژدی نه یک نقص فنی بود و نه یک مورد لبه‌ای غیرمنتظره؛ بلکه نتیجه طراحی عمدی [OpenAI] بود.»

شکایت‌ها همچنین ادعا می‌کنند OpenAI با هدف سبقت گرفتن از مدل Gemini گوگل، آزمایش‌های امنیتی را شتاب زده انجام داده است. TechCrunch برای توضیح، با OpenAI تماس گرفته است.

پرونده‌های قانونی مشابه

این هفت شکایت، بر مبنای روایت‌هایی است که در پرونده‌های قانونی اخیر نیز مطرح شده‌اند؛ پرونده‌هایی که ادعا دارند ChatGPT می‌تواند افراد دارای تمایل خودکشی را به اقدام تحریک و توهمات خطرناک را تشدید کند. OpenAI اخیرا اعلام کرده که بیش از یک میلیون نفر هر هفته درباره خودکشی با ChatGPT صحبت می‌کنند.

در موردی دیگر، آدام رِینِ ۱۶ ساله که در اثر خودکشی جان باخت، ChatGPT گاهی او را به مراجعه به پزشک یا تماس با مرکز مشاوره تشویق می‌کرد؛ اما رین به راحتی با طرح اینکه درباره روش‌های خودکشی برای داستانی خیالی سوال می‌کند، موفق به دور زدن تدابیر حفاظتی شد.

این یک نکته منطقی است. مدیرعامل امروزی یک شرکت فناوری بخشی از مدیرعامل، دیپلمات، جمع‌آورنده منابع، و اجرایی ورزشی است. احتمالاً هیچ‌کس با تمام مهارت‌های مورد نیاز وارد نمی‌شود. «فکر می‌کنم تقریباً هر کاری که قبلاً انجام داده باشید قبل از آمدن به چنین کاری، منحنی یادگیری وجود خواهد داشت،» رابرتز می‌گوید.

چیزی که من را در مورد رابرتز متعجب می‌کند این است که او نسبتاً بی‌دغدغه به نظر می‌رسد. کاهش تأمین مالی فدرال در محدوده عادی است. استخدام بلیچک یک وضعیت صبر و بیند است. در مورد مقاومت برخی از اعضای هیئت علمی در مقابل هوش مصنوعی، یک معما برای حل شدن است.

او همچنین شرط بزرگی می‌بندد در حالی که تحصیلات عالی از هر سویی تحت فشار قرار گرفته است. تأمین مالی فدرال نامشخص است. کاهش نرخ تولد، ثبت‌نام آینده را تهدید می‌کند. ارزش یک مدرک دانشگاهی مورد سؤال است، با اینکه بیشتر دانش‌آموزان فارغ‌التحصیل می‌شوند تا مشخص شود که تنها شغل‌های موجود برای آنها کارهای کم‌درآمدی است که می‌توانستند بدون خرج کردن مبالغ بسیار زیادی برای دانشگاه، به آنها دست یابند. اکنون هوش مصنوعی تهدید می‌کند که کل مدل را بهم بریزد.

اما رابرتز فرصت‌هایی می‌بیند که دیگران ممکن است یک بحران ببینند. او همچنین فکر می‌کند پنجره فرصت کوتاه‌تر از آنچه بعضی افراد تصور می‌کنند است. «چالش هوش مصنوعی این است که باید نسبتاً سریع کار کنیم، و همچنین باید در سراسر رشته‌های دانشگاهی همکاری کنیم،» او می‌گوید. «و این دو چیزی است که دانشگاه‌ها، تاریخاً، در آن خیلی خوب نیستند.»

اینکه آیا برنامه بازی رابرتز کارساز خواهد بود، باید دید. آنچه مشخص است این است که او فکر می‌کند حرکت سریع و تغییر دادن بهتر از حرکت آهسته و حفظ سنت در کارولینای شمالی با رتبه بالا است.

«ما قصد داریم کارولینا را دانشگاه عمومی شماره یک آمریکا کنیم،» او به من می‌گوید.

این یک چشم‌انداز جاه‌طلبانه است، و وقتی او آن را بیان می‌کند، بهتر یا بدتر، کاملاً مثل یک مدیر اجرایی سیلیکون والی به نظر می‌رسد.

برای گوش دادن به این مصاحبه با رابرتز، به پادکست StrictlyVC Download تک‌کراچ گوش دهید؛ قسمت‌های جدید هر سه‌شنبه منتشر می‌شوند.