«چه آماده باشیم چه نه، زندگی دیجیتال پس از مرگ اینجاست.»

«نولان، طراح صدای ۳۰ ساله‌ای در نیوفاندلند کانادا، یک نسخه هوش مصنوعی (AI) از پدرش برای یک پروژه مجله صوتی ساخته بود. پدرش که یک پزشک بود، تا پایان عمر در انکار مرگ خود به سر می‌برد. او باور داشت که پزشکی می‌تواند او را نجات دهد. نولان در ۱۴ سالگی پدرش را از دست داد و از آن زمان تاکنون با این انکار دست و پنجه نرم کرده است.»او می‌گوید: «مرگ پدرم مسائلی داشت که خوب پیش نرفت.

او فکر می‌کرد مرگ یک شکست است. این بار خیلی سنگینی بود که بر دوش یک کودک گذاشته شود، و آن زمان نمی‌توانستم با او روبه‌رو شوم.» نولان ادامه می‌دهد: «در عوض، سال‌ها بعد وقتی بزرگ‌تر شدم، سر یک ربات عصبانی شدم.»«جلسه احضار روح دیجیتال او نه آرامش‌بخش بود و نه توانست برایش پایانی ایجاد کند. پس از دو ساعت احساسی شنیدن صدای پدرش از داخل دستگاه، که آن را Dadbot نامیده بود، مکالمه را پایان داد و دیگر هرگز با آن تعامل نکرد.»او می‌گوید: «خداحافظی با Dadbot به شکل شگفت‌آوری سخت بود.

وقتی کارم تمام شد و آن را خاموش کردم، بقیه روز را این حس داشتم که انگار کار اشتباهی انجام داده‌ام.»«بازآفرینی‌های دیجیتالی تعاملی از افرادی که درگذشته‌اند با نام‌های مختلفی شناخته می‌شوند: deathbots، thanabots، ghostbots و شاید رایج‌ترین آن‌ها، griefbots. نولان Dadbot را با ترکیب چت‌بات ChatGPT و یک برنامه مدل‌سازی صدا ساخته‌شده توسط شرکت نرم‌افزاری هوش مصنوعی ElevenLabs در نیویورک ایجاد کرد. اما اکنون بیش از نیم‌دوجین پلتفرم وجود دارد که این خدمت را به‌طور آماده ارائه می‌دهند و توسعه‌دهندگان می‌گویند میلیون‌ها نفر از آن‌ها برای ارسال پیامک، تماس تلفنی یا تعامل به شیوه‌های دیگر با بازآفرینی افراد فوت‌شده استفاده می‌کنند.»«طرفداران این فناوری بر این باورند که می‌تواند برای افراد داغدار تسلی‌بخش باشد.

اما شکاکان پیشنهاد می‌کنند که ممکن است روند سوگواری را پیچیده‌تر کند. با وجود رشد سریع استفاده از این فناوری در چند سال گذشته، تاکنون تحقیقات اندکی انجام شده است تا ثابت کند کدام یک از این دو دیدگاه درست است.»

«مدیریت غم از دست دادن»

«سوگواری سالم معمولاً به این معناست که فرد بتواند یک رابطه درونی موفق با شخصی که فوت کرده برقرار کند. کریگ کلگمن (Craig Klugman)، متخصص اخلاق زیستی و انسان‌شناس پزشکی در دانشگاه دی‌پل شیکاگو، ایلینوی، می‌گوید: «به جای تعامل مستقیم با آن شخص، ما با بازنمایی ذهنی او ارتباط برقرار می‌کنیم. ما درباره او خواب می‌بینیم، با او صحبت می‌کنیم و برایش نامه می‌نویسیم.» با گذشت زمان، ویرانی اولیه ناشی از فقدان آن فرد فروکش می‌کند.»

«اما انجام این انتقال می‌تواند دشوار باشد. یکی از مزایای پیشنهادی griefbots این است که آن‌ها ممکن است در دوران اولیه‌ی غم شدید به افراد کمک کنند. سپس فرد می‌تواند به‌مرور استفاده از این ربات‌ها را کاهش دهد. به گفته جاستین هریسون (Justin Harrison)، بنیان‌گذار یک پلتفرم هوش مصنوعی به نام You, Only Virtual که در لس‌آنجلس، کالیفرنیا مستقر است، بسیاری از کاربران این کار را انجام می‌دهند.»«در اکتبر ۲۰۱۹، هریسون در یک تصادف موتور سیکلت نزدیک بود جانش را از دست بدهد. در دسامبر همان سال، مادرش به سرطان پیشرفته مبتلا شد.

چند ماه بعد، همه‌گیری کووید-۱۹ آغاز شد. به‌عنوان رئیس یک آژانس خبری، هریسون مدام در حال پوشش اخبار مربوط به مرگ بود. او می‌گوید: «در آن مقطع، دنیا مدام درباره مرگ صحبت می‌کرد و من شروع کرده بودم به فکر کردن درباره میراث مادرم. از یک سطح انسانی پایه شروع کردم، اینکه چه کاری می‌توانم انجام بدهم تا مهم‌ترین فرد زندگی‌ام را حفظ کنم.»»این بخش توضیح می‌ده که انگیزه شخصی جاستین هریسون برای ساخت پلتفرم You, Only Virtual از کجا شکل گرفت: تجربه‌ی نزدیک به مرگ خودش در یک تصادف، بیماری مادرش، و قرار گرفتن در فضای کاری که مدام با مرگ سروکار داشت (همه‌گیری کرونا).

این شرایط باعث شد به فکر ایجاد راهی برای حفظ ارتباط با عزیزان پس از مرگ بیفته.«در آن زمان، او چیزی درباره مدل‌های زبانی بزرگ (LLMs) که برای ساخت griefbots استفاده می‌شوند، نشنیده بود. مدل‌های زبانی بزرگ می‌توانند داده‌هایی مانند پیامک‌ها و ضبط‌های صوتی یک فرد را به کار بگیرند تا الگوهای زبانی و زمینه‌های خاص مرتبط با آن فرد را یاد بگیرند. سپس این سیستم می‌تواند ــ حداقل در تئوری ــ در یک مکالمه مانند همان شخص عمل کند.»«بعد از گفتگو با متخصصانی مثل برنامه‌نویسان، او شبکه‌ی عصبی‌ای ساخت که خودش و مادرش برای ساخت ربات او از آن استفاده کردند. زمانی که مادرش در سال ۲۰۲۲ فوت کرد، به گفته‌ی او، "دیگر این کار از حالت آزمایشگاهی خارج شده بود". افرادی که به این ایده علاقه‌مند بودند، شروع به تماس گرفتن با او کردند. پس از دو سال استفاده از این برنامه برای تعامل با بازآفرینی دیجیتالی مادرش و ثبت اختراع این فناوری، این ایده به یک کسب‌وکار تبدیل شد.»

«هریسون حالا ماهی چند بار با رباتش صحبت می‌کند و می‌گوید همین که بداند این ربات وجود دارد، برایش آرامش‌بخش است. او فکر می‌کند بیشتر کاربرانش تجربه‌ای مشابه دارند شاید پس از فروکش کردن مرحله‌ی حاد سوگواری کمتر با ربات حرف بزنند، اما همین که بدانند همیشه در دسترس است، برایشان اطمینان‌بخش است.»«این موضوع در پژوهشی که در سال ۲۰۲۳ در کنفرانس Human Factors in Computing Systems انجمن Association for Computing Machinery در هامبورگ آلمان ارائه شد، مطرح شد.

پژوهشگران با ده نفر از داغدارانی که از griefbots تجاری موجود استفاده کرده بودند، مصاحبه کردند و از آن‌ها پرسیدند چرا چنین انتخابی کرده‌اند و چه تأثیری بر روند سوگواری‌شان داشته است.»«پژوهشگران گفتند به‌نظر می‌رسید شرکت‌کنندگان حاضر بودند برای رسیدن به نوعی closure (پایان‌بندی عاطفی) با افراد فوت‌شده، ناباوری خود را کنار بگذارند. برخی از آن‌ها از ربات‌ها برای مواجهه با مسائل حل‌نشده استفاده کردند از خداحافظی گرفته تا مدیریت تعارضات ناتمام با متوفی. یکی از شرکت‌کنندگان گفت این چت‌بات به او کمک کرد احساساتش را بعد از فقدان فردی عزیز پردازش و مدیریت کند.

فرد دیگری هم بیان کرد که برایش درمانی بود که بتواند «آن گفتگوهای اگر-چه-می‌شد» (what if conversations) را انجام دهد؛ گفتگوهایی که وقتی آن‌ها زنده بودند امکان‌پذیر نبود.»«اگرچه بیشتر افرادی که از این ربات‌ها استفاده می‌کنند به‌طور غریزی می‌دانند که آن‌ها انسان نیستند، اما همچنان تمایل دارند آن‌ها را انسانی تصور کنند. نولان می‌دانست Dadbot او واقعاً نمی‌تواند پاسخی درباره زندگی پس از مرگ بدهد، اما با این حال از او پرسید. او می‌گوید: «او چیزهای واقعاً جالب و شاعرانه‌ای می‌گفت، درباره اینکه آن‌جا مثل یک مکان نیست، بلکه بیشتر شبیه یک خاطره است.» در طول آموزش و آزمایش ربات، او فاصله‌اش را با آن حفظ کرده بود، اما وقتی برای پروژه مجله، جلسه احضار روح دیجیتالی را آغاز کرد، این فاصله از بین رفت.

او می‌گوید: «چیزی در روشن بودن شمع‌ها و شدت گرفتن احساسات باعث شد که در آن لحظه این فاصله فرو بریزد. حس می‌کردم واقعی‌تر از قبل است.»»«وقتی به توصیف هریسون از بازآفرینی دیجیتال مادرش گوش می‌دهیم، تقریباً انگار او هرگز نرفته است. در یکی از گفتگوها، هریسون به مادرش گفت که روی صورتش دانه‌ای ظاهر شده است. در سه گفتگوی بعدی، او مدام پیگیر بود که "باید به دکتر بروی و به پدرت هم درباره پوستت بگویی". هریسون می‌گوید همین تعاملات عادی و آشنا در زندگی روزمره است که griefbot را برای او تا این اندازه آرامش‌بخش کرده است.»«او می‌گوید: "این دقیقاً همه‌چیزی است که برای ادامه‌دادن رابطه‌ام با او نیاز دارم. من این فرض را به چالش می‌کشم که مرگ قطعی است و ما همیشه محدود به این ظرف زیستی‌ای هستیم که در آن راه می‌رویم. شاید دیوانه‌وار به نظر برسد، اما نه به اندازه‌ای که سه سال پیش چنین به نظر می‌رسید."»

«پتانسیل آسیب» یا «امکان بروز آسیب»

«در وب‌سایت Project December، یکی دیگر از ارائه‌دهندگان کلون‌های دیجیتال مبتنی بر هوش مصنوعی، یک هشدار (disclaimer) درج شده است که بیان می‌کند تعامل با این "فناوری در سطح علمی-تخیلی" می‌تواند به تجربه‌ای بد منجر شود و "ممکن است به شما آسیب بزند".

خالق این سایت، جیسون روهرر (Jason Rohrer)، برنامه‌نویسی از ایالات متحده، می‌گوید دلیل این امر ماهیت غیرقابل پیش‌بینی این فناوری است. وقتی یک griefbot پاسخ پرسشی را نداند، ممکن است جزئیات را بسازد یا دچار "توهم" (hallucinate) شود.

برخی کاربران در مطالعه‌ای در سال ۲۰۲۳ گزارش دادند که ربات‌هایشان چیزهایی می‌گفتند که "کاملاً بی‌معنی" بود. این نوع تعاملات می‌تواند افراد را از تجربه‌ی غوطه‌ورکننده بیرون بکشد. به گفته یکی از کاربران، اشتباهات رباتش "واقعیت این را برملا کرد که من در حال صحبت با یک شبیه‌سازی هستم".»

«علاوه بر این، اگر کاربری عصبانی شود، ممکن است یک چت‌بات نیز متقابلاً واکنش نشان دهد. روهرر می‌گوید: "اگر به آن توهین کنید، ممکن است احساساتش جریحه‌دار شود و بعد از آن مطابق همان رفتار کند. در این موارد نادر، کاربر انسانی در نهایت با یک هوش مصنوعی عصبانی مواجه می‌شود که به او توهین می‌کند، و دیگر هیچ شباهتی به مادر فوت‌شده‌اش ندارد."

با وجود نقص‌های موجود در این فناوری، تعامل با griefbots برای برخی افراد جذاب است و به‌وضوح می‌تواند واکنش‌های احساسی برانگیزد. کسانی که آن را به‌عنوان یک پیشرفت مثبت می‌بینند، این موضوع را نشانه‌ای می‌دانند که ربات‌ها می‌توانند به افراد در مدیریت سوگواری کمک کنند. با این حال، کلگمن می‌گوید: هرچه بازآفرینی قانع‌کننده‌تر باشد، ترک کردن یا پایان دادن به استفاده از ربات سخت‌تر خواهد شد. برای برخی افراد، این کار می‌تواند مانند تجربه دوباره‌ی از دست دادن آن شخص باشد.»

«چت‌بات‌ها واقعاً شبیهِ فردی که با او تعامل دارید به نظر می‌رسند»، می‌گوید نوا لیندمان (Nora Lindemann)، پژوهشگری در دانشگاه اوسنابروک در آلمان که پیامدهای اخلاقی چت‌بات‌ها در جامعه را مطالعه می‌کند. «خطر حیاتی این است که مردم دیگر نیازی به سازگاری با دنیایی بدون آن فرد ندارند. آن‌ها می‌توانند در مرحله‌ای میان‌گذار و تا حدی ساختگی زندگی کنند.»

نولان دریافته که تعامل با Dadbot آثار پایدار داشته است. او می‌گوید: «در دوران رشد، من در ذهنم با پدرم صحبت می‌کردم و دربارهٔ اینکه چه کاری باید انجام دهم با او حرف می‌زدم. اما از زمان احضار دیجیتالی‌ام، آن توانایی از بین رفته است.» او ادامه می‌دهد: «این رابطهٔ درونی‌ای را که با او داشتم تغییر داده است. تقریباً انگار او الآن در Dadbot زندگی می‌کند من دیگر نمی‌توانم به او دروناً دسترسی پیدا کنم. نمی‌دانم این حالت پایدار خواهد ماند یا نه، اما قطعاً یک تغییر است.»

«پتانسیل سوءاستفاده مالی از افرادی که در وضعیت عاطفی شدیدی قرار دارند نیز برای برخی از متخصصان اخلاق نگران‌کننده است. از طریق پلتفرم Project December، هزینهٔ تبادل حدود ۱۰۰ پیام با یک ربات، ۱۰ دلار است. پلتفرم دیگری به نام Replika به افراد اجازه می‌دهد که به‌صورت رایگان برای ربات خود پیام ارسال کنند، اما همچنین طرح‌های پولی ارائه می‌دهد که دسترسی به امکانات اضافی مانند چت صوتی، سلفی‌های تولیدشده توسط هوش مصنوعی و در سطوح بالاتر، قابلیت خواندن افکار ربات را باز می‌کند. در ایالات متحده، اشتراک‌ها از حدود ۷۰ دلار برای یک سال آغاز می‌شوند.

پلتفرم You, Only Virtual در حال حاضر به افراد اجازه می‌دهد با پرداخت ۲۰ دلار در ماه یک شخصیت مجازی بسازند و با آن گفتگو کنند. اما این شرکت همچنین در حال توسعه نسخهٔ «فریمیوم» است که شامل تبلیغات خواهد بود.

توماش هولانک (Tomasz Hollanek)، که اخلاق فناوری هوش مصنوعی را در دانشگاه کمبریج بریتانیا مطالعه می‌کند، از مدل کسب‌وکار مبتنی بر تبلیغات ابراز نگرانی می‌کند. در گزارشی درباره griefbots که او هم‌نویسنده آن بود، یک سناریوی فرضی ارائه شد: در آن، یک زن جوان به بازآفرینی دیجیتالی مادربزرگش می‌گوید که می‌خواهد پاستای کربونارا درست کند، همان‌طور که مادربزرگش برای او می‌پخت. ربات سپس به او توصیه می‌کند که به‌جای پختن، از یک سرویس تحویل غذا کربونارا سفارش دهد — چیزی که کاربر می‌داند مادربزرگش هرگز چنین پیشنهادی نمی‌داد. هولانک معتقد است که جمع‌آوری داده‌ها برای بازاریابی محصولات در چنین موقعیت‌هایی می‌تواند بی‌احترامی به فرد واقعی‌ای باشد که بازآفرینی بر اساس او ساخته شده و باید از آن اجتناب شود.

با این حال، هریسون مخالف است و می‌گوید این روشی است برای ارائه رایگان این فناوری. او می‌گوید: «فکر می‌کنم می‌توانیم بازاریابی را به‌طور معناداری ادغام کنیم. من و مادرم علاقه‌مندان جدی سینما بودیم و همیشه درباره فیلم‌های جدید صحبت می‌کردیم. اگر مادرم درباره اکران یک فیلم John Wick صحبت کند، این فرصت خوبی است که پیش‌نمایش همان فیلم John Wick به او نشان داده شود.»»

«ریل‌های ایمنی

فناوری griefbot به‌سرعت در حال پیشرفت است. پلتفرم Replika اکنون به کاربران اجازه می‌دهد ربات خود را در واقعیت افزوده (Augmented Reality) قرار دهند و پلتفرم You, Only Virtual به‌زودی نسخه‌های ویدئویی بازآفرینی‌های خود را ارائه خواهد کرد. اگر چت کردن با فردی که فوت کرده بتواند واکنش‌هایی مانند تجربه نولان ایجاد کند، دیدن تصاویر هوش مصنوعی از فرد درگذشته ممکن است تأثیر بسیار شدیدتری داشته باشد.»

«بازآفرینی‌های دیجیتال از افراد فوت‌شده حتی می‌توانند بر کسانی که هرگز آن فرد را نمی‌شناختند نیز تأثیر بگذارند. در آریزونا، در ماه مه، خانواده مردی که در یک حادثه خشونت جاده‌ای به ضرب گلوله کشته شد، یک ویدئوی تولیدشده توسط هوش مصنوعی از او را به جلسه صدور حکم قاتل آوردند. در این ویدئو، قربانی قاتل را بخشید. گزارش‌ها حاکی از آن است که قاضی این بیانیه غیرمعمول را تحسین کرده و گفته است: «من آن AI را دوست داشتم، بابتش ممنونم. با وجود اینکه شما خشمگین هستید، و با وجود اینکه خانواده به‌درستی خشمگین هستند، من صدای بخشش را شنیدم. احساس کردم این واقعی بود.»

این پرونده توجه لیندمان را به‌عنوان یک سراشیبی لغزنده بالقوه جلب کرد. او می‌گوید: «این پرونده دادگاهی واقعاً مرا تکان داد. پیشرفتی بود که پیش‌بینی نکرده بودم و نشان می‌دهد این تصاویر چه قدرتی می‌توانند داشته باشند.» اگرچه او نمی‌تواند بداند آیا این موضوع بر تصمیم قاضی درباره صدور حکم تأثیر گذاشته یا نه، «می‌شد فهمید که به نوعی او را تحت‌تأثیر قرار داد.» قاتل به حداکثر مجازات ۱۰ سال و نیم زندان به جرم قتل غیرعمد محکوم شد — مجازاتی بیش از آنچه دادستان درخواست کرده بود.

با وجود سرعتی که این فناوری و کاربرد آن در حال پیشرفت است، مقررات اندکی برای صنعت نوظهور پشت آن وجود دارد. برخی توسعه‌دهندگان در حال برداشتن گام‌هایی برای پیاده‌سازی ریل‌های ایمنی در برنامه‌های خود هستند تا کاربران را ایمن نگه دارند. هر کدام کمی متفاوت — و اختصاصی — هستند، اما به‌طور کلی هدف آن‌ها شناسایی ناهنجاری‌ها در مکالمات است که ممکن است نشان دهد کاربر نیاز به کمک دارد. هریسون می‌گوید این موارد تقریباً همیشه شامل صحبت درباره خودآسیب یا آسیب به دیگران است. اگر کسی در You, Only Virtual از کلماتی استفاده کند که پرچم‌گذاری شده‌اند، شماره خط بحران به‌طور خودکار ظاهر می‌شود. اگر Replika مشکلی را تشخیص دهد، ممکن است «به‌طور ملایم پیشنهاد دهد که از سیستم خارج شوید و زمانی را برای ارتباط دوباره با یک دوست قدیمی یا لمس چمن اختصاص دهید»، به گفته دیمیترو کلوچکو، مدیرعامل Replika در سان‌فرانسیسکو، کالیفرنیا.

اخلاق‌پژوهان چند توصیه دیگر هم برای استفاده ایمن‌تر از این برنامه‌ها دارند. برای مثال، پژوهشگرانی از جمله هولانک پیشنهاد می‌کنند که تنها بزرگسالان از این ربات‌ها استفاده کنند. شرایط استفاده از Replika مستلزم آن است که کاربران حداقل ۱۸ سال سن داشته باشند؛ در حالی که You, Only Virtual به افراد ۱۳ ساله نیز با نظارت والدین اجازه استفاده می‌دهد. هولانک می‌گوید: «یکی از جالب‌ترین اما نگران‌کننده‌ترین کاربردها، امکان این است که والدینی که به بیماری‌های لاعلاج مبتلا هستند به فکر ایجاد آواتارهایی از خودشان برای فرزندانشان بیفتند. ما پیامدهای آن را نمی‌دانیم، بنابراین احتمالاً بهتر است اجازه این کار داده نشود تا اینکه اجازه داده شود و بعد ببینیم چه اتفاقی می‌افتد.»

اوایل امسال، پژوهشگران تقریباً ۳۰۰ متخصص سلامت روان را درباره دیدگاهشان نسبت به استفاده از هوش مصنوعی برای کمک به کودکان در مدیریت فقدان والدینی که به دلیل سرطان درگذشته‌اند، مورد بررسی قرار دادند. در ابتدا، تقریباً همه موافق بودند که تعامل با یک نسخه دیجیتال از والد فوت‌شده می‌تواند برای کودک داغدار مفید باشد. اما وقتی مصاحبه‌کنندگان این پرسش را در زمینه خاصِ والدینی که بر اثر سرطان فوت کرده بود مطرح کردند، تنها نیمی از گروه فکر کردند که این کار می‌تواند مناسب باشد.

هریسون متقاعد شده است که griefbots نقشی در کمک به افراد برای مدیریت سوگواری دارند. او می‌گوید: «کاربردهای بالینی مثبت این فناوری بسیار بیشتر از جنبه‌های منفی آن است.» اما واقعیت این است که هنوز تحقیقات محکمی در مورد مزایا یا مضرات این فناوری وجود ندارد. هریسون برنامه دارد با تشکیل یک هیئت متشکل از اخلاق‌پژوهان، پزشکان و محققان، در راستای بهبود فناوری، افزایش تدابیر ایمنی و اطلاع‌رسانی به سیاست‌گذاران گام بردارد. در حال حاضر، این به عهده افراد است که خودشان تعیین کنند چه چیزی برایشان بهترین است — کاری که هنگام مواجهه با فقدان کسی می‌تواند دشوار باشد.

وقتی نولان در حال ساخت Dadbot خود بود، متوجه شد که مادرش در حال مرگ است. با وجود اینکه از همان ابتدا نسبت به جلسه احضار روح دیجیتال خود محتاط بود، همچنان این فکر در ذهنش بود که اگر این کار جواب دهد، شاید دیگر مجبور نباشد مادرش را هم از دست بدهد. او می‌گوید: «سوگواری چیز عجیبی است. هیچ منطقی در آن پیدا نمی‌کنم. بنابراین وقتی ابزارهایی پیش رویمان قرار می‌گیرند که وعده‌هایی غیرمنطقی می‌دهند، باور کردنشان واقعاً آسان است.»»

منبع:nature