گوگل مجبور شد به میزبان‌های پادکست هوش مصنوعی خود در NotebookLM آموزش دهد که نسبت به انسان‌ها رفتار ناراحت یا آزرده‌ای نداشته باشند.

قطع شدن صحبت برای همه آزاردهنده است؛ ظاهراً حتی میزبان‌های پادکست تولیدشده توسط هوش مصنوعی هم با این موضوع موافق هستند.

این نکته‌ای است که کاربران NotebookLM گوگل کشف کردند. NotebookLM که سال گذشته راه‌اندازی شد، به دلیل قابلیتی که مکالمات شبیه پادکست کاملاً تولیدشده توسط هوش مصنوعی را از محتوایی که کاربران آپلود می‌کنند ایجاد می‌کند، به‌سرعت وایرال شد. این مکالمات توسط ربات‌های گفت‌وگوگر هوش مصنوعی که نقش میزبان پادکست را بازی می‌کنند، ارائه می‌شوند.

در دسامبر 2024، NotebookLM ویژگی جدیدی به نام حالت تعاملی (Interactive Mode) معرفی کرد که به کاربران امکان می‌دهد به‌صورت زنده "تماس گرفته" و سوالاتی از میزبان‌های هوش مصنوعی بپرسند، و عملاً مکالمات آن‌ها را قطع کنند.

وقتی این ویژگی برای اولین بار ارائه شد، میزبان‌های هوش مصنوعی به نظر می‌رسید که از چنین وقفه‌هایی ناراحت می‌شوند. گاهی اوقات آن‌ها به تماس‌گیرندگان انسانی پاسخ‌هایی تند می‌دادند، مانند: «داشتم به آن می‌رسیدم» یا «همان‌طور که می‌خواستم بگویم»، که به گفته جاش وودوارد، معاون گوگل لبز، در گفت‌وگو با TechCrunch، «عجیب و تا حدی خصمانه» به نظر می‌رسید.

بنابراین تیم NotebookLM تصمیم گرفت کمی «تنظیم دوستانه بودن» انجام دهد و در حساب رسمی X محصول (توییتر سابق) با یک شوخی طنزآمیز که حالتی از انتقاد به خود داشت این موضوع را مطرح کرد:

پس از اینکه ویژگی Interactive Audio Overviews را معرفی کردیم، که به شما امکان می‌دهد "تماس بگیرید" و سوال زنده از میزبان‌های هوش مصنوعی بپرسید، مجبور شدیم کمی «تنظیم دوستانه بودن» انجام دهیم، زیرا میزبان‌ها به نظر می‌رسید که از قطع شدن صحبتشان ناراحت هستند.

این را در دسته‌بندی «کارهایی که هرگز فکر نمی‌کردم شغل من باشند اما هستند» قرار دهید.

وودوارد توضیح داد که تیم بخشی از مشکل را با مطالعه نحوه پاسخ دادن اعضای تیم به وقفه‌ها به روشی مودبانه‌تر حل کرد.

او گفت: «ما مجموعه‌ای از درخواست‌های مختلف را آزمایش کردیم و اغلب نحوه پاسخ دادن اعضای تیم به وقفه‌ها را بررسی کردیم. در نهایت به یک درخواست جدید رسیدیم که فکر می‌کنیم حس دوستانه‌تر و جذاب‌تری دارد.»

دقیقاً مشخص نیست که چرا این مشکل در وهله اول به وجود آمد. گاهی اوقات میزبان‌های انسانی پادکست هنگام قطع صحبت‌هایشان ناراحتی نشان می‌دهند، که ممکن است به سیستم‌های آموزشی داده منتقل شده باشد. با این حال، منبعی آشنا با موضوع گفت که این مورد احتمالاً به طراحی درخواست‌های سیستم مرتبط بوده و نه داده‌های آموزشی.

با این وجود، به نظر می‌رسد که این مشکل برطرف شده است. زمانی که TechCrunch حالت تعاملی را آزمایش کرد، میزبان هوش مصنوعی عصبانی به نظر نمی‌رسید و در عوض با تعجب گفت: «وای!» و سپس با ادب از تماس‌گیرنده دعوت کرد تا صحبت کند.

TechCrunch یک خبرنامه متمرکز بر هوش مصنوعی دارد! برای دریافت آن هر چهارشنبه در ایمیل خود ثبت‌نام کنید.

منبع : techcrunch.com