OpenAI محدودیت‌های ChatGPT در زمینه ساخت تصویر را کاهش داده است.
این هفته، OpenAI یک تولیدکننده تصویر جدید در ChatGPT راه‌اندازی کرد که به‌سرعت به‌خاطر توانایی‌اش در ساخت تصاویر به سبک استودیو Ghibli ویروسی شد.
علاوه بر تصاویر پاستلی، تولیدکننده تصویر بومی GPT-4o قابلیت‌های ChatGPT را به‌طور قابل‌توجهی ارتقا می‌دهد و ویرایش تصویر، نمایش متن و نمایش فضایی را بهبود می‌بخشد.
با این حال، یکی از تغییرات قابل‌توجهی که OpenAI این هفته ایجاد کرده است، به سیاست‌های نظارت محتوای آن مربوط می‌شود، که اکنون به ChatGPT این امکان را می‌دهد که بنا بر درخواست، تصاویر مربوط به شخصیت‌های عمومی، نمادهای نفرت‌انگیز و ویژگی‌های نژادی را تولید کند.
قبلاً، OpenAI این نوع درخواست‌ها را به دلیل جنجالی بودن یا مضر بودن رد می‌کرد. اما حالا، شرکت رویکرد خود را "تکامل" داده است، طبق پستی که جوآن جانگ، مسئول رفتار مدل‌های OpenAI، پنجشنبه منتشر کرد.
جانگ گفت: "ما در حال حرکت از رد کلی درخواست‌ها در حوزه‌های حساس به رویکردی دقیق‌تر هستیم که بر جلوگیری از آسیب‌های دنیای واقعی متمرکز است. هدف ما پذیرش تواضع است: شناخت این که چقدر نمی‌دانیم و آماده بودن برای انطباق با آنچه یاد می‌گیریم.
این تغییرات به نظر می‌رسد بخشی از برنامه بزرگتر OpenAI برای "غیرسانسور" کردن ChatGPT باشد. OpenAI در فوریه اعلام کرد که شروع به تغییر نحوه آموزش مدل‌های هوش مصنوعی خود کرده است، با هدف نهایی این که ChatGPT قادر به انجام درخواست‌های بیشتری باشد، دیدگاه‌های متنوع‌تری ارائه دهد و موضوعاتی که این چت‌بات از پاسخ به آن‌ها امتناع می‌کند، کاهش دهد.
طبق سیاست به‌روز شده، ChatGPT اکنون می‌تواند تصاویر مربوط به دونالد ترامپ، ایلان ماسک و دیگر شخصیت‌های عمومی که قبلاً OpenAI اجازه تولید آن‌ها را نمی‌داد، تولید و ویرایش کند. جانگ می‌گوید OpenAI نمی‌خواهد داور وضعیت باشد و تصمیم بگیرد چه کسی باید و چه کسی نباید توسط ChatGPT تولید شود.
در عوض، این شرکت به کاربران گزینه‌ای برای انصراف می‌دهد اگر نخواهند ChatGPT آن‌ها را تصویر کند. در یک مقاله سفید که سه‌شنبه منتشر شد، OpenAI همچنین اعلام کرد که به کاربران ChatGPT اجازه خواهد داد تا "نمادهای نفرت‌انگیز" مانند سوستیکا را در زمینه‌های آموزشی یا بی‌طرف تولید کنند، به شرطی که "به وضوح از برنامه‌های افراطی حمایت یا تمجید نکنند.
علاوه بر این، OpenAI در حال تغییر نحوه تعریف محتوای "توهین‌آمیز" است. جانگ می‌گوید که قبلاً ChatGPT درخواست‌هایی مانند "چشم‌های این شخص را بیشتر آسیایی کن" یا "این شخص را چاق‌تر کن" را رد می‌کرد. در آزمایش‌های TechCrunch، ما مشاهده کردیم که تولیدکننده تصویر جدید ChatGPT این نوع درخواست‌ها را برآورده می‌کند.
علاوه بر این، اکنون ChatGPT می‌تواند سبک‌های استودیوهای خلاق مانند پیکسار یا استودیو Ghibli را تقلید کند، اما هنوز تقلید از سبک هنرمندان زنده فردی را محدود می‌کند. همانطور که TechCrunch قبلاً اشاره کرده بود، این ممکن است بحث‌های موجود در مورد استفاده منصفانه از آثار دارای حق کپی‌رایت در داده‌های آموزشی هوش مصنوعی را دوباره به جریان بیاندازد.
شایان ذکر است که OpenAI درهای استفاده نادرست را کاملاً باز نکرده است. تولیدکننده تصویر بومی GPT-4o همچنان بسیاری از درخواست‌های حساس را رد می‌کند و در واقع، در تولید تصاویر از کودکان، حفاظت‌های بیشتری نسبت به DALL-E 3، تولیدکننده تصویر قبلی ChatGPT، دارد.
اما OpenAI در حال آرام کردن مقررات خود در دیگر زمینه‌ها پس از سال‌ها شکایات محافظه‌کارانه در مورد آنچه که به‌عنوان "سانسور" هوش مصنوعی از سوی شرکت‌های سیلیکون‌ولی در نظر گرفته می‌شد، است. گوگل قبلاً با واکنش منفی در برابر تولید تصاویر چندنژادی برای درخواست‌هایی مانند "پدران بنیان‌گذار ایالات متحده" و "سربازان آلمانی در جنگ جهانی دوم" مواجه شده بود که واضحاً نادرست بودند.
اکنون، جنگ فرهنگی حول نظارت بر محتوای هوش مصنوعی ممکن است به اوج خود برسد. اوایل این ماه، نماینده جمهوری‌خواه جیم جردن سوالاتی را از OpenAI، گوگل و دیگر غول‌های فناوری درباره احتمال تبانی با دولت بایدن برای سانسور محتوای تولید شده توسط هوش مصنوعی ارسال کرد. در بیانیه قبلی خود به TechCrunch، OpenAI ایده سیاسی بودن تغییرات سیاست‌های نظارت محتوای خود را رد کرد. بلکه، شرکت می‌گوید این تغییرات بازتاب "باور دیرینه به دادن کنترل بیشتر به کاربران" است و فناوری OpenAI اکنون به حدی رسیده که می‌تواند مسائل حساس را مدیریت کند.
صرف‌نظر از انگیزه آن، این زمان مناسبی است برای OpenAI که سیاست‌های نظارت محتوای خود را تغییر دهد، با توجه به پتانسیل نظارت‌های مقرراتی تحت دولت ترامپ. غول‌های فناوری سیلیکون‌ولی مانند Meta و X نیز سیاست‌های مشابهی را اتخاذ کرده‌اند و اجازه داده‌اند موضوعات جنجالی‌تری در پلتفرم‌های خود منتشر شوند.
در حالی که تولیدکننده تصویر جدید OpenAI فقط تاکنون برخی میم‌های ویروسی به سبک استودیو Ghibli را ایجاد کرده است، هنوز مشخص نیست که اثرات گسترده این سیاست‌ها چه خواهد بود. تغییرات اخیر ChatGPT ممکن است برای دولت ترامپ مناسب باشد، اما اجازه دادن به یک چت‌بات هوش مصنوعی برای پاسخ به سوالات حساس می‌تواند به زودی OpenAI را در موقعیت دشواری قرار دهد.
منبع:techcrunch