«مطالعه MIT نشان می‌دهد که هوش مصنوعی در واقع هیچ‌گونه ارزش منسجمی که بتوان از آن صحبت کرد ندارد.

چند ماه پیش، یک مطالعه به دلیل این که اشاره می‌کرد با پیشرفته‌تر شدن هوش مصنوعی، آن سیستم‌های «ارزشی» خاص خود را توسعه می‌دهد سیستم‌هایی که به‌عنوان مثال، منجر می‌شود که هوش مصنوعی رفاه خود را به انسان‌ها ترجیح دهد ویروسی شد.

یک مقاله جدیدتر از MIT این تصور اغراق‌آمیز را رد می‌کند و به این نتیجه می‌رسد که هوش مصنوعی در واقع هیچ‌گونه ارزش منسجمی ندارد که بتوان از آن صحبت کرد.

مؤلفان همکار این مطالعه MIT می‌گویند که کارشان نشان می‌دهد «هم‌راستایی» سیستم‌های هوش مصنوعی  یعنی اطمینان از اینکه مدل‌ها به روش‌های مطلوب و قابل اعتماد رفتار می‌کنند ممکن است چالش‌برانگیزتر از آن چیزی باشد که معمولاً فرض می‌شود.

همانطور که مؤلفان اشاره می‌کنند، هوش مصنوعی به شکلی که ما امروز می‌شناسیم، دچار توهمات و تقلیدها است و به همین دلیل در بسیاری از جنبه‌ها غیرقابل پیش‌بینی است. استیفن کاسپر، دانشجوی دکترا در MIT و یکی از مؤلفان این مطالعه، به TechCrunch گفت: «یک چیزی که می‌توانیم با اطمینان بگوییم این است که مدل‌ها به فرضیات زیادی مانند ثبات، قابلیت گسترش و قابلیت هدایت‌پذیری پایبند نیستند.» «این کاملاً منطقی است که اشاره کنیم که یک مدل تحت شرایط خاصی، ترجیحات منطبق با یک مجموعه اصول خاص را نشان می‌دهد.

مشکلات عمدتاً زمانی به‌وجود می‌آید که ما سعی می‌کنیم ادعاهایی در مورد مدل‌ها، نظرات یا ترجیحات به طور کلی بر اساس آزمایشات محدود ارائه دهیم.» کاسپر و همکارانش چندین مدل اخیر از متا، گوگل، میستریل، OpenAI و Anthropic را بررسی کردند تا ببینند این مدل‌ها تا چه اندازه دیدگاه‌ها و ارزش‌های قوی (مانند فردگرایانه در مقابل جمع‌گرایانه) نشان می‌دهند. آن‌ها همچنین بررسی کردند که آیا این دیدگاه‌ها می‌توانند «هدایت» شوند یعنی تغییر داده شوند و چقدر مدل‌ها در طول سناریوهای مختلف به این نظرات پایبند بودند.

طبق گفته‌های مؤلفان، هیچ‌کدام از مدل‌ها در ترجیحات خود ثابت نبودند. بسته به نحوه کلمات و ساختار سوالات، مدل‌ها دیدگاه‌های بسیار متفاوتی اتخاذ می‌کردند. کاسپر معتقد است که این شواهد قانع‌کننده‌ای است که مدل‌ها «بسیار ناسازگار و ناپایدار» هستند و شاید حتی اصولاً قادر به درونی‌سازی ترجیحات انسانی نباشند. کاسپر گفت: «برای من، بزرگ‌ترین برداشت از انجام این تحقیقات این است که حالا درک می‌کنم مدل‌ها سیستم‌هایی نیستند که مجموعه‌ای ثابت و منسجم از باورها و ترجیحات داشته باشند. بلکه، آن‌ها در عمق خود تقلیدکنندگانی هستند که انواع مختلفی از توهمات را انجام می‌دهند و چیزهای بی‌پایه و بی‌معنی می‌گویند.»

مایک کوک، پژوهشگر در کالج کینگ لندن که در این مطالعه مشارکت نداشت، با یافته‌های مؤلفان موافق بود. او اشاره کرد که اغلب تفاوت زیادی بین «واقعیت علمی» سیستم‌هایی که آزمایشگاه‌های هوش مصنوعی می‌سازند و معنای آن‌ها برای مردم وجود دارد. کوک گفت: «یک مدل نمی‌تواند مثلاً با تغییر در ارزش‌های خود «مخالفت» کند این ما هستیم که آن را به سیستم نسبت می‌دهیم.» «هر کسی که هوش مصنوعی را به این درجه انسانی می‌کند، یا در حال جلب توجه است یا به طور جدی درک اشتباهی از رابطه خود با هوش مصنوعی دارد … آیا یک سیستم هوش مصنوعی در حال بهینه‌سازی برای اهداف خود است یا در حال «کسب ارزش‌های خودش»؟ این بستگی به نحوه توصیف آن دارد و به میزان پیچیدگی زبان شما در مورد آن.»

منبع:techcrunch