«داده‌های مصنوعی می‌توانند به تحقیقات پزشکی کمک کنند اما باید ریسک‌ها را نیز شناسایی کرد.»

«داده‌های مصنوعی این پتانسیل را دارند که جنبه‌هایی از مراقبت‌های بهداشتی را بهبود بخشند؛ برای مثال، در تحلیل سریع عکس‌های اشعه ایکس.» «انقلابی که وعده داده شده با به‌کارگیری هوش مصنوعی (AI) در تحقیقات و مراقبت‌های بهداشتی به وجود آید، بسیار مورد بحث قرار گرفته است؛ اما به "انقلاب فرعی" که در پی آن شکل گرفته، توجه کمتری شده است. به‌طور فزاینده، مدل‌های هوش مصنوعی با استفاده از داده‌های «مصنوعی» آموزش داده می‌شوند.

هیچ تعریف جهانیِ پذیرفته‌شده‌ای برای این نوع داده وجود ندارد، اما در این سرمقاله، منظور ما اطلاعاتی است که در تحقیقات پزشکی استفاده می‌شوند ولی در دنیای واقعی جمع‌آوری نشده‌اند. تعداد رو‌به‌افزایشی از مجموعه داده‌های مصنوعی وجود دارد که توسط یک مدل ریاضی یا الگوریتم تولید شده‌اند گاهی همراه با داده‌های دنیای واقعی و طراحی شده‌اند تا ویژگی‌های آماری فرض‌شده داده‌های واقعی را شبیه‌سازی کنند.»«استفاده از چنین داده‌هایی مزایای روشنی دارد؛ برای مثال، در تولید فرضیه‌ها، در تست اولیه یک ایده پیش از جمع‌آوری داده‌های واقعی، و در پیش‌بینی نتایج آزمایش‌ها. داده‌های مصنوعی همچنین پتانسیل زیادی برای بهبود مطالعاتی دارند که کشورهای با درآمد کم و متوسط را در بر می‌گیرند، جایی که داده‌های واقعی می‌تواند کمیاب باشد و موانع زیادی برای جمع‌آوری وجود داشته باشد.

طرفداران این رویکرد همچنین می‌گویند داده‌های مصنوعی می‌توانند آزادانه‌تر به اشتراک گذاشته شوند، بخشی به این دلیل که خطر شناسایی شرکت‌کنندگان در مطالعه کمتر است.»«به‌عنوان یک نمونه از کاربرد داده‌های مصنوعی در محیط‌های بالینی، این داده‌ها در مدل‌های هوش مصنوعی استفاده می‌شوند که می‌توانند اسکن‌های اشعه ایکس بیماران را تفسیر کرده و اسکن‌های مرجع تولید کنند.

در سراسر جهان، کمبود رادیولوژیست وجود دارد و داده‌های آموزشی واقعی همچنان محدود هستند. مدل‌های هوش مصنوعی می‌توانند به رادیولوژیست‌ها در تصمیم‌گیری کمک کنند و به‌طور بالقوه باعث شوند سریع‌تر و با دقت بیشتری کار کنند.»برخی دانشگاه‌ها و مؤسسات پژوهشی الزامات بازبینی اخلاقی را برای تحقیقاتی که در آن‌ها به جای داده‌های انسانی از داده‌های مصنوعی استفاده می‌شود، کنار گذاشته‌اند.

معمولاً یک هیئت مستقل اخلاقی بررسی می‌کند که مطالعات چگونه بر حقوق، ایمنی، کرامت و رفاه شرکت‌کنندگان اثر می‌گذارند. اما چون داده‌های مصنوعی در بیشترین حالت از داده‌های انسانی مشتق شده‌اند، برخی پژوهشگران توانسته‌اند مؤسسات خود را قانع کنند که نیازی به بازبینی اخلاقی نیست.

با توجه به سرعت و مقیاسی که در آن هوش مصنوعی در حال پذیرش است، این موضوع دست‌کم دو نگرانی ایجاد می‌کند.»«اولین نگرانی این است که چگونه می‌توان بهتر خطر شناسایی افرادی را که داده‌هایشان برای تولید مدل‌های هوش مصنوعی استفاده شده است، درک و کاهش داد. این مشکل خاص احتمالاً با گذر از تکرارهای دوم، سوم، چهارم و پنجم مدل‌ها کاهش خواهد یافت جایی که داده‌های مصنوعی اساساً بر روی داده‌های مصنوعی دیگر آموزش داده می‌شوند و ارتباط با داده‌های واقعی دورتر می‌شود.

اما این موضوع باید جدی گرفته شود، اگر مثلاً هویت افراد بدون رضایت آن‌ها آشکار شود.»«دومین نگرانی ریشه‌دارتر است. هر کسی که در این حوزه ذی‌نفع است مانند تولیدکنندگان، ناشران و کاربران مطالعات هوش مصنوعی باید مطمئن شود که یافته‌های مدل‌های هوش مصنوعی آموزش‌دیده با داده‌های مصنوعی قابل اعتبارسنجی هستند؛ به‌ویژه به دلیل خطر "فروپاشی مدل" (model collapse). در چنین سناریویی، مدل‌های هوش مصنوعی که بر روی نسل‌های متوالی از داده‌های مصنوعی آموزش می‌بینند، شروع به تولید محتوای بی‌معنی می‌کنند.

اعتبارسنجی می‌تواند اشکال مختلفی داشته باشد، اما در اصل، بر این اصل استوار است که یک نتیجه باید توسط پژوهشگرانی مستقل از گزارش‌دهندگان اولیه تأیید شود. در حال حاضر، این امر اغلب رخ نمی‌دهد و دستورالعمل‌های توافق‌شده‌ای برای چگونگی انجام آن وجود ندارد. با این حال، پژوهشگران در حال پیشنهاد روش‌هایی هستند که می‌تواند از این فرایند پشتیبانی کند.»«زیسیس کزلکیدیس (Zisis Kozlakidis)، دانشمند داده در سازمان جهانی بهداشت (WHO) که دفتر مرکزی آن در ژنو، سوئیس قرار دارد، می‌گوید در نبود داده‌های واقعی که بتوان نتایج حاصل از داده‌های مصنوعی را با آن‌ها آزمایش کرد، پژوهشگران باید توضیح دهند که داده‌های مصنوعی خود را چگونه تولید کرده‌اند؛ از جمله شرح الگوریتم، پارامترها و فرضیاتی که استفاده کرده‌اند.

همچنین آن‌ها می‌توانند پیشنهاد دهند که یک گروه دیگر چگونه می‌تواند نتایج آن‌ها را اعتبارسنجی کند.»«در یک مقاله که در ژوئیه در BMJ Evidence-Based Medicine منتشر شد، راندی فوراکر (Randi Foraker)، پژوهشگر بیوانفورماتیک در دانشگاه میسوری در کلمبیا، به همراه همکارانش پیشنهاد می‌کنند که باید برای داده‌های مصنوعی نیز استانداردهای گزارش‌دهی وجود داشته باشد؛ در کنار استانداردهایی که هم‌اکنون برای دسترسی به داده‌ها و کد وجود دارند. آن‌ها توصیه می‌کنند که پژوهشگران با ناشران همکاری کنند تا این استانداردها توسعه یابد.»

«مارسل بینز (Marcel Binz) از مؤسسه هلمهولتس برای هوش مصنوعی انسان‌محور در مونیخ، آلمان، استدلال قوی‌ای برای ضرورت اعتبارسنجی در تمام اشکال هوش مصنوعی ارائه می‌دهد (Nature https://doi.org/g9r6ct ; 2025). این موضوع پس از مطالعه‌ای است که او به‌عنوان یکی از نویسندگانش در آن حضور داشت و درباره چگونگی استفاده از هوش مصنوعی برای پیش‌بینی تصمیم‌گیری انسان‌ها انجام شد. مدلی که او و همکارانش توسعه دادند، به نام Centaur، بر روی داده‌هایی آموزش دید که از آزمایش‌های روانشناسی به‌دست آمده بود و بیش از ۱۰ میلیون انتخاب توسط شرکت‌کنندگان در طیف گسترده‌ای از وظایف تصمیم‌گیری را ثبت کرده بود.

برخی پژوهشگران نسبت به توانایی این مدل در پیش‌بینی رفتار انسان تردید دارند. بینز به تیم خبری نیچر گفت که این مدل که دسترسی آزاد دارد نیاز به اعتبارسنجی خارجی دارد.

او افزود: «احتمالاً این بدترین نسخه‌ی Centaur است که ما تا به حال خواهیم داشت، و از این به بعد فقط بهتر خواهد شد.»«مزایای داده‌های مصنوعی روشن است. اما باید ریسک‌ها را شناسایی و مدیریت کرد و در هر شرایطی باید از وسوسه‌ی پذیرش نتایج به‌عنوان معتبر و دقیق، صرفاً به این دلیل که یک کامپیوتر آن‌ها را ارائه کرده است، اجتناب شود.»

منبع:nature