دو پژوهشگر برجسته در مقاله‌ای در نشریه نیچر، هشدار داده‌اند پذیرش سریع و بی‌نقد ابزارهای هوش مصنوعی (به ویژه مدل‌های زبانی بزرگ) در علم، با وجود افزایش چشمگیر خروجی علمی، خطرات جدی از جمله محدود شدن دامنه پرسش‌های تحقیقاتی، کاهش کیفیت علمی مقالات، تضعیف قضاوت و فرسایش فرصت‌های آموزشی برای محققان جوان را به همراه دارد. آنها تأکید می‌کنند که جامعه علمی به فوریت به قوانین و محدودیت‌های مشخص نیاز دارد.
به گزارش شفقنا، لیسا مسری، پژوهشگر انسان‌شناسی دانشگاه ییل، و ام.جی. کراکت، پژوهشگر روان‌شناسی دانشگاه پرینستون، در این مقاله به شواهد متعددی اشاره می‌کنند. یک تحلیل از ۴۱.۳ میلیون مقاله علمی نشان می‌دهد که استفاده از هوش مصنوعی باعث می‌شود محققان بر روی یک مجموعه کوچک‌تر از سوالات ثابت شده متمرکز شوند (نه ایجاد سوالات جدید). یک مطالعه دیگر که مقالات یک کنفرانس هوش مصنوعی در سال ۲۰۲۴ و سه پایگاه داده را بررسی کرد، نشان داد در مقالاتی که با کمک هوش مصنوعی نوشته شده‌اند، «خوب نوشتن دیگر شاخص قابل اعتمادی برای کیفیت علمی نیست.

نویسندگان این مطالعه نتیجه گرفتند: این یک خطر برای بنگاه علمی است، زیرا سیل تحقیقاتی که از نظر سطحی قانع‌کننده اما از نظر علمی ضعیف هستند، می‌تواند از نظر ادبیات علمی اشباع باشند.
مسری و کراکت می‌گویند خطر اصلی این است که دانشمندان جوان دیگر «درست انجام دادن تحقیق» را یاد نمی‌گیرند.
در گذشته، دانشمندان تازه‌کار کارهای ساده و ابتدایی تحقیق را خودشان انجام می‌دادند. مثلاً داده جمع می‌کردند، آزمایش می‌گرفتند، نتایج را کنترل می‌کردند. کنار محققان باتجربه کار می‌کردند و کم‌کم یاد می‌گرفتند که چه چیزی درست است و چه چیزی غلط.
اما اگر هوش مصنوعی همه این کارهای ساده را انجام بدهد، دانشمندان جوان هیچ وقت این مهارت‌ها را یاد نمی‌گیرند و بعد که می‌خواهند کار هوش مصنوعی را کنترل کنند، نمی‌توانند بفهمند جواب‌های هوش مصنوعی درست است یا غلط.
نتیجه این می‌شود که یک نسل دانشمند خواهیم داشت که بلد نیست تحقیق کند و فقط به حرف هوش مصنوعی اعتماد می‌کند.

نویسندگان در پایان چند سوال کلیدی را مطرح می‌کنند: آیا هدف ما صرفاً جمع‌آوری مجموعه‌ای از حقایق علمی است، یا پرورش یک جامعه زنده و در حال تحول از دانشمندان آگاه؟ اگر ابزارهای هوش مصنوعی هدف اول را تسریع کنند اما هدف دوم را تهدید کنند، دانشمندان چگونه باید عمل کنند؟
آنها خواستار ایجاد « محافظ» شامل محدودیت در استفاده از هوش مصنوعی برای وظایف آموزشی خاص و ارزیابی مجدد معیارهای موفقیت علمی فراتر از تعداد انتشارات و استنادها هستند.

کد(۵)