در ماههای گذشته، پژوهشگران و فعالان حوزه فناوری با پدیدهای عجیب روبهرو شدهاند. بسیاری از مدلهای زبانی بزرگ، از جمله ChatGPT و Claude، هنگام تولید داستان بارها به شخصیتی مشابه به نام الیاس تورن اشاره میکنند.
آیا تا به حال نام الیاس تورن، این شخصیت غریب و مرموز، به گوشتان خورده است؟ اگر نشنیدهاید، شاید بهتر باشد از یک چتبات هوش مصنوعی بخواهید داستانی برایتان تعریف کند.
الیاس گاهی نگهبان یک فانوس دریایی است. گاهی ساعتسازی تنها و گاهی کارآگاهی که درگیر حل معماهایی پیچیده است. نقش او تغییر میکند، اما حضورش در داستانهای تولیدشده توسط هوش مصنوعی به شکل غیرمعمولی تکرار میشود.
طبق گزارش گاردین، در ماه مه، دو پژوهشگر دانشگاه کرنل ۲۰ هزار داستان تولیدشده توسط چهار مدل زبانی بزرگ را بررسی کردند. آنها دریافتند که نام الیاس در ۲۶٫۵ درصد این داستانها ظاهر شده است. همچنین بیش از ۸۸ درصد داستانها مجموعهای مشترک از ۱۱ نام، مکان و شغل مشابه از جمله الیاس، فانوس دریایی، نگهبان و ساعتساز داشتند.
اما چرا هوش مصنوعی به چنین الگوهایی برمیگردد؟ آیا الیاس تورن شخصیتی فراموششده است که از گوشهای ناشناخته از اینترنت سر برآورده؟ یا شاید نشانهای از یک رفتار عمیقتر در مدلهای هوش مصنوعی است؟
پاسخ احتمالاً سادهتر است. الیاس تورن وجود خارجی ندارد. او محصول نحوه کار مدلهای زبانی بزرگ است، و ظهور مکرر او نکتههای مهمی درباره محدودیتهای این فناوری آشکار میکند.
مدلهای هوش مصنوعی هنگام تولید داستان، مانند انسانهای نویسنده عمل نمیکنند. آنها بر اساس الگوهای آماری تصمیم میگیرند که چه کلماتی احتمال بیشتری دارد در کنار یکدیگر قرار بگیرند.
پژوهشگران دانشگاه کرنل احتمال دادهاند که محدودیتهای آموزشی و دستورهای ایمنی ممکن است یکی از دلایل این تکرار باشند. مدلها برای دوری از شخصیتهای دارای حق نشر یا موضوعات حساس، شاید به سمت مجموعه کوچکتری از شخصیتهای عمومی و بیخطر حرکت کرده باشند. در نتیجه، نامهایی مانند الیاس تورن و فضاهایی مانند فانوس دریایی به گزینههای رایج برای ساخت داستان تبدیل شدهاند.
ماجرا فقط به یک شخصیت خیالی محدود نمیشود
خروجیهای تولیدشده توسط هوش مصنوعی ممکن است دوباره وارد اینترنت شوند و در آینده به عنوان بخشی از دادههای آموزشی مدلهای جدید استفاده شوند. این چرخه میتواند باعث تقویت اشتباهها، کلیشهها و الگوهای تکراری شود.
پژوهشگران این نگرانی را با اصطلاح فروپاشی مدل (Model Collapse) توصیف میکنند. وضعیتی که در آن مدلهای آینده بیش از حد از محتوای تولیدشده توسط مدلهای قبلی یاد میگیرند و به تدریج تنوع و کیفیت دادههای خود را از دست میدهند.
تصور کنید کتابخانهای که هر کتاب جدید آن بر اساس نسخهای از کتابهای قبلی نوشته شده باشد. پس از چند نسل، ممکن است بسیاری از جزئیات و دیدگاههای تازه از بین بروند.
البته این به معنی پایان هوش مصنوعی نیست. مدلهای امروزی هنوز ابزارهایی قدرتمند برای پژوهش، نویسندگی، طراحی و حل مسائل پیچیده هستند. اما داستان الیاس تورن یادآوری میکند که آینده این فناوری فقط به قدرت پردازشی بیشتر وابسته نیست، و کیفیت و تنوع دادهها نیز نقشی اساسی دارند.
الیاس تورن مردی است که هرگز زندگی نکرده است اما داستان او یک پرسش واقعی درباره آینده مطرح میکند. اگر ماشینها روزبهروز بیشتر از ساختههای خودشان یاد بگیرند، آیا در نهایت جهان دیجیتال بازتابی از تجربه انسانی خواهد بود یا پژواکی از تولیدات خود ماشینها شکل میگیرد؟
خبر آنلاین
