tsta

فارسی

Home / دومین کنفرانس ملی عصر انفجار تکنولوژی؛ هوش مصنوعی، تحولی در صنعت، تجارت و زنجیره تامین و دومین کنفرانس ملی علم داده در کاربردهای مهندسی

کاهش توهم در مدل‌های زبانی بزرگ جهت تولید اطلاعات درست

Authors :

زهرا روزبهانی¹

1- دانشگاه ملی مهارت واحد استانی قم

Keywords :

توهم،کاهش توهم،مدل‌های زبانی بزرگ،هوش مصنوعی مولد.

Abstract :

با پیشرفت مدل‌های زبانی بزرگ در تولید متونی مشابه با انسان، یک چالش کلیدی باقی‌مانده به نام "توهم" وجود دارد. توهم یعنی تولید محتوایی که ظاهراً حقیقی به نظر می‌رسد اما بدون پایه و اساس است. این مشکل به‌عنوان بزرگ‌ترین مانع برای به‌کارگیری ایمن این مدل‌های قدرتمند در سیستم‌های تولیدی واقعی که زندگی مردم را تحت تأثیر قرار می‌دهند، شناخته می‌شود. . این موضوع زمانی نگران‌کننده‌تر می‌شود که ما به قابلیت‌های تولید زبان برای کاربردهای حساس، مانند خلاصه‌سازی سوابق پزشکی، گزارش‌های تحلیل مالی و دیگر موارد وابسته هستیم. در این مقاله پس از تعریف دقیق توهم مدل‌های زبانی بزرگ در هوش مصنوعی مولد و بررسی انواع توهم به بررسی روش‌هایی که پژوهشگران جهت حل این مشکل ارائه کرده‌اند، پرداخته شده است. از جمله روش‌های قابل توجه در این حوزه می‌توان به روش‌های مبتنی بر مهندسی پرامپت، تولید مبتنی بر بازیابی اطلاعات و روش خود بازتابی اشاره نمود. آشنایی با این روش‌ها به تمایز رویکردهایی که به‌طور خاص برای مقابله با مشکلات توهم در مدل‌های زبانی بزرگ ارائه شده‌اند، کمک می‌کند و پایه‌ای محکم برای تحقیقات آینده در زمینه کاهش توهم فراهم می‌کند.