tsta

Home / دومین کنفرانس ملی عصر انفجار تکنولوژی؛ هوش مصنوعی، تحولی در صنعت، تجارت و زنجیره تامین و دومین کنفرانس ملی علم داده در کاربردهای مهندسی

حریم خصوصی کاربران در مدل های زبانی بزرگ

Authors :

آرمان محبعلی¹ محمد عادلی نیا²

1- دانشگاه ملی مهارت تهران 2- دانشگاه ملی مهارت تهران

Keywords :

حریم خصوصی کاربران،مدل‌های زبان بزرگ،استخراج داده‌ها،استنتاج عضویت،حریم خصوصی تفاضلی،یادگیری فدرال

Abstract :

مدل های زبانی بزرگ LLMs به دلیل تواناییهای پیشرفته در پردازش زبان طبیعی، کاربردهای گستردهای در حوزههای مختلف یافتهاند، اما تهدیدات حریم خصوصی ناشی از وابستگی آنها به دادههای متنی، چالشی جدی ایجاد کرده است. این پژوهش با هدف تحلیل تهدیدات حریم خصوصی در این مدلها و ارائه راهکارهای عملی برای حفاظت از اطالعات کاربران انجام شده است. با استفاده از روش مرور نظاممند، منابع علمی بین سالهای 2020 تا 2025 از پایگاههای معتبر بررسی شدند. یافتهها نشان میدهند که تهدیداتی مانند استخراج دادههای آموزشی و حمالت استنتاج عضویت میتوانند اطالعات حساس کاربران را فاش کنند. راهکارهایی مانند حریم خصوصی تفاضلی و یادگیری فدرال برای کاهش این تهدیدات پیشنهاد شدهاند، اما محدودیت هایی مانند کاهش دقت مدل یا هزینههای محاسباتی باال دارند. همچنین، کمبود مطالعات بومی در ایران بهعنوان شکاف تحقیقاتی کلیدی شناسایی شد. این پژوهش بر ضرورت توسعه روشهای حفاظتی کارآمدتر و چارچوبهای قانونی متناسب با فناوریهای هوش مصنوعی تأکید دارد. پیشنهاد میشود که پژوهشهای آینده بر بهبود روشهای حفاظتی و انجام مطالعات محلی در ایران تمرکز کنند تا اعتماد کاربران به این فناوریها تقویت شود.