سامانه همایش ها

صفحه اصلی / دومین کنفرانس ملی عصر انفجار تکنولوژی؛ هوش مصنوعی، تحولی در صنعت، تجارت و زنجیره تامین و دومین کنفرانس ملی علم داده در کاربردهای مهندسی

مروری جامع بر کاربردهای هوش مصنوعی توضیح پذیر

نویسندگان :

زهرا تقی پور¹ پرویز قربانزاده² سمیرا کرامت طلاتپه³ آذر ملازاده ایگدیر⁴

1- دانشگاه ازاد ارومیه 2- دانشگاه صنعتی ارومیه 3- دانشگاه آزاد میانه 4- اداره آموزش و پرورش ارومیه

کلمات کلیدی :

هوش مصنوعی توضیح‌پذیر،یادگیری ماشین،شفافیت و اعتماد

چکیده :

با پیشرفت روزافزون فناوری هوش مصنوعی، به‌ویژه در زمینه‌هایی مانند امور مالی، بازرگانی، و مراقبت‌های بهداشتی، نگرانی‌هایی در مورد شفافیت، انصاف، و قابلیت اعتماد به این سیستم‌ها مطرح شده است. پیچیدگی ذاتی و غیرشفاف مدل‌های یادگیری ماشین، نیاز به توسعه روش‌های هوش مصنوعی توضیح پذیر (XAI) را بیش از پیش آشکار کرده است. این پژوهش به بررسی نقش محوری XAI در بهبود درک‌پذیری و شفافیت الگوریتم‌های هوش مصنوعی در حوزه‌های گوناگون می‌پردازد. از جمله کاربردهای برجسته XAI می‌توان به تشخیص پزشکی، مدیریت منابع طبیعی، بهینه‌سازی کشاورزی، امنیت دیجیتال، لجستیک، تحلیل داده‌های مالی، و شبکه‌های اجتماعی اشاره کرد. علاوه بر این، کاربردهای نوین XAI در آموزش، نظام حقوقی و خدمات عمومی نیز مورد توجه قرار گرفته است. روش‌های تفسیری محلی مانند SHAP و LIME در این مطالعه تحلیل شده‌اند. روش SHAP به دلیل استحکام ریاضی و دقت بالا، جایگاه ویژه‌ای در این حوزه دارد. این مقاله ضمن ارزیابی مزایا و کاستی‌های این تکنیک‌ها، تأثیر آن‌ها را بر بهبود تصمیم‌گیری و جلب اعتماد کاربران بررسی می‌کند. در نهایت، چالش‌های اصلی پیش روی XAI، از جمله تقویت اعتماد عمومی و ارتقای بهره‌وری این فناوری، مورد بحث قرار گرفته و چشم‌اندازی برای آینده‌ای مسئولانه‌تر و شفاف‌تر ارائه شده است.