تفکر انتقادی، مهم‌ترین راه تشخیص محتوای جعلی است

هوش مصنوعی جایگزین تفکر نیست؛ اعتماد بی‌چون‌وچرا به پاسخ‌های آن می‌تواند کاربران را به خطا بیندازد. عضو هیئت علمی دانشگاه محقق اردبیلی با تأکید بر ضرورت راستی‌آزمایی خروجی‌های هوش مصنوعی، این فناوری را ابزاری برای کمک به آموزش، پژوهش و تحلیل داده‌ها دانست و بر استفاده مسئولانه از آن تأکید کرد.

به گزارش خبرگزاری بسیج از اردبیل، هم‌زمان با گسترش استفاده از هوش مصنوعی، آگاهی از شیوه صحیح استفاده از این فناوری بیش از هر زمان دیگری اهمیت پیدا کرده است؛ چرا که اعتماد بی‌قیدوشرط به پاسخ‌های این ابزار می‌تواند کاربران را با خطاهای جدی روبه‌رو کند.در حوزه علم و فناوری نیز می توان از هوش مصنوعی استفاده کرد اما آگاهی از شیوه صحیح استفاده از آن بسیار مهم بوده و مورد تاکید اساتید دانشگاهی است، سیده فریناز صارم‌نژاد نمینی، عضو هیئت علمی دانشگاه محقق اردبیلی با اشاره به گسترش استفاده از هوش مصنوعی اظهار کرد: هوش مصنوعی باید به‌عنوان یک دستیار و نقطه شروع در نظر گرفته شود، نه یک محصول نهایی و بهترین شیوه استفاده از آن، طی کردن چرخه «پرسش، بررسی، راستی‌آزمایی، تصمیم‌گیری و اقدام» است.وی افزود: در حوزه علوم و صنایع غذایی، هوش مصنوعی می‌تواند در تحلیل داده‌های آزمایشگاهی، بهینه‌سازی فرمولاسیون و مرور متون علمی بسیار کمک‌کننده باشد، اما خروجی آن هرگز نباید بدون بازبینی متخصص مورد استفاده قرار گیرد.

اعتماد بی‌قید و شرط، رایج‌ترین اشتباه کاربران

عضو هیئت علمی دانشگاه محقق اردبیلی مهم‌ترین خطای کاربران را اعتماد کامل به پاسخ‌های هوش مصنوعی دانست و گفت: بسیاری از افراد این ابزار را با موتور جست‌وجو اشتباه می‌گیرند، در حالی که هوش مصنوعی ممکن است اطلاعات نادرست یا حتی ساختگی تولید کند.صارم‌نژاد نمینی ادامه داد: ارائه درخواست‌های مبهم و ناقص و همچنین کپی‌برداری مستقیم از پاسخ‌های هوش مصنوعی بدون بررسی صحت، لحن و تناسب آن با موضوع تخصصی، از دیگر اشتباهات رایج کاربران است.

هوش مصنوعی نباید جایگزین یادگیری شود

وی با اشاره به استفاده دانش‌آموزان و دانشجویان از هوش مصنوعی بیان کرد: این فناوری تنها یک ابزار کمک‌آموزشی است و استفاده از آن برای دریافت راهنمایی، معرفی منابع، بازبینی نگارشی و خلاصه‌سازی قابل قبول است، اما انجام خودکار تکالیف و جایگزین شدن آن با فرایند یادگیری و تفکر انتقادی، قابل پذیرش نیست.وی افزود: در فعالیت‌های پژوهشی نیز استفاده از هوش مصنوعی باید به‌صورت شفاف اعلام شود.

تفکر انتقادی، مهم‌ترین راه تشخیص محتوای جعلی

عضو هیئت علمی گروه علوم و صنایع غذایی دانشگاه محقق اردبیلی درباره تشخیص تصاویر، ویدئوها و صداهای جعلی گفت: هیچ روش صددرصدی برای شناسایی محتوای جعلی وجود ندارد و کاربران باید به منبع خبر، نوع نگارش، جست‌وجوی معکوس تصویر و جزئیات قابل راستی‌آزمایی توجه کنند.وی تصریح کرد: محتواهایی که بیش از حد احساسی، بیش از حد کامل یا فاقد منبع معتبر هستند، باید با تردید بررسی شوند و تفکر انتقادی مهم‌ترین ابزار مقابله با اطلاعات نادرست است.

هوش مصنوعی جای پزشک و متخصص تغذیه را نمی‌گیرد

صارم‌نژاد نمینی درباره اعتماد به توصیه‌های پزشکی هوش مصنوعی نیز گفت: به طور کلی نمی‌توان به توصیه‌های درمانی این سامانه‌ها اعتماد کرد، زیرا پژوهش‌ها نشان داده‌اند که ممکن است اطلاعات نادرست، ناسازگار یا حتی خطرناک ارائه دهند.وی ادامه داد: در حوزه تغذیه، آلرژی و رژیم غذایی نیز توصیه‌های هوش مصنوعی نمی‌تواند جایگزین نظر پزشک یا متخصص تغذیه باشد و این ابزار تنها برای آموزش عمومی کاربرد دارد.

آینده متعلق به مشاغل تخصص‌محور و خلاق است

وی با اشاره به آینده بازار کار در عصر هوش مصنوعی اظهار کرد: مشاغلی که تخصص انسانی، خلاقیت و مهارت فنی را با یکدیگر ترکیب می‌کنند، آینده روشن‌تری خواهند داشت.عضو هیئت علمی دانشگاه محقق اردبیلی افزود: حوزه‌هایی مانند علم داده، هوش مصنوعی، امنیت سایبری، فناوری‌های سبز و همچنین کشاورزی دقیق، فناوری‌های هوشمند صنایع غذایی، ایمنی غذایی داده‌محور و توسعه محصولات پایدار از جمله زمینه‌های رو به رشد هستند.

مهندسی پرامپت، کلید دریافت پاسخ‌های دقیق‌تر

صارم‌نژاد نمینی در پایان با تأکید بر اهمیت «مهندسی پرامپت» گفت: برای دریافت پاسخ‌های دقیق‌تر از هوش مصنوعی، درخواست باید دارای نقش، هدف، محدودیت، زمینه و مثال باشد.وی خاطرنشان کرد: کاربران پس از دریافت پاسخ نیز باید آن را بررسی، اصلاح و با منابع معتبر راستی‌آزمایی کنند تا از صحت اطلاعات اطمینان حاصل شود.

هوش مصنوعی نه دشمن انسان است و نه جایگزین او؛ بلکه ابزاری است که کیفیت استفاده از آن، آینده‌اش را مشخص می‌کند؛ هرچه سواد رسانه‌ای و مهارت کاربران در استفاده از این فناوری افزایش یابد، بهره‌مندی از مزایای آن نیز بیشتر خواهد شد و خطرات ناشی از اطلاعات نادرست کاهش می‌یابد.