خبر فوری یا فریب فوری؟ هشدار درباره هوش مصنوعی

در جهانی که خبرها با سرعت نور منتشر می‌شوند، یک پرسش ساده می‌تواند شما را گمراه کند، وقتی خبری فوری را از هوش مصنوعی می‌پرسید، آیا حقیقت را می‌شنوید یا نسخه‌ای بازسازی‌شده و ناقص را.

کد خبر: ۳۳۷۹۰۲

۲۵ مرداد ۱۴۰۴ / ۱۶:۲۴

به گزارش روزپلاس، فرض کنید ساعت سه بامداد است، حادثه‌ای بزرگ در کشور رخ داده اما منابع رسمی هنوز خبری منتشر نکردند و کسی نمی‌داند دقیقاً چه اتفاقی افتاده و همه به دنبال یک چیز هستند: «خبر درست». در همین لحظه فردی که نگران است گوشی‌اش را باز می‌کند و به‌جای رفتن سراغ خبرگزاری‌ها یا شبکه‌های معتبر، در چت جی‌پی‌تی می‌نویسد: «چه اتفاقی افتاده؟» چند ثانیه بعد، پاسخی دریافت می‌کند که یک متن منظم و روان است و احساس می‌کند خبری مطمئن دریافت می‌کند اما مشکل اینجاست؛ این متن شاید به چند ساعت قبل تعلق داشته باشد، شاید نادرست باشد یا بخشی از واقعیت را حذف کرده باشد. همین‌جا تفاوت میان «خبر واقعی» و «بازآفرینی ماشینی ربات هوش مصنوعی» آشکار می‌شود. سوال اصلی اینجاست که آیا می‌توان برای خبرهای لحظه‌ای به هوش مصنوعی اعتماد کرد؟

جذابیت خطرناک سرعت

قطعاً هوش مصنوعی با یک ویژگی طلایی به میدان آمده آن هم «سرعت» کافی است سوال یا مشکلی که برایتان پیش آمده را بنویسید و چند ثانیه بعد پاسخی آماده دریافت کنید. همین سرعت، بسیاری را وسوسه کرده تا به جای مرور وب یا مراجعه به رسانه‌ها، از هوش مصنوعی بخواهند آنچه را «همین حالا» در جهان می‌گذرد، توضیح دهد.

اما باید یک تفاوت بنیادین را به خاطر سپرد، رسانه منبع خبر است، هوش مصنوعی ابزار پردازش. رسانه خبرنگار اعزام می‌کند، با منابع تماس می‌گیرد، تصویر و صدا را از میدان مخابره می‌کند. اما هوش مصنوعی از اطلاعات و اخبار گذشته تغذیه می‌شود؛ داده‌هایش همیشه چند گام عقب‌تر از واقعیت است.

تصور کنید از چت‌بات بپرسید بر فرض مثال «زلزله تهران چند ریشتر بود؟» ممکن است پاسخی بگیرید که مربوط به سال‌ها قبل است، اما با چنان اطمینانی نوشته شده که شک نمی‌کنید. این همان لحظه‌ای است که سرعت به‌ظاهر نجات‌بخش، به دامی خطرناک تبدیل می‌شود.

توهم اطلاعاتی یا ماشین خیال

کارشناسان هوش مصنوعی اصطلاحی دارند به نام «توهم اطلاعاتی» یعنی مدلی که اطلاعات نادرست می‌سازد، اما طوری بازگو می‌کند که گویی حقیقت محض است. این مشکل در شرایط عادی شاید چندان جدی به نظر نرسد اما کافی است پای بحران به میان بیاید؛ حمله تروریستی، سقوط هواپیما یا درگیری نظامی. در چنین موقعیتی یک جمله اشتباه می‌تواند به شایعه‌ای فراگیر تبدیل شود. تجربه نشان داده که شایعات در دنیای آنلاین از حقیقت سریع‌تر حرکت می‌کنند. حال اگر سرچشمه این شایعات پاسخ ماشینی هوش مصنوعی باشد که خودش هم واقعیت را نمی‌شناسد، فاجعه بزرگ‌تر خواهد شد.

خبرنگار در برابر هوش مصنوعی

درست است که خبرنگار ضعف‌هایی دارد اما با وجود همان خطاهای انسانی‌اش یک وظیفه روشن دارد، «کشف حقیقت» او خبر را از منابع مختلف می‌سنجد، اصلاح می‌کند و اگر اشتباهی رخ دهد، پاسخ‌گو خواهد بود ولی در مقابل، هوش مصنوعی نه مأموریت کشف دارد و نه مسئولیتی در برابر اشتباهات پس تنها کاری که می‌کند، «بازسازی زبان» است. اگر به زبان ساده‌تر بگوییم خبرنگار، واقعیت را روایت می‌کند و هوش مصنوعی، متن را بازسازی می‌کند.

همین تفاوت ظریف است که مرز میان «خبر» و «شبه‌خبر» را روشن می‌سازد. اعتماد به چت‌بات برای خبر لحظه‌ای مثل این است که جان بیماری را به پزشکی بسپارید که هیچ‌وقت بیمار واقعی ندیده و فقط از روی کتاب‌های پزشکی نسخه می‌نویسد.

خطاهایی که رخ داده‌اند

شاید این بحث نظری به نظر برسد، اما شواهد واقعی وجود دارد. در چندین زمین‌لرزه اخیر، کاربران گزارش کردند که هوش مصنوعی اطلاعات مربوط به زلزله‌های سال‌های گذشته را بازگو کرده است یا اینکه در جریان جنگ اوکراین، برخی کاربران با استناد به پاسخ‌های یک چت‌بات، خبرهایی منتشر کردند که مربوط به روزها قبل بود، در حالی که خبرنگاران در میدان خبرهای تازه مخابره می‌کردند. این‌ها تنها نمونه‌هایی از فاصله عمیق میان «دانش ماشینی» و «واقعیت جاری» هستند.

چرا باز هم وسوسه می‌شویم؟

با وجود هوش مصنوعی و اینکه به خطرهایی که پیش رویمان هستند واقف هستیم باز هم همچنان افراد زیادی به سراغ هوش مصنوعی می‌روند و دلیلش هم همان راحتی است، جست‌وجو در منابع خبری زمان می‌برد، اما نوشتن یک سوال در چت‌بات فقط چند ثانیه طول می‌کشد. نتیجه هم متنی است شسته‌رفته و بی‌دردسر. درست مثل فست‌فود که سریع آماده می‌شود و به‌ظاهر نیاز را برطرف می‌کند، اما هیچ‌وقت جای غذای سالم را نمی‌گیرد.

مسئولیت رسانه‌ها و سواد مخاطب

اینجاست که نقش رسانه‌ها پررنگ‌تر می‌شود. رسانه‌ها باید این آگاهی را منتقل کنند که هوش مصنوعی جایگزین هر حقیقتی نیست. این فناوری می‌تواند به تحلیل داده‌ها کمک کند، می‌تواند تاریخچه اخبار را مرور کند یا اطلاعات پراکنده را دسته‌بندی کند؛ اما وظیفه روایت «آنچه همین حالا رخ می‌دهد» همچنان بر دوش خبرنگاران زنده است.

این را هم باید بدانیم که جامعه نیازمند سواد رسانه‌ای است. شخصی که از هوش مصنوعی استفاده می‌کند باید بداند که برای خبر فوری حتماً به منابع رسمی، خبرنگاران میدانی و شبکه‌های معتبر رجوع کند. تنها در این صورت می‌توان جلوی سیل شایعات و اخبار جعلی را گرفت.

بی‌شک هوش مصنوعی در آینده نزدیک نقش پررنگ‌تری در رسانه خواهد داشت. شاید خبرنگاران از آن برای تحلیل داده‌های عظیم یا پیش‌بینی روندها استفاده کنند. اما تا زمانی که این فناوری «چشم» و «گوش» در میدان ندارد، جای خبرنگار را نخواهد گرفت. فناوری ابزار است نه منبع حقیقت. اگر این مرز روشن نشود، جامعه‌ای گرفتار خواهیم داشت که واقعیت را از زبان ماشینی می‌گیرد که خودش مرز حقیقت و شایعه را نمی‌داند. اعتماد به هوش مصنوعی برای اخبار لحظه‌ای شبیه اعتماد به نقشه‌ای است که همیشه چند کیلومتر عقب‌تر از مسیر واقعی حرکت می‌کند، متن‌ها ممکن است زیبا و منطقی باشند اما واقعیت همان لحظه را منعکس نمی‌کنند.

در جهانی که شایعه‌ها با سرعت نور پخش می‌شوند، تنها راه نزدیک ماندن به حقیقت این است که مرز میان «ابزار پردازش» و «منبع خبر» را به‌خوبی بشناسیم. در غیر این صورت، یک پرسش ساده از هوش مصنوعی می‌تواند ما را به چندین کیلومتر دورتر از حقیقت پرتاب کند.