هوش مصنوعی چگونه می تواند به انسان آسیب برساند؟+ راه حل آن

  جمعه، 10 شهریور 1402   زمان مطالعه 5 دقیقه
هوش مصنوعی چگونه می تواند به انسان آسیب برساند؟+ راه حل آن
هوش مصنوعی به عنوان یکی از پیشرفت‌های چشمگیر فناوری و تکنولوژی توانسته در بسیاری از حوزه‌ها تغییرات بزرگی را به همراه داشته باشد. اما در کنار مزایا و قابلیت‌های آن، همواره باید به جنبه‌های منفی و خطرات مرتبط با هوش مصنوعی نیز توجه کرد. در این پست به بررسی خطرات هوش مصنوعی می پردازیم. همراه ساعدنیوز باشید.
فهرست []

وقتی که در مورد خطرات هوش مصنوعی صحبت می‌کنیم، معمولا تمرکز روی اثرات جانبی ناخواسته است. ما نگرانیم که یک روز تصادفی هوش مصنوعی فوق هوشمند بسازیم و یادمان برود که به آن ضمیری بدهیم؛ یا الگوریتم‌هایی برای محکوم کردن مجرمان به کار می‌بریم که مملو از تعصبات نژادپرستی داده‌های تمرینی‌اش است.

اما این فقط نیمی از داستان است. آن‌هایی که از قصد می‌خواهند هوش مصنوعی را برای کارهای غیراخلافی، مجرمانه و آسیب‌رسان استفاده کنند چطور؟ احتمال بروز خطر از سوی آن‌ها بیشتر -و حتی زودتر- نیست؟ پاسخ مثبت است، طبق نظر بیش از ده متخصص از انستیتوهایی نظیر «آینده بشر»، «مرکز پژوهش خطرهای موجود» و حتی شرکت غیر انتفاعی «OpenAI» که توسط ایلان ماسک تاسیس شده، جواب مثبت است.

در مقاله‌ای که اخیرا با نام «استفاده مخرب از هوش مصنوعی: پیش‌بینی، جلوگیری و بازدارندگی» منتشر شده، این پژوهشگران و دانشگاهیان در مورد برخی راه‌هایی که ممکن است هوش مصنوعی طی پنج سال آینده از طریق آن به ما ضرر برساند صحبت کرده اند و گفته اند که ما چه کار می توانیم انجام دهیم.

هوش مصنوعی

مایلز بروندج یکی از نویسندگان این مقاله از انستیتو آینده بشر به وبسایت ورج گفته که چون هوش مصنوعی می تواند حملات مهلکی به ما وارد کند، ما قطعا نباید وحشت کرده یا امید را کنار بگذاریم.

بروندج می گوید: «من دوست دارم حالت خوشبینانه را در نظر بگیرم که ما می توانیم کارهای بیشتری انجام دهیم. مسئله این است که تصویری تاریک و سیاه نکشیم. راه های دفاع بسیاری وجود دارد که می توانیم توسعه دهیم و چیزهای بسیاری برای یاد گرفتن وجود دارد. فکر نمی کنم که همه‌اش ناامیدی باشد ولی این مقاله را فراخوانی برای اقدام می‌بینم.»

گزارش بروندج و تیم‌هایی که با او همکاری داشته‌اند بسیار وسیع است اما روی چند راه اصلی که هوش مصنوعی می تواند خطرات امنیتی فیزیکی و دیجیتالی ایجاد کند یا اصلا خطرات جدید بسازد متمرکز است.

در این مطلب پنج پیشنهاد هم برای مبارزه با این مشکل آمده از جمله آگاه سازی مهندسین هوش مصنوعی در مورد استفاده های مخرب در تحقیقاتشان و همچنین برقراری گفتمان میان دانشگاهیان و قانون گذاران تا هنگام وقوع جرم، غافل‌گیری پیش نیاید.

هوش مصنوعی

بگذارید از خطرات احتمالی شروع کنیم: یکی از مهم‌ترین خطرات آن است که هوش مصنوعی به شکل قابل توجهی هزینه برخی حملات را کاهش می‌دهد و جایگزین نیروی انسانی می‌شود.

برای مثال حملات فیشینگ را در نظر بگیرید که در آن به افراد پیام‌هایی داده می‌شود تا به نوعی از آن طریق اطلاعات حساب‌هایشان را به دست آورند. مثل یک ایمیل از سایت‌های خرید یا ایمیل از بانکی که در آن حساب دارید.

هوش مصنوعی می‌تواند در این حملات، عمده کارها را انجام دهد و بر اساس تحلیل اطلاعات و داده‌های هر فرد، پیام مخصوصی برایش بسازد. یا تصور کنید چت بات‌ها آنقدر پیشرفته شوند که بتوانند نقش دوست نزدیکتان را ایفا کنند و از شما رمز عبور ایمیل‌تان را بگیرند.

ارتباط انسان با هوش مصنوعی

این مدل حملات پیچیده به نظر می رسد اما اگر یک بار این نرم افزار ساخته شود، بدون هزینه اضافه می توان آن را بارها و بارها به کار گرفت. ایمیل‌های فیشینگ همین حالا هم بسیار مضر هستند. این ایمیل‌ها مسبب انتشار تصاویر شخصی اشخاص معروف در سال 2014 و لو رفتن ایمیل‌های جان پادستا، از ستاد انتخاباتی هیلاری کلینتون در انتخابات 2016 آمریکا بودند. لو رفتن ایمیل‌های پادستا نه تنها باعث تغییر نتیجه انتخابات 2016 آمریکا شد، بلکه تئوری‌های توطئه‌ای نظیر پیتزاگیت را رقم زد که نزدیک بود به کشته شدن انسان‌ها منجر شود. حالا تصور کنید یک هوش مصنوعی پیشرفته چه کارها که نمی تواند انجام دهد.

نکته مهم بعدی در این گزارش به افزودن ابعاد جدید به خطرهای فعلی اشاره دارد. همین مثال فیشینگ را در نظر بگیرید. هوش مصنوعی همین حالا هم با گوش دادن به چند دقیقه از صحبت های یک شخص می تواند صدای او را تقلید کند. یا می تواند به صورت همزمان از ویدیوهای موجود استفاده کرده و حرکات صورت و چهره‌تان را جایگزین حرکات صورت یک شخص شناخته شده کند. این گزارش روی خطراتی متمرکز است که طی پنج سال آینده پدید می‌آیند و سریعا در حال تبدیل شدن به یک موضوع اساسی هستند.

البته یک سری اقدامات ناراحت‌کننده دیگر هم هستند که هوش مصنوعی می‌تواند آن‌ها را تشدید کند. دستکاری‌های سیاسی و پروپاگاندا (مثل دستکاری صدا و تصویر که می تواند مشکلی عظیم باشد)، و همچنین نظارت‌های امنیتی به خصوص وقتی که اقلیت‌ها را هدف قرار دهد.

مثال واضح می تواند چین باشد، کشوری که دوربین‌های امنیتی و تشخیص دهنده چهره‌اش یک منطقه بزرگ که اقلیت مسلمان اویغور در آن زندگی می‌کنند را زیر نظر گرفته است.

در نهایت، این گزارش به خطرات کاملا بدیعی که هوش مصنوعی می تواند ایجاد کند اشاره دارد. نویسنده به برخی سناریوهای ممکن اشاره دارد از جمله قرار دادن بمب در رباتی خدمتکار و انتقال آن به یک وزارت خانه دولتی. ربات با استفاده از قابلیت‌های ویژه خود یک سیاست‌مدار خاص را شناسایی کرده و وقتی که نزدیکش برسد بمب را منفجر می کند.

این مثال به دو پیشرفت اساسی اشاره دارد، یکی بهره گیری از هوش مصنوعی در محصولات فیزیکی و دوم استفاده از فناوری‌های نرم افزاری مثل تشخیص چهره. شاید اشاره به چنین داستان‌هایی اندکی خیالی به نظر برسد اما حقیقت آن است که همین حالا هم شاهد حملات بدیع توسط هوش مصنوعی بوده‌ایم.

هوش مصنوعی

فناوری جابه‌جایی چهره این امکان را داده بود تا بدون هیچ حد و مرزی، کاربران چهره افراد مشهور را با چهره بازیگران فیلم‌های غیر اخلاقی جایگزین کنند که باعث جنجال آفرینی بسیاری طی هفته‌های گذشته شد. اگرچه تاکنون این ماجرا قربانی خاصی نگرفته اما کسانی که چنین سوء استفاده‌ای از تکنولوژی می‌کنند قادر خواهند شد تا با ساخت چنین تصاویری از افرادی که می‌شناسند باج گرفته یا باعث آزار و اذیت شوند.

راه حل‌های ارائه شده در این مقاله ساده هستند و عبارتند از:

  • پژوهشگران حوزه هوش مصنوعی باید آگاه باشند که کارهایشان چطور می‌تواند توسط دیگران مورد سوء استفاده قرار بگیرد

  • قانون‌گذاران باید از متخصصین در مورد این موضوع آموزه بگیرند

  • کسانی که روی هوش مصنوعی کار می‌کنند باید از متخصصین حوزه امنیت سایبری برای محافظت از سیستم‌هایشان آموزه بگیرند

  • باید چارچوب‌های اخلاقی برای هوش مصنوعی ایجاد شده و آن را دنبال کرد

  • افراد بیشتری باید در این ماجرا دخیل باشند. نه فقط دانشمندان هوش مصنوعی و قانون‌گذاران. بلکه دانشمندان علوم اخلاق، کسب و کارها و عموم مردم


سخن پایانی

به بیان دیگر: کمی گفتمان و کمی کار بیشتر لازم است. همچنین برای مشاهده ی مطالب مرتبط دیگر به بخش آموزش عمومی ساعدنیوز مراجعه نمایید.


دیدگاه ها
  دیدگاه ها
پربحث های هفته   
اختصاصی ساعدنیوز: قهرمان عملیات جستجوی هلی‌کوپتر شهیدان خدمت: پهپاد ترکیه‌ای یا موتورسواران تبریزی؟ (8 نظر) واکنش فرزاد حسنی به شهادت شهدای خدمت: درود بر ابراهیم، نیکوکاران را چنین پاداش می دهیم، در حقیقت او از بندگان با ایمان ما بود (3 نظر) انا لله و انا الیه راجعون / مرد خدمت آسمانی شد ... (2 نظر) فوری؛ لحظه اعلام خبر شهادت ابراهیم رئیسی در شبکه خبر (2 نظر) چهره محزون و ناراحت وحید شمسایی در مراسم تشییع رئیس جمهور شهید و همراهانش+عکس (1 نظر) انتشار برای اولین بار ؛ جدیدترین تصاویر ثبت‌شده از آخرین پرواز بالگرد رئیس‌جمهور شهید و همراهانش (1 نظر) فیلمی تاریخی و دیده نشده از شهید جمهور / اینجانب سید ابراهیم رئیسی هستم ... (1 نظر) نگاهی به دیدارهای مردمی استاندار جوان و شهید آذربایجان شرقی/ روحشان شاد+ویدیو (1 نظر) تعبیر جالب حجت‌الاسلام قرائتی درباره شهادت ابراهیم رئیسی+ویدئو (1 نظر) (عکس) ادای احترام استقلالی ها به رئیس جمهور شهید در تمرین امروز این تیم (1 نظر) استوری اینستاگرامی ملیکا زارعی (خاله شادونه) از مراسم تشییع آیت الله رئیسی+عکس (1 نظر) حضور رهبر معظم انقلاب در خانه سید ابراهیم رئیسی برای قوت قلب همسر و فرزندانش+عکس/ خانه ایی سراسر فرش ماشینی و بدون تجملات! (1 نظر) آخرین قاب دو نفره پدر و پسری شهید مالک رحمتی که در تاریخ ماندگار شد+عکس (1 نظر) آخرین نامه به رئیس جمهور شهید (1 نظر) صحبتهای قابل تامل برادر سید ابراهیم رئیسی و زینب سلیمانی درباره رئیس جمهور شهید کشور+ ویدیو (1 نظر)
دیگران می‌خوانند   
سفر به «اندرونی»؛ وقتی عکس‌های عادی کسالت‌آور می‌شدند!+ عکس رعد و برق جان مرد60 ساله در شهرستان ورزقان را گرفت شروه خوانی در سوگ شهدای خدمت در بوشهر+ فیلم زیبایی مثال زدنی سنگاپور در غروب خورشید + ویدئو فال انبیاء روزانه شنبه 5 خرداد 1403 حال‌وهوای مزار رئیس جمهور شهید یک روز پس از تدفین در حرم رضوی+ فیلم لحظه دلخراش زیر گرفتن یک کودک توسط موتورسوار فراری؛ نگرانی بی‌امان مادر+ فیلم استقبال دیدنی جواد نکونام از یک هوادار معلول +ویدئو تغییر قیافه باورنکردنی محمد صلاح/ صلاح موهای فرفری اش را زد+ عکس 9 حقیقت جالب و عجیب درباره زندگی مردم مصر باستان این پسر با دستهای مصنوعی دروازه بانی می کند علاقه رئیس جمهور شهید به این شخصیت طنز حقایق گفته نشده از زینب پاشا شیرزن تبریزی دوران قاجار/ درس بزرگ او برای محتکران غلات شهید رئیسی : شاگرد اول نبودم ولی سعی می کردم عقب نمانم+فیلم این داور سرشناس فوتبال ایران تهدید به قتل شد!+عکس جزئیات فیلم خودسوزی یک فرد در میدان انقلاب پاسخ جالب ابراهیم رئیسی به سوال هاشمی رفسنجانی در مورد پذیرش مسئولیت آستان قدس+فیلم جای خالی آیت الله آل هاشم در نماز جمعه تبریز/چه جمعه غریبانه ای+فیلم زندگی سید ابراهیم رئیسی در دوران پهلوی چگونه گذشت؟ جسد سید محرومان غرق در طلا و مرمر! تحمیق کاربران فضای مجازی به شیوه اینترنشنال عکس دیده نشده از شهید آیت الله آل هاشم میان تصاویر امام جمعه های شهید تبریز بی‌تابی‌های بی‌پایان پدر شهید آل هاشم در مراسم بازگشت پیکر فرزندش+ویدئو فال ابجد روزانه شنبه 5 خرداد 1403 ابتکار جالب برای حفظ یک درخت در ایستگاه مترو در تهران+ عکس فال روزانه امروز شنبه 4 خرداد ماه 1403 فال شمع روزانه امروز شنبه 5 خرداد 1403 عکسی تلخ از آخرین وداع خانواده استاندار شهید با پیکر فرزندشان+عکس فال قهوه با نشان روز شنبه 5 خرداد ماه 1403 نگاهی به خانه ابدی شهید مالک رحمتی، استاندار دهه شصتی آذربایجان شرقی+عکس/روحش شاد و یادش گرامی فال حافظ با تفسیر امروز شنبه 5 اردیبهشت 1403 + فیلم این عکس به شایعات درباره گم شدن بادیگارد رئیس جمهور پایان داد حضور مادر شهید سردار موسوی بر سر مزار مطهر ایشان +ویدئو تشییع باشکوه شهید مالک رحمتی در مراغه+ویدئو تزئین خانه ابدی شهید مالک رحمتی با گل رز سفید و سرخ پرپر شده+عکس/روحش شاد و یادش گرامی نگاهی به خانه ابدی شهید سیدمهدی موسوی در حرم حضرت شاه‌عبدالعظیم(ع) +ویدئو بیقراری خواهر شهید مالک رحمتی در مراسم تشییع برادرش +ویدئو/ سلام ای غروب غریبانه دل... روایت انتخاب نام کوچک شهید امیرعبدالهیان از زبان خودش؛ قدرت‌الله؟ + فیلم مداحی استاندار شهید، مالک رحمتی در روز اربعین در کربلا+ویدیو عکس‌هایی از خانه شهید ابراهیم رئیسی در تهران پس از مراسم خاکسپاری+عکس شهید رئیسی: تصویر حضرت آقا رو می‌کشیدید، من که کسی نیستم +ویدئو