هوش مصنوعی به دست تروریست ها افتاد
به گزارش گردو دانلود، هوش مصنوعی به سرعت به ابزاری رایج برای انجام کارهای مختلف، از نوشتن ایمیل و خلاصه سازی جلسات گرفته تا کمک به دانشجویان برای مطالعه یا یاری رساندن به برنامه نویسان در رفع اشکال کد، تبدیل گشته است. اما همان فناوری که در وقت کاربران صرفه جویی می کند، می تواند مورد سوءاستفاده هم قرار گیرد و گزارش جدیدی نشان داده است که سازمان های تروریستی هم درحال یافتن راه هایی جهت استفاده از آن هستند.
به گزارش گردو دانلود به نقل از خبر آنلاین، به نقل از ایسنا، برمبنای یک مقاله پژوهشی که قبل از انتشار در اختیار روزنامه نیویورک تایمز قرار گرفته است، محققان شواهدی یافته اند که نشان داده است اعضاء گروه Boko Haram از چت بات های محبوب هوش مصنوعی برای انجام فعالیتهای روزمره و همینطور ماموریت های در رابطه با درگیری های مسلحانه بهره برده اند.
مصاحبه با ۲۷ عضو سابق این گروه که طی دو سال قبل در نیجریه انجام شده، نشان داده است ابزارهایی مانند چت جی پی تی، متا، گراک، کلود، جمینای و دیپ سیک برای به دست آوردن اطلاعات فنی، رفع اشکال اسلحه ها و حتی کمک به برنامه ریزی حملات مورد استفاده قرار گرفته اند.
این کار فقط منحصر به چند فرد متخلف نبود آن چه نتایج این تحقیق را نگران کننده تر می کند، اینست که استفاده از هوش مصنوعی صرفاً به چند فرد محدود که به صورت آزمایشی با این ابزارها کار می کردند، نسبت داده نشده است. در این گزارش ادعا شده که استفاده از هوش مصنوعی در این گروه به گونه ای سازمان یافته انجام می شده و شامل تیم های اختصاصی، آموزش های داخلی و انتقال دانش میان اعضا بوده است.
محققان همینطور می گویند تعدادی کاربران موفق شده اند از سازوکارهای ایمنی تعبیه شده در این سامانه ها که برای پیشگیری از پاسخ گویی به درخواست های در رابطه با خشونت طراحی شده اند، عبور کنند.
البته این مساله لزوما به آن معنا نیست که چت بات های امروزی هوش مصنوعی به آسانی دستورالعمل های خطرناک را در اختیار کاربران قرار می دهند. بخش زیادی از این تحقیق به فعالیتهایی تا انتهای سال ۲۰۲۴ مربوط می شود و شرکتهای توسعه دهنده هوش مصنوعی اعلام نموده اند که نسخه های جدیدتر مدل هایشان به تدابیر حفاظتی قوی تری مجهز شده اند.
این شرکتها همینطور تاکید می کنند که خیلی از درخواست ها در «منطقه خاکستری» قرار می گیرند. بعنوان مثال، پرسیدن نحوه تعمیر یک موتورسیکلت یا درک مفاهیم پایه شیمی، ذاتا درخواستی خطرناک نیست؛ هرچند امکان دارد چنین اطلاعاتی در شرایطی مورد سوءاستفاده قرار گیرد.
چالش اصلی حالا، یک گام جلوتر ماندن است اوپن ای آی به روزنامه نیویورک تایمز اعلام نموده است که استفاده از چت جی پی تی برای پشتیبانی از تروریسم یا اعمال خشونت، نقض سیاستهای این شرکت شمرده می شود و این شرکت همچنان درحال تقویت سازوکارهای خود برای پیشگیری از سوءاستفاده است.
متا هم اعلام نمود که این تحقیق عمدتاً به نسخه های قدیمی تر مدلهای هوش مصنوعی این شرکت مربوط بوده و از آن زمان تا حالا اقدامات ایمنی خویش را تقویت کرده است. در همین حال، شرکتهای ایکس و دیپ سیک، بنا بر این گزارش، به درخواست ها برای اظهار نظر پاسخی نداده اند.
کارشناسان امنیتی هم هشدار می دهند که نباید تصور کرد هوش مصنوعی ناگهان به گروههای تروریستی توانایی هایی فراتر از حد معمول داده است. برنامه ریزی و اجرای حملات همچنان به عواملی مانند تدارکات میدانی، تأمین مالی، ارتباطات و هماهنگی انسانی وابسته است؛ مسائلی که یک چت بات قادر به جایگزینی آنها نیست.
به باور محققان، هوش مصنوعی بیشتر از آنکه ماهیت تهدید را به صورت اساسی تغییر دهد، می تواند اعضاء کم تجربه تر این گروه ها را تا حدی توانمندتر کند. با این وجود، این گزارش بار دیگر یادآور می شود که بحث ایمنی هوش مصنوعی تنها به تقلب دانش آموزان در انجام تکالیف یا تولید تصاویر جعلی محدود نمی گردد. هرچه مدلهای هوش مصنوعی توانمندتر و در دسترس تر شوند، فشار بر شرکتهای توسعه دهنده برای اطمینان از این که این ابزارهای قدرتمند برای کاربران مشروع مفید باقی بمانند و با این حال سوءاستفاده از آنها برای بازیگران مخرب هرچه دشوارتر شود، افزایش خواهد یافت.
منبع: گردو دانلود
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
عقیده کاربران گردو دانلود در مورد این مطلب