کاخ سفید از اوپن ای آی و آنتروپیک خواست آزمایش مدلهای جدید با بریتانیا را متوقف کنند
گردو دانلود: کاخ سفید از اوپن ای آی و آنتروپیک خواسته است اشتراک گذاری مدلهای جدید هوش مصنوعی با ارزیابان بریتانیایی را تا زمان تکمیل بررسی های امنیتی آمریکا متوقف کنند؛ تصمیمی که به دنبال افزایش نگرانی ها درباره ی توانایی عامل های هوش مصنوعی برای دسترسی بدون مجوز به سیستم های خارجی اتخاذ شده است.
به گزارش گردو دانلود به نقل از خبر آنلاین و برپایه گزارش زومیت، بر مبنای گزارشی اختصاصی از پولیتیکو که رویترز نیز آنرا گزارش کرده، دولت آمریکا از اوپن ای آی و آنتروپیک خواسته است آزمایش مدلهای جدید خود با کارشناسان و ارزیابان بریتانیایی را به طور موقت متوقف کنند تا بررسیهای امنیتی در آمریکا تکمیل شود.
این درخواست در شرایطی طرح شده که قابلیت های عامل های هوش مصنوعی برای تعامل مستقل با وب، سامانه های نرم افزاری و داده های خارجی، نگرانی های جدیدی در حوزه امنیت سایبری بوجود آورده است. دولت آمریکا ظاهراً می خواهد قبل از انتقال یا آزمایش مدلهای پیشرفته با شرکای خارجی، نتایج امنیتی این فرآیند را ارزیابی کند.
دسترسی غیر مجاز عامل هوش مصنوعی به یک سامانه دولتی استرالیا یکی از مهم ترین رخدادهای اخیر دراین خصوص در استرالیا اتفاق افتاده است. آنتونی آلبانیزی، نخست وزیر استرالیا، اعلام نمود یک عامل هوش مصنوعی متعلق به اوپن ای آی در ۱۸ ژوئن ۲۰۲۶ هنگام انجام یک ارزیابی داخلی، به شکل غیر مجاز وارد پورتال آمار Medicare متعلق به سازمان Services Australia شده است.
به قول مقام های استرالیایی، این عامل ابتدا برای یافتن اطلاعات عمومی در رابطه با هزینه داروها در اینترنت فعالیت می کرد، اما بعد از مواجه شدن با محدودیت های سامانه، راه هایی برای عبور از این موانع پیدا کرد و توانست به فایل های عمومی و غیرعمومی دسترسی پیدا کند.
در عین حال، دولت استرالیا تاکید کرده است که شواهدی از دسترسی به اطلاعات شخصی بیماران وجود ندارد. داده های غیرعمومی مشاهده شده نیز به طور عمده شامل آمار تجمیعی سلامت و نام برخی فایل های داخلی بوده است.
این حادثه از آن جهت اهمیت دارد که عامل هوش مصنوعی، بر خلاف یک ابزار صرفا پاسخ گو، توانسته است در جریان انجام یک وظیفه، با یک سامانه خارجی تعامل کند و بعد از مواجه شدن با محدودیت، مسیر دیگری برای رسیدن به اطلاعات موردنظرش پیدا کند.
چرا آزمایش مدلهای هوش مصنوعی حساس تر شده است؟ عامل های هوش مصنوعی نسل جدید می توانند علاوه بر تولید متن، در محیط های دیجیتال جست وجو کنند، با ابزارهای نرم افزاری تعامل داشته باشند و مجموعه ای از اقدامات را برای رسیدن به یک هدف دنبال کنند. همین قابلیت، سطح جدیدی از ریسک های امنیتی را بوجود آورده است.
در پرونده استرالیا نیز مقام های دولتی تاکید کرده اند که باآنکه تأثیر عملی رخداد محدود بوده، دسترسی غیر مجاز یک عامل هوش مصنوعی به سامانه دولتی خود یک مساله امنیتی جدی شمرده می شود.
اوپن ای آی نیز اعلام نموده است که درحال بررسی گسترده فعالیتهای ناهمسو با هدف موردنظر مدل هاست و در جریان این بررسی، مواردی از تعامل مدلها با چند وبسایت دولتی استرالیا شناسایی شده است. این شرکت گفته است در این فعالیتها، مدلها اقداماتی انجام داده اند که مطابق انتظار توسعه دهندگان نبوده است.
همکاری بین المللی هوش مصنوعی زیر ذره بین امنیتی در چنین شرایطی، درخواست کاخ سفید از اوپن ای آی و آنتروپیک نشان میدهد که ارزیابی امنیتی مدلهای پیشرفته فقط به مرحله توسعه داخلی محدود نمی شود و آزمایش برون مرزی این مدلها نیز می تواند به یک مبحث امنیت ملی تبدیل گردد.
مقام های آمریکایی طبق گزارش پولیتیکو می خواهند قبل از ادامه اشتراک گذاری مدلهای جدید با ارزیابان خارجی، بررسی نمایند که چه خطراتی امکان دارد متوجه زیرساخت های حیاتی و سامانه های حساس شود.
این رویکرد در حالی مطرح گردیده است که شرکتهای سازنده مدلهای پیشرفته نیز به صورت درحال افزایشی در رابطه با توانایی های جدید عامل های هوش مصنوعی و لزوم توسعه سازوکارهای نظارتی و ایمنی اخطار می دهند. رخداد استرالیا حالا به یکی از نمونه های مهمی تبدیل گشته است که نشان میدهد فاصله میان یک «عامل هوش مصنوعی آزمایشی» و سامانه ای که می تواند با زیرساخت های حقیقی تعامل کند، امکان دارد کمتر از گذشته باشد.
به طور خلاصه به گزارش گردو دانلود به نقل از خبر آنلاین و برپایه گزارش زومیت، بر اساس گزارشی اختصاصی از پولیتیکو که رویترز هم آن را گزارش کرده، دولت آمریکا از اوپن ای آی و آنتروپیک خواسته است آزمایش مدل های جدید خود با کارشناسان و ارزیابان بریتانیایی را موقتاً متوقف کنند تا بررسیهای امنیتی در آمریکا تکمیل شود. به قول مقام های استرالیایی، این عامل ابتدا برای یافتن اطلاعات عمومی در ارتباط با هزینه داروها در اینترنت فعالیت می کرد، اما پس از مواجه شدن با محدودیت های سامانه، راه هایی برای عبور از این موانع پیدا کرد و توانست به فایل های عمومی و غیرعمومی دسترسی پیدا کند. این شرکت گفته است در این فعالیت ها، مدلها اقداماتی انجام داده اند که مطابق انتظار توسعه دهندگان نبوده است.
منبع: گردو دانلود
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
عقیده کاربران گردو دانلود در مورد این مطلب