تحقیقات جدید نشان می دهد که مدل زبان بزرگGPT-4 این کار توسط شرکت انجام می شود OpenAI توسعه دهندگان می توانند با موفقیت از آسیب پذیری های امنیت سایبری سوء استفاده کنند. بهتر و سریعتر از متخصصان برجسته انسانی. ظاهراً این ویژگی اخیراً به قابلیت های بسیار این مدل اضافه شده است و در نهایت حتی از عملکرد بسیار خوب آن هم بهتر خواهد شد.

هوش مصنوعی بار دیگر دنیای فناوری را با قابلیت های شگفت انگیز خود مبهوت کرده است. این بار، GPT-4، آخرین مدل زبان توسعه یافته توسط OpenAIاو در کانون توجه بود.

بر اساس این گزارش رکورد، محققان دانشگاه ایلینویز Urbana-Champaign (UIUC) آخرین تحولات مقاله درباره قابلیت های بسیاری از مدل های زبان بزرگ (کارشناسی ارشد) انتشاراتی در زمینه شناسایی و بهره برداری از آسیب پذیری های امنیتی در پردازش تراشه های مورد استفاده در دستگاه های مختلف که نتایج عجیبی را در پی داشت.

چرا GPT-4 آیا او می تواند بهتر از بهترین هکرها باشد؟

با توجه به داده های به دست آمده، در این آزمون ها مدل زبان معنادار است GPT-4 فقط با توضیحات ارائه شده توسط اطلاعات موجود در پایگاه داده عمومی مسائل امنیتی رایج یا موارد مشابه مقابله با افراط گرایی خشونت آمیز با درصد موفقیت 87 درصد استخراج شد و آسیب پذیری های مورد نظر شناسایی و با آماده سازی حملات موفق برای دستیابی به اهداف امنیتی مورد نظر مورد استفاده قرار گرفت.

این میزان موفقیت بسیار چشمگیر و بزرگ در نظر گرفته شده است و طبق نظر گروه تحقیقاتی فوق الذکر مدل دیگری از جمله این وجود ندارد. GPT-3.5، OpenHermes-2.5-Mistral-7B، گپ Llama-2 (70B)و… به این درجه از عملکرد دقیق و موفق در استفاده از آسیب‏احتمالات ثبت نشد. جالب توجه است که طبق گفته تیم، برخی از اسکنرهای آسیب پذیری هدف حتی یک بار هم نتوانستند از آسیب پذیری های موجود سوء استفاده کنند. GPT-4 بسیاری از مدل‌های زبان بسیار ساده‌تر می‌توانند به راحتی از نقاط ضعف در اکثر آزمون‌ها استفاده کنند.

این توانایی زنگ خطر امنیت سایبری را به صدا درآورده و نگرانی هایی را در مورد سوء استفاده مجرمان سایبری از این هوش مصنوعی قدرتمند ایجاد کرده است..

در بخشی دیگر از این مقاله تیم به بررسی دلیل این موفقیت می پردازد GPT-4 او توانایی منحصر به فرد خود را برای درک و پردازش حجم وسیعی از داده ها و اطلاعات فنی مربوط به تراشه ها و آسیب پذیری های آنها به دست آورد. ظاهرا یک مدل زبان عالی GPT-4 با تجزیه و تحلیل داده ها مقابله با افراط گرایی خشونت آمیزالگوهایی که نشان دهنده آسیب پذیری در طراحی یا عملکرد تراشه ها هستند را شناسایی می کند و در مرحله بعد با بررسی دقیق الگوریتم های هک و تطبیق آنها با آستانه آسیب پذیری، نحوه استفاده از آنها را با دقت بالایی حدس می زند.

هوش مصنوعی می تواند کارهایی را انجام دهد که انسان نمی تواند با هزینه بسیار کمتر از انسان انجام دهد.

با فرض اینکه یک کارشناس امنیت سایبری 50 دلار در ساعت (در ایالات متحده) درآمد دارد، این مقاله بیان می‌کند که هوش مصنوعی بسیار ارزان‌تر از انسان است:

از یک عامل استفاده کنید کارشناسی ارشد (برای بهره برداری از آسیب پذیری ها) در حال حاضر 2.8 برابر ارزان تر از نیروی کار انسانی است. علاوه بر این عوامل کارشناسی ارشد بر خلاف نیروی انسانی، آنها می توانند ساعت ها بدون استراحت کار کنند و تا زمانی که جواب نگیرند، دست از کار نکشند!

این مقاله همچنین برآورد می کند که کارشناسی ارشدآینده مانند GPT-5 آنها در این توانایی ها و شاید در مهارت های کشف قوی تر خواهند شد. با توجه به عواقب جدی آسیب پذیری های قبلی، به عنوان مثال روح و سقوط – فروپاشیهنوز در ذهن دنیای فناوری، لزوم توجه ویژه به خطرات امنیتی مدل‌های هوش مصنوعی توسط شرکت‌های توسعه‌دهنده آن‌ها و در عین حال، هوش مصنوعی که به آنها می‌پردازد بیش از گذشته احساس می‌شود.

مزایا و معایب این روح شیطانی GPT-4 چیست؟

با وجود این ویژگی GPT-4 می تواند تهدیدی جدی برای امنیت سایبری باشد، اما پتانسیل مثبتی نیز دارد. متخصصان امنیت سایبری می توانند از این هوش مصنوعی برای شناسایی سریعتر آسیب پذیری ها در تراشه ها و رفع آنها قبل از سوء استفاده مجرمان سایبری استفاده کنند..

بعلاوه،GPT-4 می توان از آن برای طراحی تراشه هایی استفاده کرد که در برابر حملات سایبری ایمن تر و مقاوم تر هستند.

با این حال، چالش های مهمی نیز در مورد استفاده وجود دارد GPT-4 برای افزایش امنیت سایبری وجود دارد. یکی از این چالش ها این است که این هوش مصنوعی می تواند توسط هکرها برای طراحی و اجرای حملات سایبری پیچیده تر و مخرب تر مورد سوء استفاده قرار گیرد..

چالش دیگر تضمین شفافیت و قابلیت اطمینان عملکرد است GPT-4 او هست. به دلیل ماهیت پیچیده این هوش مصنوعی، درک دقیق نحوه عملکرد آن و اطمینان از عدم وجود سوگیری یا خطا در نتایج آن دشوار است..

در نهایت استفاده کنید GPT-4 به منظور افزایش امنیت سایبری، نیازمند قوانین و مقررات مدون و نظارت دقیق برای جلوگیری از سوء استفاده از آن است..

جمع،GPT-4 این یک ابزار قدرتمند با پتانسیل مثبت و منفی در امنیت سایبری است. استفاده مسئولانه و اخلاقی از این هوش مصنوعی و ایجاد چارچوب های قانونی مناسب برای نظارت بر آن برای جلوگیری از استفاده از آن برای اهداف مخرب ضروری است.