هوش مصنوعی – مرز بعدی در امنیت فناوری اطلاعات؟
امنیت همواره یک مسابقه تسلیحاتی بین مهاجم و مدافع بوده است. او جنگ را با چوب شروع می کند، شما نیزه در دست می گیرید. او با یک تفنگ مقابله می کند، شما به یک توپ به مقابله می پردازید. او یک مخزن ایجاد می کند، شما اتم را می شکافید. در حالی که ممکن است عواقب نقض امنیت سایبری سازمانی کنونی به اندازه زمین مخرب نباشد، مسابقه تسلیحاتی قرن ها پیش در حوزه دیجیتال امروزی ادامه دارد.
چالش بعدی برای شرکت‌هایی که به آینده چشم دوخته‌اند باید درک این موضوع باشد که هوش مصنوعی (AI) در حال حاضر– با ابزارهایی مانند PatternEx که بر روی شناسایی حملات سایبری متمرکز شده است و Feedzai برای کشف تقلب در زنجیره ارزش تجارت الکترونیک، وارد صحنه شده است . این تکنولوژی آنقدر سریع در حال توسعه است که هنوز خیلی زود است که بگوییم تاثیر آن انقلابی خواهد بود یا فقط تکامل بعدی را در بر می گیرد.
هوش مصنوعی
برخی از مبشران هوش مصنوعی استدلال می‌کنند که این نیروی تکنولوژی جدید با توجه به مقیاس تغییر، ریسک و فرصت‌هایی که می‌تواند در امنیت فناوری اطلاعات ایجاد کند، می‌تواند همه چیزهای دیگر را به ظاهر بی‌ربط جلوه دهد. این هنر تاریک جدید که جادوگری تکنولوژی به ظاهر جادویی را ارائه می‌کند، در واقع پتانسیل تغییر جهان ما را دارد و – بسته به اینکه چه کسی را باور می‌کنید – یا زندگی را کمی بهتر می‌کند، به دگرگونی کامل اجتماعی منجر می‌شود یا به خود بشریت پایان می‌دهد.
هوش مصنوعی این پتانسیل را دارد که تمام بخش‌های صنعت را مختل کند – این یک رشته از علوم کامپیوتر است که بر ایجاد ابزارهای نرم‌افزاری هوشمند متمرکز است که توانایی‌های ذهنی حیاتی انسان را تکرار می‌کند. طیف وسیعی از برنامه ها شامل تشخیص گفتار، ترجمه زبان، ادراک بصری، یادگیری، استدلال، استنتاج، استراتژی، برنامه ریزی، تصمیم گیری و شهود است.
در نتیجه نسل جدیدی از تکنولوژی های مخرب و هوش مصنوعی، ما وارد چهارمین انقلاب صنعتی می شویم.
اتوماسیون. این چهارمین دوره جدید با ماشین‌های هوشمند خود، با بهبود تصاعدی و همگرایی حوزه‌های علمی و تکنولوژی متعدد مانند داده‌های بزرگ، هوش مصنوعی، اینترنت اشیا (IoT)، سخت‌افزار ابر محاسباتی، اتصال فوق‌العاده، ابر تقویت می‌شود. محاسبات، ارزهای دیجیتال، سیستم های دفتر کل توزیع شده زنجیره بلوکی و محاسبات سیار. نتایج میان‌مدت تا بلندمدت این تکنولوژی‌های نمایی هم‌گرا برای افراد، جامعه، کسب‌وکار، دولت و امنیت فناوری اطلاعات چندان روشن نیست.
سرعت توسعه هوش مصنوعی در حال افزایش است و حتی کسانی که در این بخش هستند نیز شگفت‌آور است. در مارس 2016، سیستم AlphaGo Google DeepMind قهرمان جهانی Go را شکست و سرعت توسعه در یادگیری ماشین را نشان داد – یک تکنولوژی هسته‌ای هوش مصنوعی. بازی رومیزی Go دارای بیش از 560 میلیون حرکت ممکن است – شما نمی توانید تمام قوانین و جابجایی ها را به سیستم آموزش دهید. در عوض، AlphaGo مجهز به یک الگوریتم یادگیری ماشینی بود که آن را قادر می ساخت تا قوانین و حرکات ممکن را از مشاهده هزاران بازی استنتاج کند. همین تکنولوژی اکنون می‌تواند در امنیت فناوری اطلاعات در برنامه‌های مختلف از شناسایی و پیشگیری از تهدیدات خارجی تا شناسایی پیش‌سازهای رفتار غیرقانونی بالقوه در بین کارکنان مورد استفاده قرار گیرد.
وضعیت امنیتی فعلی
در سال 2015 در ایالات متحده، مرکز منابع سرقت هویت اشاره کرد که تقریباً 180 میلیون پرونده شخصی در معرض نقض داده ها قرار گرفته است و یک گزارش نظرسنجی PwC نشان می دهد که 79٪ از سازمان های آمریکایی پاسخ دهنده حداقل یک حادثه امنیتی را تجربه کرده اند.1،2 تحقیقات صنعتی نشان می دهد. در حالی که هکرها از آسیب پذیری ها در عرض چند دقیقه پس از شناخته شدن آنها سوء استفاده می کنند، شرکت ها تقریباً 146 روز طول می کشند تا آسیب پذیری های مهم را برطرف کنند. با میانگین هزینه نقض داده‌ها که 4 میلیون دلار تخمین زده می‌شود، نگرانی‌های فزاینده‌ای در مورد اینکه چگونه شرکت‌ها می‌توانند با هجوم دائمی حملات مخفی‌تر، سریع‌تر و مخرب‌تر امروز و آینده همراهی کنند، وجود دارد.
همانطور که وجود دارد، بسیاری از شرکت ها بیشتر بر روی واکنش به نقض های امنیتی تمرکز می کنند تا جلوگیری از آنها و رویکرد فعلی امنیت شبکه اغلب بیشتر در راستای رعایت استانداردها است تا شناسایی تهدیدهای جدید و در حال تحول. نتیجه یک بازی شکست ناپذیر از ضربات خال است که می‌تواند در آینده شرکت‌ها را تحت تأثیر قرار دهد، مگر اینکه بخواهند ذهنیت، تکنولوژی و تکنیک‌های مورد استفاده هکرها را بپذیرند و تطبیق دهند. و شک بسیار کمی وجود دارد که هکرها در حال توسعه ابزارهای هوش مصنوعی برای افزایش فرکانس، مقیاس، وسعت و پیچیدگی حملات خود هستند – یا به زودی خواهند یافت.
سازمان‌ها در این عصر دیجیتال، حجم بی‌نهایتی از داده‌ها را، هم به صورت داخلی از طریق فرآیندهای خود و هم به صورت خارجی از طریق مشتریان، تامین‌کنندگان و شرکا ایجاد می‌کنند. هیچ انسانی قادر به تجزیه و تحلیل همه این داده ها برای نظارت بر نقض احتمالی امنیت نیست – سیستم های ما به سادگی بسیار گسترده، پر از داده و غیرقابل استفاده شده اند. با این حال، وقتی با ابزارهای مدیریت کلان داده ترکیب می‌شود، هوش مصنوعی در جمع‌آوری حجم وسیعی از داده‌ها و انتخاب الگوها و ناهنجاری‌ها مؤثرتر می‌شود. در واقع، در بیشتر سیستم‌های هوش مصنوعی، هرچه اطلاعات بیشتری به آنها داده شود، هوشمندتر می‌شوند.
پتانسیل آینده
یکی از بزرگترین مزایای امنیتی بالقوه هوش مصنوعی در شناسایی تهدیدات داخلی نهفته است. یک سیستم هوش مصنوعی را تصور کنید که روز به روز، آمدن و رفت و آمد همه کارمندان در دفتر مرکزی شرکت را از طریق بیومتریک و اطلاعات ورود به سیستم تماشا می کند. برای مثال، می‌داند که مدیر مالی هر روز تا ساعت ۱۲ ظهر به طور معمول از فضای ابری خارج می‌شود و به باشگاه بدنسازی شرکت می‌رود، جایی که به طور متوسط ۴۵ دقیقه را در آنجا می‌گذراند. یک روز متوجه یک ناهنجاری می شود – مدیر مالی در ساعت 12:20 بعد از ظهر وارد فضای ابری شده است. هوش مصنوعی به اندازه کافی هوشمند است که موقعیت مکانی او را با این ورود غیرمنتظره مقایسه کند – طبق داده‌های آن، آخرین بار چهره مدیر مالی در هنگام ورود به ورزشگاه اسکن شده است و دیده نشده است که از سالن خارج شود، اما ورود به سیستم ابری از دفتر او سرچشمه گرفته است. هوش مصنوعی این ناهنجاری را تشخیص می‌دهد، اختلاف بین مکان‌های ورود به سیستم و CFO را مرتبط می‌کند، دسترسی ابری به حساب مدیر مالی را قطع می‌کند و اقدامات دفاعی را در برابر حملات سایبری احتمالی آغاز می‌کند. این سیستم همچنین به CFO هشدار می دهد و این مشکل با اولویت بالا را در عرض چند ثانیه به امنیت سایبری انسانی تشدید می کند. داده های مهم شرکت و سوابق مالی به لطف امنیت هوش مصنوعی ایمن هستند.
تصور کنید با ادامه یادگیری و پیش‌بینی رفتار صدها یا هزاران کارمند در سراسر سازمان، توانایی‌های آن چگونه رشد می‌کند، زیرا همین سیستم هوش مصنوعی همچنان به یادگیری و پیش‌بینی رفتار صدها یا هزاران کارمند در سرتاسر سازمان ادامه می‌دهد – به آن کمک می‌کند نقض‌های امنیتی مشابه را نظارت کرده و پیش‌بینی کند.
فراتر از رفتار کارکنان، این برنامه امنیتی هوش مصنوعی همچنین سیستم‌های داخلی شرکت را تماشا می‌کند و نحوه تعامل آنها را یاد می‌گیرد. وقتی اطلاعات مشتری به پایگاه داده شرکت اضافه می‌شود، کشف می‌کند، اطلاعات به‌طور خودکار توسط نرم‌افزار حسابداری برداشت می‌شود و یک فاکتور در عرض 7.5 ثانیه تولید می‌شود. هر گونه انحراف خارج از رفتار عادی به میزان 0.25 ثانیه هوش مصنوعی را تحریک می کند تا هر پیوندی را در این فرآیند بررسی کند و علت را کشف کند. در این مورد، بر اساس آنچه که کشف می‌کند (تأخیر بی‌اهمیت در سیستم)، امنیت هوش مصنوعی به درستی این حادثه را به عنوان یک خطر کم خطر غیرتهدیدکننده اولویت‌بندی می‌کند اما به نظارت برای تاخیرهای مشابه و حفظ سیستم هشدار در مورد این مشکل ادامه خواهد داد.
“این دوره جدید با همگرایی حوزه‌های علمی و تکنولوژی مانند داده‌های بزرگ، هوش مصنوعی، اینترنت اشیاء (IoT)، سخت‌افزار ابر محاسباتی، اتصال فوق‌العاده، رایانش ابری، ارزهای دیجیتال، سیستم‌های دفتر کل توزیع‌شده زنجیره بلوکی و محاسبات موبایل ، توام می باشد.”
حالا بیایید این سناریو را یک قدم جلوتر ببریم – تصور کنید که این سیستم هوش مصنوعی نه تنها رفتار صدها کارمند و شبکه‌های داخلی شرکت را یاد گرفته است، بلکه می‌تواند به طور مداوم از حملات سایبری خارجی بیاموزد. هرچه حملات سایبری بیشتر به هوش مصنوعی انجام شود، داده های بیشتری می تواند تجزیه و تحلیل کند و شبیه به یک سرباز متفکر و منطقی که از طریق کمپین های متعدد نبردها را هدایت کرده است، آموزش و آمادگی بیشتری برای حملات آینده پیدا می کند. این کد کاملاً جدید و خصمانه را بر اساس تجربه گذشته و قرار گرفتن در معرض قبلی با الگوهای مرتبط رفتار حمله شناسایی می کند. همانطور که برای کشف کدهای خصمانه جدید کار می کند، دفاعی ایجاد می کند: و همانطور که کد هوش مصنوعی متخاصم تلاش می کند تا با دفاع های جدید سازگار شود، امنیت هوش مصنوعی به طور مداوم روش های جدیدی را برای مقابله و از بین بردن مهاجم توسعه می دهد.
“هرچه حملات سایبری بیشتر به هوش مصنوعی انجام شود، داده‌های بیشتری می‌تواند تجزیه و تحلیل کند و شبیه به یک سرباز متفکر و منطقی که نبردها را از طریق کمپین‌های متعدد فرماندهی کرده است، آموزش و آمادگی بیشتری برای حملات آینده پیدا می‌کند.”
این سیستم امنیتی بالقوه هوش مصنوعی در آینده نزدیک است – کاملاً یکپارچه در داخل و خارج، غیر تهاجمی برای تجارت روزانه و همیشه آماده و آماده دفاع. این نگهبان دیجیتال نهایی خواهد بود – امیدوارم به همان سرعتی که مهاجمان یاد بگیرند و سازگار شوند.
رویکرد سازمان ها
همانطور که جنگ با چوب در نهایت به سلاح های هسته ای تبدیل شد، نبرد هوش مصنوعی بین سازمان ها و هکرها نیز ادامه خواهد داشت. یکپارچه سازی مستمر در امنیت هوش مصنوعی به یک هنجار تبدیل خواهد شد، شاید تا جایی که حتی توسعه دهندگان نتوانند عملکرد دقیق الگوریتم های امنیتی دائماً در حال یادگیری و تکامل خود را رمزگشایی کنند.
با وجود اینکه همه اینها پیچیده و گران به نظر می رسد، آیا شرکت ها در آینده، به ویژه سازمان های کوچکتر، می توانند بدون هوش مصنوعی زنده بمانند؟
همانطور که ریسک ها بیشتر می شود و شکست ها بزرگتر می شوند، تهدیدات هوش مصنوعی در حال تکامل ممکن است همکاری های بسیار بیشتری را بین شرکت های مختلف تشویق کند. سازمان‌های کوچکتر می‌توانند تحت یک سیستم امنیتی هوش مصنوعی متحد شوند و هزینه‌ها و تعمیر و نگهداری را بین چندین پرداخت‌کننده پراکنده کنند، در حالی که بازیکنان بزرگتر با توانایی مالی و تکنولوژی برای داشتن امنیت هوش مصنوعی خود ممکن است در واقع اطلاعات مهمی در مورد حملات سایبری مبادله کنند. هوش مصنوعی آنها می توانند اطلاعاتی را در مورد حملات سایبری مبادله کنند و از یکدیگر بیاموزند.
“در حالی که سیستم هوش مصنوعی توسط چند متخصص امنیت سایبری نگهداری می شود، کل سیستم امنیتی ساده در دست هر کارمندی است و شانس نقض امنیت را به میزان قابل توجهی چند برابر می کند.”
از طرف دیگر، شرکت‌ها می‌توانند آنقدر غرق شوند که برای مقابله با هک‌های پیچیده‌تر هوش مصنوعی، به سادگی راه‌حل‌های ساده و ارزان‌تر «نیروی بی‌رحم» غیر هوش مصنوعی را انتخاب کنند. راه حل ساده یا گنگ ممکن است مستلزم بررسی ها و رمزهای عبور بیشتر در حساب ها و دستگاه ها یا شاید دستگاه های تقویت شده امنیتی باشد که هر دو هفته یکبار تغییر می کنند. در حالی که افزودن پنج لایه رمزهای عبور پیچیده به هر ورود یا چرخش مداوم از طریق تلفن های هوشمند می تواند از امنیت شرکت محافظت کند، افزایش هزینه های اضافی، ناامیدی کارمندان و اتلاف وقت با اقدامات امنیتی دست و پا گیر ایده آل تلقی نمی شود و می تواند شهرت شرکت را مختل کند. بیشتر مستعد حمله است.
در حالی که یک سیستم هوش مصنوعی بی سر و صدا امنیت را رصد می کند و کارمندان را قادر می سازد تا روی کار خود تمرکز کنند، راه حل ساده بدون هوش مصنوعی بار امنیتی غیرضروری را بر دوش کارمندان وارد می کند – آنها مسئول نگه داشتن این پنج رمز عبور پیچیده و تغییر دستگاه ها در هر دو هفته یکبار خواهند بود. اساس در حالی که سیستم هوش مصنوعی توسط چند متخصص امنیت سایبری نگهداری می شود، کل سیستم امنیتی ساده در دست هر کارمندی است و شانس نقض امنیت را به میزان قابل توجهی چند برابر می کند. در آینده، این راه حل ساده بدون هوش مصنوعی ممکن است به یک استراتژی دفاعی برای بقا تبدیل شود تا یک کمپین تهاجمی تطبیقی برای یک تجارت پیشرو و پر رونق.
نقش انسان ها
البته، در این مرحله یک سوال طبیعی وجود دارد که می‌توان پرسید: اگر هوش مصنوعی سریع‌تر، باهوش‌تر است و دائماً برای انجام بهتر کار خود را تطبیق می‌دهد، چرا حتی امنیت سایبری انسان را به زحمت بیاندازیم؟» امروزه، امنیت هوش مصنوعی همچنان باید از انسان‌ها بیاموزد و اگرچه ممکن است روزی به جایی برسد که دیگر نیازی به دخالت متخصص نداشته باشد، آن روز حداقل چند سال بعد باقی می‌ماند. علاوه بر این، بسته به اینکه نظارت و شهود انسانی در امنیت چقدر ارزشمند است، آن روز ممکن است هرگز رخ ندهد. سیستم‌های امنیتی هوش مصنوعی در حال حاضر به انسان‌ها نیاز دارند تا الگوریتم‌های آغازگر خود را بنویسند و داده‌ها، آموزش‌ها و بازخوردهای لازم را برای راهنمایی یادگیری خود ارائه دهند. انسان ها در حال حاضر بخش مهمی از استقرار هوش مصنوعی هستند و با پیشرفت امنیت هوش مصنوعی فراتر از این مرحله نوپا، نقش انسان در هوش مصنوعی نیز تکامل خواهد یافت.
همانطور که سازمان‌ها به طور فزاینده‌ای فرآیندها را دیجیتالی می‌کنند و مقادیر شگفت‌انگیزی از داده‌های حساس را جمع‌آوری می‌کنند، اهمیت جدیدی به نقش معماران انسانی و متفکران سیستم‌های امنیتی هوش مصنوعی داده می‌شود. هرگز داده‌های زیادی به این راحتی برای حمله قابل دسترسی نبوده است و حتی حملات کوچکی که داده‌های به ظاهر بی‌ضرر را جمع‌آوری می‌کنند، می‌توانند منجر به نقض فاجعه‌بار امنیتی شوند. توسعه دهندگان امنیت هوش مصنوعی از نظر اهمیت شبیه به بازرسان تسلیحات هسته ای خواهند شد – افراد بسیار قابل اعتمادی که تحت بررسی های گسترده سوابق و آموزش های فشرده، بررسی و اعتبار سنجی قرار گرفته اند. آنها نه تنها امنیت هوش مصنوعی را ایجاد می کنند، بلکه نظارت و راهنمایی بصری را در فرآیند آموزش ارائه می دهند و خط جدایی ناپذیر دفاع از امنیت سایبری خواهند بود.
امنیت هوش مصنوعی بسیار فراتر از توانایی‌های انسانی خواهد بود و سازمان‌ها و کارشناسان امنیت سایبری را از وظیفه غیرممکن مراقبت دائمی رها می‌کند و به آنها اجازه می‌دهد تا بدون ایجاد وقفه در جریان کار روزانه از حملات آینده جلوگیری کنند. سیستم امنیتی هوش مصنوعی فردا یاد می‌گیرد، خود را بهبود می‌بخشد و به‌طور محتاطانه در پشت صحنه اجرا می‌کند – به‌طور هوشمندانه تهدیدها را رصد، اولویت‌بندی و از بین می‌برد: تا ابد در حال تبدیل شدن به سلاح پیشرفته بعدی در تجهیزات امنیت سایبری.