تحلیل‌های اخیر نشان می‌دهد که سیستم‌های یادگیری ماشینی متن‌باز در برابر تهدیدات امنیتی آسیب‌پذیر‌تر از سیستم‌های بالغ‌تر مانند سرور‌های وب هستند. با گسترش کاربرد یادگیری ماشین در صنایع گوناگون، ضرورت ایمن‌سازی این سیستم‌ها به شدت احساس می‌شود، زیرا صدمه‌پذیری‌ها می‌توانند منجر به دسترسی غیر‌مجاز، سرقت داده‌ها و اختلال در عملیات شوند.

به گزارش سرویس امنیت رسانه اخبار فناوری تکنا با استناد به مجله سلوادور، در چند ماه گذشته ۲۲ آسیب‌پذیری در ۱۵ پروژه متن‌باز یادگیری ماشین شناسایی شده است. این آسیب‌پذیری‌ها در دو دسته اصلی قرار می‌گیرند تهدیداتی که مؤلفه‌های سمت سرور را هدف قرار می‌دهند و امکانات افزایش امتیاز در چارچوب‌های یادگیری ماشین.

آسیب‌پذیری‌های شناسایی‌شده بر مؤلفه‌های کلیدی که به‌طور گسترده در گردش کار‌های یادگیری ماشین به کار می‌روند تأثیر می‌گذارند. این موضوع به مهاجمان اجازه می‌دهد تا از ابزار‌هایی که به دلیل انعطاف‌پذیری در میان متخصصان یادگیری محبوب هستند سوءاستفاده کنند، به فایل‌های حساس دسترسی پیدا کنند یا نفوذ خود را در محیط‌های یادگیری گسترش دهند.

یک نمونه بارز مربوط به ابزار محبوب وی‌ان‌دی‌بی (WANDB) است که برای ردیابی و تجسم معیار‌های مدل‌های یادگیری ماشین به کار می‌رود. حفره پیمایش دایرکتوری در WANDB به کاربران با امتیازات اجازه می‌دهد تا به فایل‌های دلخواه در کل سامانه فایل دسترسی پیدا کنند.

این نقص ناشی از اعتبار‌سنجی نادرست ورودی هنگام مدیریت مسیر‌های فایل است و به مهاجمان امکان می‌دهد تا به فایل‌های حساس مانند کلید‌های API ادمین یا سایر اطلاعات محرمانه دست یابند. این نقض می‌تواند به افزایش امتیاز و اعطای دسترسی غیر‌مجاز به منابع منجر شده و امنیت تمام خط لوله یادگیری را به خطر بیندازد.

ابزار ام‌ال‌فلو برای مدیریت خط لوله نیز تحت تأثیر یک آسیب‌پذیری بحرانی قرار دارد که سیستم‌های کنترل دسترسی آن را تهدید می‌کند. این نقص به مهاجمان با حداقل امتیازات اجازه می‌دهد تا مجوز‌های خود در یک استقرار مدیریت شده از افزایش دهند و به محتوای محدود از جمله اسرار محرمانه یا فایل‌های مدل دسترسی پیدا کنند.

مسئله کنترل دسترسی در این سامانه را در معرض خطرات قابل توجه‌ی قرار می‌دهد، زیرا افزایش امتیاز می‌تواند به مهاجم اجازه دهد تا خط لوله‌های یادگیری را دستکاری کند، داده‌های مدل را جعل کند یا به داده‌های عملیاتی حساس دسترسی پیدا کند و در نتیجه بر محیط‌های تولیدی وابسته به این خط لوله‌ها تأثیر بگذارد.

آسیب‌پذیری جدی دیگری تحت عنوان تزریق فرمان در لنس‌دی‌بی — یک راه‌حل ذخیره‌سازی داده بهینه برای برنامه‌های هوش مصنوعی — شناسایی شده است. این آسیب‌پذیری به مهاجمان اجازه می‌دهد تا با استغلال نحوه مدیریت واردات مجموعه‌داده‌های خارجی توسط، دستورات دلخواه را اجرا کنند.

به دلیل پاک‌سازی نادرست فرمان، یک مهاجم می‌تواند بالقوه اجرای کد از راه دور را انجام دهد و امنیت هم پایگاه داده و هم هر برنامه‌ای که به آن متصل است را به خطر بیندازد.

یکی دیگر از آسیب‌پذیری‌های قابل توجه در وانا‌ای‌آی — ابزاری برای تشکیل و تجسم پرس‌و‌جوی SQL با زبان طبیعی — مشاهده شده است. تزریق اعلان به مهاجمان اجازه می‌دهد تا کد مخرب را در اعلان‌های SQL تزریق کنند که این ابزار در ادامه آن را پردازش می‌کند. این حفره می‌تواند به اجرای کد از راه دور منجر شده و به بازیگران مخرب اجازه دهد تا ویژگی تجسم SQL به نمودار AI را هدف قرار دهند، تجسم‌ها را دستکاری کنند، تزریق SQL انجام دهند یا داده‌ها را خارج کنند.

دگس‌تر — ابزاری برای مدیریت خط لوله‌های داده — شامل چندین آسیب‌پذیری از جمله دسترسی غیر‌مجاز به پوسته، نشت فایل‌های دلخواه و اعتبار‌سنجی ضعیف مسیر است. این مشکلات به مهاجمان اجازه می‌دهد تا کنترل خط لوله‌های داده را به دست بگیرند، پیکر‌بندی‌های حساس را افشا کنند یا حتی دستورات مخرب را اجرا کنند.

مشکلات فوق ترکیبی هستند که خطر افزایش امتیاز و نقض یکپارچگی داده‌ها را افزایش می‌دهند و امنیت و پایداری خط لوله‌های یادگیری را به چالش می‌کشند.

با به‌دست آوردن دسترسی ادمین به پایگاه‌های داده یا رجیس‌تری‌های یادگیری ماشین، مهاجمان می‌توانند کد مخرب را در مدل‌ها جا‌سازی نمایند و آن‌ها را به دروازه‌های پشتی تبدیل کنند که هنگام بارگذاری مدل فعال می‌شوند. این کار می‌تواند فرآیند‌های پایین‌دستی را به خطر بیندازد، زیرا مدل‌ها توسط تیم‌های گوناگون و خط لوله‌های CI/CD به کار می‌روند.

همچنین مهاجمان می‌توانند داده‌های حساس را خارج کنند یا حملات تسمم‌سازی مدل را برای کاهش عملکرد مدل یا دستکاری خروجی‌ها انجام دهند.

نتایج یک شکاف عملیاتی در امنیت را برجسته می‌سازند؛ بسیاری از سازمان‌ها ادغام قوی از روش‌های امنیتی AI/ML با استراتژی‌های گسترده‌تر امنیت سایبری ندارند و این شرایط نقاط کور بالقوه‌ای ایجاد می‌کند.

با دقت به پیشرفت‌های قابل مشاهده در حوزه، حفاظت از چارچوب‌ها، مجموعه‌داده‌ها و زیرساخت‌هایی که این نوآوری‌ها را تقویت می‌کنند، از اهمیتی بالایی برخوردار است.