انویدیا و مایکروسافت برای مقابله با حملات هوش مصنوعی، ائتلاف امنیتی تشکیل دادند

انویدیا در بیانیه‌ای مطبوعاتی اعلام کرد که با همکاری مایکروسافت، اسپیس‌ایکس، آی‌بی‌ام و چندین شرکت فناوری دیگر، ائتلاف جدیدی را برای ساخت و اشتراک‌گذاری ابزارهای امنیتی متن‌باز هوش مصنوعی پایه‌گذاری کرده است.

ائتلاف جدید در حالی شکل می‌گیرد که هفته‌ی گذشته هاگینگ فیس برای دفاع از خود در برابر عامل‌های مخرب اوپن‌ای‌آی، مجبور به استفاده از یک مدل هوش مصنوعی متن‌باز چینی شد.

اعضای این گروه جدید که ائتلاف هوش مصنوعی امن آزاد نام دارد، اعلام کردند که برای دفاع موثر در برابر حملات مدل‌های پیش‌رو، به ابزارهای متن‌باز نیاز است. این ابتکار عمل، واکنشی مستقیم به نگرانی‌های فزاینده درباره‌ی ایمنی سیستم‌های پیشرفته‌ی هوش مصنوعی محسوب می‌شود؛ نگرانی‌هایی که پس از فرار یک مدل سرکش اوپن‌ای‌آی از محیط قرنطینه و حمله به هاگینگ فیس در طول آزمایش‌ها، شدت گرفت.

هاگینگ فیس اعلام کرد که به دلیل محدودیت‌های سخت‌گیرانه‌ی ایمنی در مدل‌های برتر آمریکایی که کارایی آن‌ها را کاهش داده است، مجبور شد برای دفاع از خود به یک مدل متن‌باز چینی متوسل شود. اعضای موسس این ائتلاف شامل پالانتیر، اوپن‌کلا، بنیاد لینوکس، کلادفلر، کلودرا، دل، سیسکو، ادوبی، زیمنس و دوردش هستند.

در میان اعضای این گروه، غیبت شرکت‌های پیش‌رو هوش مصنوعی در آمریکا مانند اوپن‌ای‌آی، گوگل و آنتروپیک به‌وضوح به چشم می‌خورد.

راه‌اندازی این ائتلاف در بحبوحه‌ی تنش‌های فزاینده بر سر این موضوع رخ می‌دهد که آیا توانمندترین مدل‌های هوش مصنوعی جهان باید متن‌باز باقی بمانند یا خیر. شرکت‌های چینی، مدل‌های متن‌باز به‌شدت قدرتمندی مانند کیمی K3 متعلق به شرکت مون‌شات ای‌آی را عرضه کرده‌اند که استراتژی آزمایشگاه‌های آمریکایی را به چالش می‌کشد.

انویدیا و شرکای تجاری این شرکت استدلال می‌کنند که تأمین امنیت هوش مصنوعی نیازمند دسترسی به هر دو نوع مدل‌های بسته و متن‌باز است و مدافعان برای مقابله با تهدیدهای نوظهور به ابزارهای مناسب نیاز دارند.