شرکت آمریکایی «آنتروپیک»، سازنده ربات گفتگوی «کلود»، اعتراف کرد نقص در سازوکارهای حفاظتی آزمایش‌های امنیت سایبری این شرکت باعث شد برخی مدل‌های هوش مصنوعی آن به اینترنت آزاد دسترسی پیدا کرده و بدون مجوز به سامانه‌های سه نهاد نفوذ کنند.
آنتروپیک در ماه سرطان اعلام کرده بود سه مدل از هوش مصنوعی این شرکت در حوادثی جداگانه توانسته‌اند از محیط آزمایشی خارج شوند و به شبکه آزاد اینترنت دسترسی پیدا کنند. این مدل‌ها سپس اقدام به نفوذ به سامانه‌های سه نهاد کردند که نام آنها اعلام نشده است.
این شرکت در توضیح تازه خود، این اتفاق را ناشی از «شکست در امنیت عملیاتی» دانست و تأکید کرد مدل‌هایش هنوز به‌طور کامل با ارزش‌ها و اهداف انسانی همسو نیستند.

آنتروپیک اعلام کرد آزمایش‌ها عمداً بدون برخی لایه‌های حفاظتی انجام شده بود تا توانایی مدل‌ها در شرایط دشوار بررسی شود، اما سوءتفاهم با شرکت خارجی مجری آزمایش‌ها باعث شد مدل‌ها به اینترنت واقعی دسترسی پیدا کنند؛ در حالی که قرار بود در محیطی کاملاً ایزوله باقی بمانند.
پس از این حوادث، آنتروپیک برخی آزمایش‌های امنیت سایبری داخلی و خارجی خود را موقتاً متوقف و سپس تدابیر حفاظتی جدیدی اجرا کرد. از جمله این اقدامات، ایجاد سامانه هشدار هنگام تلاش مدل برای خروج از محیط آزمایش یا اتصال به اینترنت و افزایش سطح جداسازی محیط‌های مورد استفاده در آزمایش‌های پرخطر است. شرکت‌های خارجی نیز ملزم به رعایت استانداردهای امنیتی مشخص و ممنوعیت دسترسی مدل‌ها به اینترنت شده‌اند.

آنتروپیک همچنین اعلام کرد تنظیمات معیوب در فرایند آموزش، یکی از عوامل مهم رفتارهای ناسازگار مدل‌ها بوده است. این شرکت دو مشکل اصلی را شناسایی کرده است: نخست، مدل‌ها با وجود مشاهده نشانه‌هایی از اتصال به اینترنت، ممکن است همچنان تصور می‌کردند در محیط شبیه‌سازی‌شده قرار دارند؛ دوم، برخی مدل‌ها برای رسیدن به هدف تعیین‌شده در آزمایش، آمادگی انجام اقدامات مخرب در اینترنت را نشان دادند.
این شرکت همچنین در تلاش است با پدیده‌ای موسوم به «هک پاداش» مقابله کند؛ وضعیتی که در آن مدل راهی برای دریافت پاداش پیدا می‌کند، بدون اینکه وظیفه تعیین‌شده را به شیوه موردنظر انجام دهد.

آلن وودوارد، استاد امنیت سایبری دانشگاه «سری»، گفت این حوادث نشان می‌دهد سرعت توسعه آنتروپیک از توانایی سامانه‌های کنترل کیفیت و امنیت این شرکت برای همگامی با آن فراتر رفته است.
این اعترافات در حالی مطرح شده که آنتروپیک برای ورود به بازار بورس آماده می‌شود و ارزش‌گذاری احتمالی آن می‌تواند به حدود دو تریلیون دلار برسد.

کد (5)