آنتروپیک مدل قدرتمندتر از Mythos را به دلایل امنیتی عرضه نمیکند
توسط: شرکت آنتروپیک در جدیدترین گزارش ارزیابی ریسک خود اعلام کرده برنامهای برای عرضه عمومی مدل داخلی موسوم به «Model 2» ندارد؛ مدلی که گفته میشود از نسخه پرچمدار Mythos نیز قدرتمندتر است. ارزیابیهای آنتروپیک نشان داده که هرچند احتمال وقوع شدیدترین آسیبها از سوی مدلها همچنان در سطح پایینی قرار دارد، اما این میزان نسبت به گزارش قبلی با افزایش همراه بوده است.
آنتروپیک برآورد کلی خود از ریسک ناهماهنگی (Misalignment) یا همان خطر همسو نبودن تصمیمات مدل با اهداف و امنیت انسانی را در شرایط حساس از سطح «بسیار کم» به «کم» تغییر داده است. این شرکت همچنین نشانههایی از شتاب در توانایی مدلها برای تحقیقوتوسعه خودکار را مشاهده کرده است؛ قابلیتی که میتواند باعث افزایش سرعت پیشرفتهای فنی شود اما درعینحال در صورت سوءاستفاده، خطرات قابلتوجهی به همراه خواهد داشت.
آنتروپیک در توضیح وضعیت این سیستم اعلام کرده که به عنوان بخشی از فرایند استاندارد تحقیقوتوسعه خود، نسخههای آزمایشی متعددی از مدلها را آموزش داده و ارزیابی میکند که قصد عرضه آنها را ندارد و Model 2 نیز یکی از همین مدلها محسوب میشود.
توانمندیهای مدل جدید آنتروپیک و رویکرد رقبا در ارزیابی خطرات هوش مصنوعی
طبق گزارش منتشرشده، مدل Model 2 در انجام بسیاری از وظایف داخلی شرکت عملکرد بسیار بهتری نشان داده است. آنتروپیک درحالحاضر از این مدل و نسخه Mythos 5 بهطور گسترده برای کدنویسی، امور عاملمحور و تولید داده استفاده میکند. البته این شرکت تأکید کرده که جهش عملکردی Model 2 به بزرگی جهشِ Opus 4.6 به Mythos نیست و فعلاً هیچ برنامهای هم برای عرضه عمومی آن وجود ندارد.
این تصمیم در شرایطی اتخاذ شده که شرکت OpenAI نیز عرضه مدل آینده خود به نام Astra را به دلیل عدم اطمینان از مهار قابلیتهای سایبری آن با تأخیر مواجه کرده است. به گفته کارشناسان، عدم توقف روند توسعه داخلی در آنتروپیک در شرایطی که سایر بازیگران سرعت خود را کنترل میکنند، میتواند این شرکت را در موقعیت پیشتازی برای رسیدن به هوش جامع مصنوعی یا AGI قرار دهد.
درعینحال، گزارش آنتروپیک نشان میدهد که سنجش دقیق توانمندیها و خطرات مدلهای جدید پیچیدهتر شده است؛ زیرا ارزیابیهای قبلی که مبتنی بر وظایف مشخصی بودهاند، دیگر نمیتوانند میزان افزایش واقعی قابلیتهای مدلها را بهطور کامل منعکس کنند.
