انسانها فرصت کوتاهی برای کنترل هوش مصنوعی دارند
توسط: آیا روزی میرسد که مدلهای هوش مصنوعی بسیار بیشتر از آنچه ما درباره آنها میدانیم، ما را بشناسند؟ «اریک هورویتز» (Eric Horvitz)، مدیر ارشد علمی مایکروسافت، و «رابرت وست» (Robert West)، محقق دانشگاه EPFL سوئیس، با انتشار مقالهای هشدار دادند که سرعت پیشرفت سیستمهای هوش مصنوعی درحال عبور از توانایی درک ما است. آنها معتقدند که ما با یک پنجره زمانی محدود برای درک این فناوری مواجه هستیم و اگر زود اقدام نکنیم، احتمالاً برای همیشه کنترل اوضاع را از دست خواهیم داد.
براساس مقاله هورویتز و وست در ژورنال Science، پیچیدگی فناوریهای جدید با سرعتی بهمراتب بیشتر از توانایی شناخت انسان درحال افزایش است. نگرانی اصلی هورویتز و وست این نیست که ما حتماً باید تکتک خطوط کد یا تمام پارامترهای پنهان در این سیستمها را درک کنیم؛ بلکه دغدغه آنها حفظ سطحی از بینش است که برای نظارت معنادار بر سیستمهای هوش مصنوعی ضروری است.
به اعتقاد این دو دانشمند، حتی درک نسبی هم میتواند برای شناسایی زودهنگام خطرات مفید باشد؛ دقیقاً پیش از آنکه این خطرات آنقدر عمیق شوند که دیگر راهی برای جبران آنها وجود نداشته باشد.
یکی از بزرگترین مسائل فعلی این است که ابزارهای هوش مصنوعی بهطور فزایندهای برای طراحی و بهبود سایر سیستمهای هوش مصنوعی استفاده میشوند. با رواج این چرخههای توسعه بسته، درک انسان از فرایندهای اساسی آنها محدود میشود. هورویتز و وست دراینباره میگویند این سیستمها در فضاهای با ابعاد بالاتر از فهم انسان توسعه مییابند و این موضوع نوعی ابهام ایجاد میکند؛ به این معنا که نتایج نهایی قابل مشاهده هستند، اما توضیح مکانیسمهای تولیدکننده آنها بسیار دشوار شده است.
کنترل هوش مصنوعی توسط انسان یا برعکس
نگرانی مهم دیگر، افزایش ارتباط میان ایجنتهای هوش مصنوعی در محیطهای به همپیوسته و بسیار پیچیده است. به گفته محققان، ارتباطات میان این سیستمها میتواند به تدریج از الگوهای زبانی و استدلالی آشنا برای انسان فاصله بگیرد.
با گسترش این تعاملات در شبکههای بزرگتر، درک چگونگی شکلگیری تصمیمات برای ناظران انسانی بسیار دشوارتر خواهد شد. این انحراف از الگوهای انسانی، پدیدهای ایجاد میکند که هورویتز و وست آن را ابهام تعاملی مینامند. در این حالت، اگرچه رفتار ماشینها در اکوسیستم خودشان کاملاً منسجم و منطقی است، اما تفسیر معنادار آنها برای انسانها سختتر میشود.
هورویتز و وست توجه ویژهای به ایجنتهای هوش مصنوعی تطبیقی دارند که در دورههای طولانی فعال میمانند و در فعالیتهای روزمره ما مدام ادغام میشوند. این سیستمها از طریق تعاملات مکرر میتوانند مدلهای بسیار دقیقی از رفتار، ترجیحات، انگیزهها، ترسها و تمایلات اجتماعی ما ایجاد کنند. آنها در مقاله خود تأکید کردند که این سیستمها ترجیحات و حتی محرکهای پنهانی مانند ترس، عدم قطعیت و نیاز به تعلق اجتماعی ما را نیز به دقت ثبت و مدلسازی میکنند. این مسئله یک عدم تقارن روبهرشد ایجاد میکند؛ به این صورت که ماشینها دانش عمیقتری درباره انسانها به دست میآورند، درحالیکه درک انسان از آنها در مسیر معکوس حرکت میکند و کاهش مییابد.
این خطر نیز وجود دارد که مدلهای هوش مصنوعی به جای تکیه بر فرایندهای استدلالی خود، پاسخهایی تولید کنند که صرفاً بازتابدهنده انتظارات ارزیابان انسانی باشد. به همین دلیل استانداردها و بنچمارکهای قدیمی ارزیابی حتماً باید با رویکردهای جدید تکمیل شوند. هورویتز و وست هشدار میدهند که با ادغام عمیقتر این سیستمها در زندگی ما، ممکن است انسانها به تدریج علاقه خود را به زیر سؤالبردن تصمیمات هوش مصنوعی از دست بدهند.
