عضو هیئت‌مدیره «اوپن‌ای آی»: برای کنترل هوش مصنوعی آماده نیستیم

همشهری آنلاین، فرخنده رفائی: هوش مصنوعی دیگر فقط ابزاری برای پاسخ دادن به پرسش‌ها یا تولید محتوا نیست و مدل‌های جدید می‌توانند مجموعه‌ای از وظایف پیچیده را با استقلال بیشتری انجام دهند. این قابلیت، ایمنی این فناوری را از یک نگرانی نظری به مسئله‌ای جدی برای شرکت‌های سازنده تبدیل کرده است.

به گزارش گاردین، پل کریستیانو، پژوهشگر سابق OpenAI و عضو جدید هیئت‌مدیره این شرکت که مواضعی انتقادی درباره ایمنی هوش مصنوعی دارد، گفته است که سرعت پیشرفت قابلیت‌های هوش مصنوعی می‌تواند در آینده نزدیک خطر از دست رفتن کنترل بر این فناوری را به سطحی فاجعه‌بار برساند. او معتقد است صنعت هوش مصنوعی، از جمله خود اوپن‌ای‌آی، هنوز برای کاهش این خطر به سطح قابل‌قبولی نرسیده است.

کریستیانو از چهره‌های شناخته‌شده در حوزه «هم‌ترازی هوش مصنوعی» است؛ حوزه‌ای که هدف آن اطمینان از رفتار سیستم‌های هوش مصنوعی مطابق با اهداف و ارزش‌های مورد نظر انسان‌هاست. او پیش‌تر مسئول تیم هم‌ترازی مدل‌ها در اوپن‌ای‌آی بود و بعد از ترک این شرکت، مرکز تحقیقاتی Alignment Research Center را تأسیس کرد.

ورود او به هیئت‌مدیره اوپن‌ای‌آی در شرایطی اتفاق افتاده که نگرانی درباره رفتارهای غیرقابل‌پیش‌بینی مدل‌های پیشرفته افزایش یافته است. شرکت اوپن‌ای‌آی اخیرا اعلام کرده بود که صدها عامل هوش مصنوعی در جریان یک تمرین آموزشی رفتارهایی مستقل از جمله تلاش برای هک کردن و همکاری آنلاین از خود نشان داده‌اند.

بیشتر بخوانید:

• وقتی سازندگان از محصول خود می‌ترسند! | تناقض عجیب در قلب انقلاب هوش مصنوعی
• هشدار غول‌های فناوری درباره موج حملات سایبری هوش مصنوعی
• اپل شواهد تازه‌ای از سرقت اطلاعات محرمانه برای OpenAI ارائه کرد

این نگرانی تنها به اوپن‌ای‌آی محدود نیست. جیکوب کاکسون، پژوهشگری که سابقه فعالیت در OpenAI و Anthropic را دارد، نیز همین هفته از آنتروپیک استعفا کرد و درباره سرعت توسعه هوش مصنوعی و بی‌توجهی احتمالی به مسائل ایمنی هشدار داد. او معتقد است رقابت شدید میان شرکت‌های بزرگ فناوری برای ساخت مدل‌های قدرتمندتر می‌تواند توجه به ایمنی را تحت‌الشعاع قرار دهد.

بحث اصلی در این نگرانی‌ها، ربات‌های شبیه فیلم‌های علمی‌تخیلی نیست. مسئله این است که مدل‌های آینده ممکن است بتوانند اهداف پیچیده‌ای را به‌صورت مستقل دنبال کنند و انسان‌ها درک کاملی از روش تصمیم‌گیری یا اقدامات آنها نداشته باشند.

کریستیانو پیش‌تر نیز درباره خطرهای احتمالی هوش مصنوعی بسیار قدرتمند هشدار داده بود و اکنون حضور او در ساختار مدیریتی اوپن‌ای‌آی این موضوع را جدی‌تر کرده است.

اوپن‌ای‌آی و دیگر شرکت‌های فعال در حوزه هوش مصنوعی همواره بر اهمیت ایمنی تأکید کرده‌اند، اما منتقدان می‌گویند سرعت توسعه مدل‌ها باید با سرعت پیشرفت سازوکارهای نظارتی و ایمنی هماهنگ باشد.

در واقع پرسش اصلی دیگر فقط این نیست که هوش مصنوعی «چقدر قدرتمند خواهد شد»، بلکه این است که انسان تا چه اندازه می‌تواند در زمانی که این سیستم‌ها قدرتمندتر می‌شوند، رفتار آنها را پیش‌بینی و کنترل کند.