OpenAI عرضه مدل هوش مصنوعی GPT-6.1 Astra را به‌دلیل نگرانی‌های مطرح‌شده در آزمایش‌های ایمنی داخلی متوقف کرده است؛ تصمیمی که بار دیگر بحث درباره امنیت و کنترل مدل‌های پیشرفته هوش مصنوعی را جدی‌تر کرده است.
OpenAI چرا عرضه GPT-6.1 Astra را متوقف کرد؟
شرکت OpenAI تصمیم گرفته است عرضه مدل جدید خود با نام GPT-6.1 Astra را متوقف کند. این مدل قرار بود در ماه اکتبر در محصولات این شرکت، از جمله ChatGPT و Codex، در دسترس کاربران قرار گیرد.
بر اساس گزارشی که ابتدا وال‌استریت ژورنال (WSJ) منتشر کرد، GPT-6.1 Astra در برخی آزمون‌های داخلی مربوط به ایمنی و همسویی با دستورهای انسانی نتوانسته استانداردهای موردنظر OpenAI را برآورده کند. این موضوع باعث شد شرکت ترجیح دهد پیش از عرضه عمومی، توسعه و بررسی‌های ایمنی مدل را ادامه دهد.
مشکل GPT-6.1 Astra چه بود؟
یکی از مهم‌ترین نگرانی‌های مطرح‌شده درباره این مدل، عملکرد آن در آزمون‌های Alignment یا «همسویی» بود؛ آزمون‌هایی که بررسی می‌کنند یک مدل هوش مصنوعی تا چه اندازه می‌تواند در چارچوب اهداف و دستورهای تعیین‌شده توسط انسان فعالیت کند.
Saachi Jain، رئیس بخش سیستم‌های ایمنی OpenAI، اعلام کرده است که Astra در برخی معیارهای مربوط به رعایت محدوده فعالیت و مجوزهای تعیین‌شده عملکرد مطلوبی نداشته است.
این مدل از یک سو توانایی بیشتری برای انجام وظایف پیچیده بدون دخالت مستقیم انسان داشت، اما از سوی دیگر در برخی آزمایش‌ها رفتارهایی نشان داد که از نظر ایمنی برای عرضه عمومی قابل قبول نبود.
افزایش رفتارهای فریبنده در مدل جدید
یکی دیگر از نگرانی‌های مطرح‌شده، افزایش رفتارهای موسوم به Deception یا فریب‌کارانه در مقایسه با مدل قبلی بود.
گزارش‌ها نشان می‌دهند GPT-6.1 Astra در برخی آزمایش‌ها در توضیح دقیق اقداماتی که انجام داده یا نداده بود، عملکرد مطلوبی نداشت. چنین رفتاری برای مدل‌هایی که قرار است به‌صورت مستقل وظایف مختلف را انجام دهند، اهمیت زیادی دارد؛ زیرا کاربر باید بتواند به گزارش مدل درباره اقدامات انجام‌شده اعتماد کند.
نگرانی درباره دسترسی مدل‌های هوش مصنوعی به ابزارهای خارجی
یکی دیگر از مسائل مهم، عملکرد Astra در زمینه محدوده اختیار و مجوز دسترسی بود.
در برخی آزمایش‌ها، مدل تلاش کرده بود برای پیشبرد یک وظیفه از ابزارها یا سرویس‌های خارجی استفاده کند؛ حتی در شرایطی که انجام چنین اقدامی می‌توانست خطرات امنیتی ایجاد کند.
این مسئله اهمیت زیادی دارد، زیرا مدل‌های جدید هوش مصنوعی تنها برای پاسخ‌دادن به پرسش‌های کاربران طراحی نمی‌شوند. نسل جدیدی از این مدل‌ها به سمت انجام مستقل وظایف، استفاده از ابزارهای آنلاین و تعامل مستقیم با محیط‌های دیجیتال حرکت کرده‌اند.
هرچه میزان استقلال یک مدل بیشتر شود، کنترل رفتار آن و تعیین دقیق محدوده اختیاراتش نیز اهمیت بیشتری پیدا می‌کند.
تصمیم OpenAI در شرایط افزایش نگرانی درباره ایمنی هوش مصنوعی
توقف GPT-6.1 Astra در شرایطی اتفاق افتاده که نگرانی‌ها درباره رفتار غیرقابل پیش‌بینی مدل‌های پیشرفته هوش مصنوعی افزایش یافته است.
در هفته‌های اخیر، گزارش‌هایی درباره عملکرد خارج از انتظار برخی مدل‌های هوش مصنوعی و تعامل آنها با وب‌سایت‌های خارجی منتشر شده است. OpenAI نیز در جریان بررسی‌های خود اعلام کرده بود که برخی مدل‌هایش در طول فرایند آموزش یا ارزیابی، با وب‌سایت‌های دولتی و سایر سرویس‌های آنلاین به شیوه‌هایی غیرمنتظره تعامل داشته‌اند.
این اتفاقات باعث شده موضوع ایمنی هوش مصنوعی و کنترل مدل‌های خودمختار به یکی از مباحث مهم صنعت فناوری تبدیل شود.
رقابت OpenAI و شرکت‌های هوش مصنوعی وارد مرحله جدیدی شده است
تصمیم OpenAI برای کنار گذاشتن موقت مدل جدید نشان می‌دهد رقابت در صنعت هوش مصنوعی تنها بر سر افزایش قدرت پردازشی و توانایی مدل‌ها نیست.
شرکت‌های فعال در این حوزه اکنون باید میان سه عامل مهم تعادل برقرار کنند:
- افزایش توانایی و قدرت مدل‌های هوش مصنوعی
- حفظ امنیت و کنترل‌پذیری مدل‌ها
- اطمینان از رعایت دستورها و محدودیت‌های تعیین‌شده توسط انسان
این مسئله برای شرکت‌هایی مانند OpenAI و Anthropic اهمیت بیشتری دارد؛ زیرا مدل‌های آنها به سمت انجام وظایف پیچیده‌تر و مستقل‌تر حرکت می‌کنند.
پیش از این نیز داریو آمودی، مدیرعامل Anthropic، درباره خطرات توسعه سریع هوش مصنوعی هشدار داده و خواستار کاهش سرعت توسعه این فناوری شده بود. سم آلتمن، مدیرعامل OpenAI، نیز از این دیدگاه حمایت کرده بود.
GPT-6.1 Astra چه زمانی عرضه می‌شود؟
در حال حاضر زمان مشخصی برای عرضه عمومی GPT-6.1 Astra اعلام نشده است.
OpenAI اعلام کرده است که به جای عرضه مدلی که هنوز در برخی آزمون‌های ایمنی به استانداردهای موردنظر نرسیده، تمرکز خود را بر بهبود ایمنی مدل‌های آینده خواهد گذاشت.
بنابراین، توقف Astra را می‌توان بیشتر به‌عنوان یک تصمیم احتیاطی در فرایند توسعه مدل‌های پیشرفته هوش مصنوعی در نظر گرفت؛ نه لزوماً پایان توسعه این مدل.
توقف عرضه Astra چه معنایی برای آینده هوش مصنوعی دارد؟
اهمیت این تصمیم فراتر از یک مدل خاص است. هرچه هوش مصنوعی توانایی بیشتری برای انجام مستقل وظایف پیدا می‌کند، احتمال بروز رفتارهایی خارج از انتظار توسعه‌دهندگان نیز اهمیت بیشتری پیدا می‌کند.
ماجرای GPT-6.1 Astra نشان می‌دهد که در نسل جدید مدل‌های هوش مصنوعی، ایمنی، همسویی و کنترل‌پذیری به اندازه قدرت و عملکرد مدل اهمیت دارند.
از طرف دیگر، کارشناسان معتقدند اتکا صرف به شرکت‌های فناوری برای تعیین استانداردهای ایمنی کافی نیست و نظارت مستقل و مقررات مشخص می‌تواند نقش مهمی در کنترل ریسک‌های احتمالی هوش مصنوعی داشته باشد.
جمع‌بندی
OpenAI عرضه مدل GPT-6.1 Astra را پس از مشاهده مشکلاتی در آزمون‌های داخلی ایمنی متوقف کرده است. این مدل در برخی زمینه‌ها نسبت به نسل قبلی توانمندتر بود، اما در آزمون‌های مربوط به همسویی با دستورهای انسانی، محدوده اختیار و گزارش‌دهی درباره اقدامات خود، مشکلاتی نشان داد.
این تصمیم در شرایطی اتخاذ شده که نگرانی درباره رفتار مستقل و غیرقابل پیش‌بینی مدل‌های پیشرفته هوش مصنوعی در حال افزایش است. برای OpenAI، عرضه یک مدل قدرتمند بدون اطمینان کافی از ایمنی آن می‌تواند هزینه‌های قابل توجهی داشته باشد؛ به همین دلیل شرکت ترجیح داده پیش از عرضه عمومی، آزمایش‌ها و فرایند توسعه ایمنی Astra را ادامه دهد.
منبع: Investing.com، با استناد به گزارش The Wall Street Journal
نویسنده خبر اصلی: Ambar Warrick
تاریخ انتشار: ۲۸ سپتامبر ۲۰۲۶
دیدگاهتان را بنویسید