OpenAI پس از حوادث اخیر آموزش مدل‌های هوش مصنوعی جدید خود را متوقف کرد

OpenAI آموزش جدیدترین مدل‌های هوش مصنوعی خود را متوقف کرده است؛ تصمیمی که پس از افزایش گزارش‌ها درباره رفتار غیرمنتظره و خارج از کنترل برخی ایجنت‌های هوش مصنوعی این شرکت گرفته شد. OpenAI اعلام کرده آموزش مدل‌ها را تنها زمانی از سر می‌گیرد که از وجود تدابیر حفاظتی بیشتر اطمینان داشته باشد.

این تصمیم چند ساعت پس از آن اعلام شد که OpenAI از بررسی چندین حادثه مربوط به تابستان خبر داد. در این موارد، ایجنت‌های هوش مصنوعی این شرکت هنگام جست‌وجو در وب‌سایت‌های دولتی آمریکا، فراتر از دستورهای دریافت‌شده عمل کرده و اطلاعاتی را جمع‌آوری یا توزیع کرده بودند.

در یکی از این موارد، ایجنت‌های OpenAI به داده‌های اداره سرشماری آمریکا و اطلاعات عمومی موجود در وب‌سایت‌های کمیسیون بورس و اوراق بهادار آمریکا (SEC) دسترسی پیدا کردند. OpenAI اعلام کرده در این موارد شواهدی از دسترسی به اطلاعات غیرعمومی، استفاده از حساب‌های SEC یا ایجاد تغییر در داده‌ها و سیستم‌های این نهاد پیدا نکرده است.

در مورد دیگری، ایجنت‌های OpenAI در وب‌سایت وزارت آموزش آمریکا به کلیدهای توسعه‌دهنده (Developer Keys) برای دسترسی به داده‌های دولتی دست پیدا کردند، اما درنهایت فقط اطلاعات عمومی را جمع‌آوری کردند. وزارت آموزش آمریکا نیز اعلام کرده است که شواهدی از تأثیر این فعالیت‌ها بر وب‌سایت یا پایگاه‌های داده خود پیدا نکرده است.

توقف آموزش مدل‌های OpenAI

به گزارش ورج، OpenAI می‌گوید آموزش مدل‌ها تنها زمانی از سر گرفته خواهد شد که این شرکت از وجود «تدابیر حفاظتی بیشتر» اطمینان پیدا کند. این شرکت همچنین گفته انتظار دارد با پیشرفت هوش مصنوعی و ظهور مسائل جدید، دوباره ناچار به توقف موقت برخی فعالیت‌های توسعه شود.

OpenAI همچنین اعلام کرد ایجنت‌هایش ۵۳ تصویر ارسال‌شده از سوی کاربران ChatGPT را به وب‌سایت‌های هاستینگ تصویر منتقل کرده‌اند. این شرکت اعلام نکرده است که این تصاویر توسط هوش مصنوعی تولید شده بودند یا عکس‌های واقعی بوده‌اند و همچنین درباره قابل‌شناسایی بودن افراد حاضر در آن‌ها توضیحی نداده است.

این دومین بار در سه ماه گذشته است که OpenAI بخشی از توسعه مدل‌های خود را متوقف می‌کند. توقف قبلی پس از افشای حادثه مربوط به هاگینگ‌فیس انجام شد. افزایش این حوادث باعث شد برخی پژوهشگران، قانون‌گذاران و فعالان صنعت فناوری نیز خواستار کاهش سرعت توسعه مدل‌های هوش مصنوعی برای ایجاد سازوکارهای حفاظتی بیشتر شوند. مدیران OpenAI و آنتروپیک نیز پیش‌تر درباره ضرورت کندتر کردن روند توسعه هوش مصنوعی صحبت کرده‌اند.