هشدار مدیرعامل مایکروسافت به کارمندان شرکت درباره ایمنی هوش مصنوعی

«ساتیا نادلا»، مدیرعامل مایکروسافت، در یک یادداشت داخلی درباره بحث‌های پیرامون سرعت بالای توسعه هوش مصنوعی و خطرات احتمالی آن اظهارنظر کرد. براساس این یادداشت که در تابلوی پیام‌های درون‌سازمانی شرکت منتشر شده است، نادلا تأکید کرده که فناوری هوش مصنوعی باید تحت کنترل انسان باقی بماند. او همچنین از آزمون‌های گسترده‌تر توسط ارزیاب‌های شخص ثالث حمایت کرده و هشدار دادi که شرکت‌ها باید زمان لازم را برای ایمن‌سازی این فناوری اختصاص دهند.

نادلا در بخشی از پیام خود اشاره کرده که با بالاتر رفتن ریسک و حساسیت‌ها، باید زمان لازم برای ایمن‌سازی صرف شود؛ زیرا در غیر این صورت، شرکت‌ها مجوز فعالیت اجتماعی خود را از دست خواهند داد. هم‌زمان با انتشار این پیام، واحد هوش مصنوعی مایکروسافت پیش‌نویس ۳۷ صفحه‌ای منشور اخلاقی خود را برای مدل‌های انسان‌گرا منتشر کرد. «مصطفی سلیمان»، مدیرعامل این بخش در مایکروسافت، با اشاره به این موضوع تصریح کرده است مواردی که در گذشته تنها در قالب نظریه نگران‌کننده بودند، امروزه کاملاً واقعی شده‌اند.

راهبرد سه‌گانه مایکروسافت در توسعه ایمن هوش مصنوعی

متن کامل یادداشت داخلی نادلا به شرح زیر است:

«در طول تعطیلات آخر هفته، گفتگوهای بسیاری پیرامون هوش مصنوعی شکل گرفت. برای ما به‌عنوان یک شرکت پلتفرمی، تمرکز همواره بر پیاده‌سازی رویکردمان در سه حوزه اصلی استوار است.

اول، باید هدف طراحی برای ما کاملاً شفاف باشد. همان‌طور که پیش‌تر گفته بودیم، هوش مصنوعی باید همواره تحت کنترل انسان باقی بماند و منافع آن به‌شکلی فراگیر در اختیار جامعه قرار گیرد. این امر به‌معنای ساخت زیست‌بومی پیشرو است که در آن هر دو دسته مدل‌های متن‌بسته و متن‌باز بتوانند رشد کنند؛ همچنین این مسئله به‌معنای داشتن رفتاری سنجیده و حساب‌شده در پیشبرد همسویی است. من این موضوع را مشابه مرحله آزمون می‌دانم. همه ما در مراحل پیش از عرضه، تحقیق و توسعه و آزمون‌ها، گام‌ها را حساب‌شده برمی‌داریم و بهره‌مندی از آزمون‌ها و ارزیاب‌های خارجی و شخص ثالث اقدامی مثبت است. هرچه حساسیت و ریسک موضوع بالاتر برود، فرد باید زمان بیشتری صرف کند؛ در غیر این صورت، مجوز فعالیت را از دست خواهید داد. این همان رویکردی است که ما هر روز در پیش می‌گیریم. ما این مسئله را در تمام کارهایی که برای تضمین مشاهده‌پذیری در هر لایه از فناوری و کاربردها انجام می‌دهیم، لحاظ خواهیم کرد تا بتوانیم اعمال نظارت داشته باشیم و کنترل اوضاع را در دست بگیریم. همچنین همین رویکرد راهنمای ما در نحوه ساخت مدل‌ها خواهد بود. مصطفی [سلیمان] امروز سند «منشور رفتاری» را که مبنای مدل‌های اختصاصی MAI ماست، برای مشاوره و نظرسنجی عمومی منتشر کرد.

دوم، نکته کلیدی برای مشتریانمان این است که اطمینان حاصل کنیم آنها کنترل دانش منحصربه‌فرد خود را حفظ می‌کنند؛ تا از این طریق بتوانند حلقه یادگیری پیوسته خود را بسازند، بدون آنکه به یک ارائه‌دهنده مدل خاص وابسته شوند. این در واقع همان امکانی است که بخش Foundry فراهم می‌کند، و یک دمو بسیار خوب نشان داد که چگونه می‌توان دستیارهای نرم‌افزاری بلندمدت را در سطح سازمانی، همراه با چارچوب‌های امنیتی، حفاظ‌های ایمنی، FinOps و سایر الزامات به‌صورت پیش‌فرض آماده کرد.

و سوم، ما باید مجوز ساخت زیرساخت‌هایی را که توان‌بخش تمام این موارد هستند، از طریق تضمین ملموس‌بودن منافع آنها در سطح محلی به دست آوریم. مرکز داده ما در کوئینسی شاید بهترین نمونه از همگام‌شدن رشد ما با یک جامعه محلی در طول زمان باشد و «بِرَد [اسمیت]» روز یکشنبه داستان آن را به اشتراک گذاشت.

نکته حائز اهمیت این است که ما به‌عنوان یک شرکت می‌توانیم اقدامات و عملکردهای واقعی را پشتیبان این کلمات قرار دهیم.»

این اظهارات در پی هشدارهای شدید برخی پژوهشگران هوش مصنوعی مطرح شده است که نسبت به خطرات مرگبار این فناوری برای بشریت ابراز نگرانی کرده بودند. «داریو آمودی»، مدیرعامل آنتروپیک، اخیراً پیشنهاد کاهش سرعت توسعه و پذیرش نظارت خارجی بر مدل‌ها را مطرح کرده و «سم آلتمن»، مدیرعامل OpenAI نیز با حمایت از نظارت شخص ثالث، تأکید داشته است که در صورت لزوم باید سرعت استقرار فناوری برای تضمین همسویی و ایمنی کاهش یابد.