همبنیانگذار آنتروپیک: پیادهسازی کلید خاموشی هوش مصنوعی شاید باید اجباری شود
-
نویسنده:
دیجیاتو digiato
- 24 شهریور 1405
- 0 دیدگاه
یکی از همبنیانگذاران شرکت آنتروپیک اعلام کرده که تجهیز شرکتها به یک «کلید خاموشی اضطراری» هوش مصنوعی که امکان بررسی و راستیآزمایی آن توسط اشخاص ثالث وجود داشته باشد، شاید باید اجباری شود.
«جک کلارک» میگوید ایجاد روشی برای خاموشکردن کامل نرمافزارهای هوش مصنوعی در صورت افزایش خطر، موضوعی است که شاید جامعه در نهایت بخواهد پیرامون آن قوانینی تصویب کند. او معتقد است که اکثر آزمایشگاهها، از جمله خودِ آنتروپیک، روشهای مختلفی برای قطع سیستمها دارند، اما قانونگذاران ممکن است نیاز داشته باشند چنین قابلیتی را الزامی کنند.
توسعه سریع هوش مصنوعی و ترس از خطرات آن برای بشریت، با هشدارهای متعدد مدیران و کارکنان شرکتهای هوش مصنوعی در هفتههای اخیر مورد توجه زیادی قرار گرفته است. برخی از آنها بهطور علنی گفتهاند در صورتی که این فناوری مهار نشود، احتمال دارد تمام انسانها را به کام مرگ بکشاند. «داریو آمودی»، مدیرعامل آنتروپیک نیز در روزهای گذشته خواستار کندتر شدن سرعت توسعه هوش مصنوعی و نظارت دقیقتر بر آن شد؛ هرچند برخی افراد از جمله «دونالد ترامپ» انگیزههای پشت این درخواست را زیر سؤال بردهاند.
کلارک همچنین توضیح داده که جزئیات مربوط به الزامات و راستیآزمایی کلید قطع اضطراری باید بخشی از گفتوگوهای سیاستی گستردهتر پیرامون هوش مصنوعی باشد.
ضرورت نظارت مستقل و الزامات کلید قطع اضطراری هوش مصنوعی
شرکت آنتروپیک که در سال ۲۰۲۱ توسط گروهی از کارمندان سابق OpenAI تأسیس شد، درحالحاضر در مرکز بحثهای ایمنی هوش مصنوعی قرار دارد. هفته گذشته، پستی از یک پژوهشگر هوش مصنوعی که به دلیل نگرانی از نابودی بشریت توسط هوش مصنوعی از آنتروپیک استعفا داده بود، بازتاب گستردهای پیدا کرد. در پاسخ به آن، «اِوان هوبینگر»، دانشمند آنتروپیک توضیح داد که شخصاً احتمال انقراض انسان توسط هوش مصنوعی در دهه آینده را بیش از ۱۰ درصد میداند. او و سایر افرادی که نگرانی مشابهی دارند، اشاره کردهاند هوش مصنوعی میتواند با به دست گرفتن کنترل سیستمهای حیاتی متصل به اینترنت، آنها را علیه انسانها به کار گیرد.
بااینحال، برخی فعالان صنعت هوش مصنوعی باور دارند که درباره ترس از نابودی بشریت اغراق شده یا ممکن است چنین اقدامی با هدف ایجاد هیاهوی تبلیغاتی باشد. کلارک در پاسخ به این سؤال که چه درصدی برای احتمال نابودی انسانها توسط این فناوری قائل است، گفت چنین آمارهایی چندان مفید نیستند، اما اجازه دادن به ادامه فعالیت هوش مصنوعی به عنوان یک صنعت کاملاً بدون مقررات ایده بسیار بدی است. او تأکید کرد:
«ما درحال تاس ریختن با ریسکهای بسیار عظیمی هستیم و نکته اینجاست که باید مسیر این صنعت را تغییر دهیم.»
درحالحاضر قانونگذاران آمریکایی لایحهای تحت عنوان «قانون کلید خاموشی اضطراری» پیشنهاد کردهاند که شرکتها را ملزم میکند راهکاری برای خاموشکردن فوری ابزارهای هوش مصنوعی مشکلساز داشته باشند. این قانون همچنین به برخی سازمانهای دولتی این اختیار را میدهد که تقاضای خاموششدن یا محدودسازی یک ابزار را مطرح کنند. در گزارشهایی گفته شده بود که شرکت OpenAI هماکنون درحال توسعه چنین قابلیتی است.
بااینحال، رئیس جمهور آمریکا از جمله بزرگترین مخالفان کاهش سرعت توسعه هوش مصنوعی پیشرفته است. اخیراً او در جریان یک کنفرانس، بهطور غیرمنتظره با «جنسن هوانگ»، مدیرعامل انویدیا، تماس گرفت تا مخالفت خود با این موضوع را اعلام کند. پادشاه بریتانیا نیز طی روزهای آینده با رهبران صنعت هوش مصنوعی دیدار خواهد کرد تا درباره نگرانیهای این فناوری صحبت کند.
