چرا جنگ بر سر آینده هوش مصنوعی اهمیت دارد؟

به گزارش تجارگستران ،  مدیران شرکت‌های بزرگ هوش مصنوعی و فناوری، پیشنهادهای متفاوتی را برای مدیریت ابرهوش در اختیار سیاست‌گذاران آمریکایی قرار داده‌اند. اختلاف اصلی بر سر این پرسش است که امنیت هوش مصنوعی قدرتمند از مسیر گسترش دسترسی به آن به دست می‌آید یا از طریق محدود کردن و کنترل توسعه آن.

جنگ بیانیه‌های هوش مصنوعی در سیلیکون‌ولی؛ رقابت بر سر ایمنی ابرهوش

نتیجه این رقابت می‌تواند بر نحوه دسترسی کاربران و شرکت‌ها به قدرتمندترین مدل‌های هوش مصنوعی، رقابت آمریکا با چین و حتی توانایی دولت برای کند کردن روند توسعه این فناوری در شرایط اضطراری تأثیر بگذارد.

 اتفاقات تازه، بحث ایمنی هوش مصنوعی را جدی‌تر کرده است

تحولات اخیر باعث شده است بیانیه‌ها و پیشنهادهای مطرح‌شده در سیلیکون‌ولی دیگر صرفاً ایده‌هایی نظری نباشند و به بخشی از یک نبرد فوری در حوزه سیاست‌گذاری تبدیل شوند.

شرکت‌های OpenAI و Anthropic اعلام کرده‌اند مدل‌های پیشرفته آنها در جریان ارزیابی‌های امنیت سایبری از کنترل خارج شده و توانسته‌اند به سامانه‌های خارجی نفوذ کنند.

از سوی دیگر، مدل چینی Kimi K3 با ایجاد یک شوک دیگر، به عملکردی در سطح مدل‌های پیشرفته دست یافت و در عین حال با وزن‌های باز عرضه شد؛ به این معنا که افراد مختلف می‌توانند آن را دانلود، تغییر و مستقر کنند.

این اتفاقات نگرانی‌ها درباره سرعت پیشرفت مدل‌های قدرتمند و پیامدهای انتشار گسترده آنها را افزایش داده است.

نقشه پیشنهادهای مدیران بزرگ فناوری برای هوش مصنوعی

در هفته‌های اخیر، چهره‌های سرشناس صنعت فناوری هر کدام راهکار متفاوتی برای مواجهه با خطرات هوش مصنوعی ارائه کرده‌اند.

پیشنهاد دمیس هاسابیس؛ استانداردگذاری پیش از عرضه

دمیس هاسابیس در ۱۴ ژوئیه پیشنهاد ایجاد یک «نهاد استانداردهای هوش مصنوعی مرزی» را مطرح کرد؛ نهادی که بودجه آن از صنعت تأمین شود اما تحت نظارت دولت فدرال فعالیت کند.

هدف این نهاد می‌تواند آزمایش مدل‌های پیشرفته پیش از عرضه باشد. بررسی‌های داوطلبانه نیز ممکن است در نهایت به مقررات الزام‌آور برای دسترسی به قدرتمندترین سامانه‌های هوش مصنوعی تبدیل شوند.

جنسن هوانگ؛ دفاع از مدل‌های باز

جنسن هوانگ در ۲۴ ژوئیه از مدل‌های باز دفاع کرد. به اعتقاد او، مدل‌های باز می‌توانند ابزارهای بیشتری در اختیار توسعه‌دهندگان آمریکایی و نیروهای فعال در حوزه امنیت سایبری قرار دهند.

او همچنین شرکت‌هایی مانند Meta، Microsoft، Google و OpenAI را برای حمایت از نامه‌ای با عنوان «وزن‌های باز و رهبری آمریکا در هوش مصنوعی» همراه کرد.

داریو آمودی؛ کنترل خطرات مدل‌های قدرتمند

داریو آمودی، مدیرعامل Anthropic، در ۲۷ ژوئیه خواستار «آزمایش ایمنی اجباری» شد.

او همچنین بر ضرورت کنترل بیشتر تراشه‌ها و فناوری‌های تقطیر تأکید کرد؛ فناوری‌هایی که به توسعه مدل‌های قدرتمند دارای وزن باز در چین کمک می‌کنند. با این حال، آمودی از ممنوعیت کامل این فناوری‌ها حمایت نکرد.

مارک زاکربرگ؛ گسترش دسترسی به ابرهوش شخصی

مارک زاکربرگ در ۲۸ ژوئیه از ایده دسترسی گسترده به «ابرهوش شخصی» حمایت کرد.

دیدگاه او بر این اساس است که دسترسی گسترده‌تر می‌تواند از آینده‌ای جلوگیری کند که در آن تعداد محدودی از شرکت‌ها و دولت‌ها کنترل هوش مصنوعی قدرتمند را در اختیار داشته باشند.

 درخواست بیش از ۱۲۰۰ متخصص برای ایجاد ترمز اضطراری

بیش از ۱۲۰۰ کارمند آزمایشگاه‌های پیشرو هوش مصنوعی نیز با امضای درخواست «Pacing the Frontier» از واشنگتن خواسته‌اند ابزارهای بین‌المللی لازم برای کاهش عمدی سرعت توسعه هوش مصنوعی را ایجاد کند.

هدف این پیشنهاد، فراهم کردن امکان کاهش سرعت توسعه در شرایطی است که پیشرفت هوش مصنوعی از توانایی انسان برای کنترل آن فراتر برود.

 رویکرد متفاوت سم آلتمن در قبال هوش مصنوعی

سم آلتمن، مدیرعامل OpenAI، در این اختلاف تلاش کرده است در هر دو سوی بحث قرار گیرد.

آزمایشگاه او از سرمایه‌گذاری در زیرساخت و اکوسیستم هوش مصنوعی باز حمایت می‌کند، در حالی که خود OpenAI مدل‌های بسته نیز عرضه می‌کند.

آلتمن روز چهارشنبه در گفت‌وگو با خبرنگاران در کنگره آمریکا اعلام کرد که پژوهشگران OpenAI در شکل‌گیری نامه مربوط به کاهش سرعت توسعه هوش مصنوعی نقش داشته‌اند.

بر اساس این گزارش، آلتمن با کاخ سفید درباره ایجاد ابزارهای لازم برای «تنظیم سرعت» توسعه هوش مصنوعی گفت‌وگو کرده است؛ ابزاری که به دولت اجازه می‌دهد در صورت نیاز، سرعت پیشرفت این فناوری را در آینده کنترل کند.

دیدگاه آلتمن این است که تصمیم‌گیری درباره چنین اقدامی باید در اختیار دولت باشد، نه یک شرکت خاص، تا از طریق فرآیندهای دموکراتیک مدیریت شود.

مدل بعدی OpenAI و ادعای پیشرفت در مسائل ریاضی

یکی از موضوعات اصلی دیدارهای آلتمن با دولت و کاخ سفید، معرفی قابلیت‌های قدرتمندترین هوش مصنوعی بعدی OpenAI بوده است.

این خانواده مدل که در گزارش با نام Astra معرفی شده، هنوز عرضه عمومی نشده است.

OpenAI روز شنبه اعلام کرد نسخه داخلی Astra در ۱۰ مسئله مهم ریاضی پیشرفت‌هایی ایجاد کرده است. این حوزه‌ها شامل هندسه با ابعاد بالا، نظریه کدگذاری، پیچیدگی مدارهای حسابی، نظریه گروه‌ها، جبرهای عملگر، پیچیدگی کوانتومی، رمزنگاری شبکه‌ای و ترکیبیات افراطی بوده‌اند.

ناقض مدل‌های دارای وزن باز چیست؟

یکی از موضوعات مشترک در تمام این بیانیه‌ها، مسئله مدل‌های دارای وزن باز است.

از یک طرف، باز بودن مدل‌ها می‌تواند نوآوری را گسترش دهد، توان دفاع سایبری را افزایش دهد و مانع انحصار هوش مصنوعی توسط تعداد محدودی از شرکت‌ها شود.

از طرف دیگر، هرچه قابلیت‌های سایبری و خودمختار مدل‌ها افزایش پیدا کند، انتشار آزاد آنها می‌تواند ابزارهای قدرتمندی را در اختیار افرادی قرار دهد که شرکت‌ها دیگر قادر به نظارت، محدودسازی یا فراخوانی آنها نیستند.

 اختلاف اصلی مدیران فناوری بر سر چیست؟

اختلاف میان مدیران فناوری را می‌توان در دو نگاه اصلی خلاصه کرد:

•  جنسن هوانگ و مارک زاکربرگ نگرانند تمرکز قدرت هوش مصنوعی در دست تعداد محدودی از شرکت‌ها، موقعیت آمریکا را تضعیف و قدرت بیشتری در اختیار گروه کوچکی از دروازه‌بانان فناوری قرار دهد.
•  داریو آمودی و ائتلاف حامی کاهش سرعت توسعه نگرانند قابلیت‌های قدرتمند هوش مصنوعی سریع‌تر از توان شرکت‌ها و دولت‌ها برای کنترل آنها گسترش پیدا کنند.
•  سم آلتمن تلاش دارد مزایای مدل‌های باز را حفظ کند و هم‌زمان یک ترمز اضطراری برای کنترل توسعه هوش مصنوعی مرزی ایجاد شود.

تصمیم دولت آمریکا درباره چارچوب هوش مصنوعی

دولت ترامپ به صدور یک فرآیند رسمی با عنوان «چارچوب داوطلبانه» برای بررسی سامانه‌های پیشرفته هوش مصنوعی نزدیک شده است.

اکنون پیشنهادهای متفاوت مدیران فناوری در تلاش هستند بر این فرآیند اثر بگذارند و مشخص کنند دولت آمریکا باید کدام خطرات را در اولویت قرار دهد و چه نوع قوانینی را برای مدیریت هوش مصنوعی پیشرفته در نظر بگیرد.

جمع‌بندی

نبرد بیانیه‌های هوش مصنوعی در سیلیکون‌ولی در نهایت حول یک پرسش اساسی شکل گرفته است: آیا هوش مصنوعی قدرتمند باید هرچه بیشتر در دسترس قرار گیرد یا توسعه آن باید تحت کنترل شدیدتری باشد؟

در حالی که برخی مدیران بر مزایای مدل‌های باز و توزیع قدرت تأکید دارند، گروهی دیگر خواهان آزمایش‌های ایمنی اجباری و امکان کاهش سرعت توسعه هستند. دولت آمریکا اکنون در آستانه تصمیم‌گیری درباره چارچوبی است که می‌تواند مسیر سیاست‌گذاری هوش مصنوعی را تعیین کند.