OpenAI : قدرت دینی به مدل‌های هوش مصنوعی یک مسئله ایمنی است

به گزارش تجارگستران ،  سم آلتمن، مدیرعامل OpenAI، نسبت دادن قدرت یا جایگاه دینی به مدل‌های هوش مصنوعی و واگذاری قضاوت انسانی به این سیستم‌ها را یک مسئله جدی در حوزه ایمنی دانست. این اظهارات در ادامه بحث‌های اخیر درباره آگاهی، اخلاق و جایگاه معنوی مدل‌های هوش مصنوعی مطرح شده است.

سم آلتمن درباره نقش دین در هوش مصنوعی چه گفت؟

مدیرعامل OpenAI اعلام کرد با تلاش برای نسبت دادن قدرت دینی به مدل‌ها یا واگذاری قضاوت انسانی به آنها احساس راحتی نمی‌کند و این موضوع را یک مسئله واقعی در حوزه ایمنی هوش مصنوعی می‌داند.

اختلاف نظر OpenAI و Anthropic بر سر آگاهی مدل‌ها

اظهارات آلتمن در شرایطی مطرح شده که بحث درباره آگاهی و هویت مدل‌های هوش مصنوعی در میان شرکت‌های بزرگ این حوزه افزایش یافته است.

گزارش‌ها درباره Anthropic نشان می‌دهد برخی پژوهشگران این شرکت با دانشمندان و صاحب‌نظران حوزه‌های دینی درباره موضوعاتی مانند آگاهی مدل‌ها، اخلاق و چگونگی شکل‌گیری رفتار اخلاقی در هوش مصنوعی گفت‌وگو کرده‌اند.

پیش از این نیز گزارش‌هایی درباره رویکرد Anthropic به استفاده از مفاهیم انسانی برای آموزش مدل Claude منتشر شده بود. در همین زمینه، مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، نسبت به آموزش مدل‌ها برای تقلید از مفاهیمی مانند آگاهی، هویت شخصی و جایگاه اخلاقی هشدار داده بود.

موضوع آگاهی هوش مصنوعی چرا دوباره مطرح شده است؟

بحث درباره اینکه آیا مدل‌های هوش مصنوعی می‌توانند دارای نوعی آگاهی یا تجربه درونی باشند، در ماه‌های اخیر به یکی از موضوعات مورد توجه در حوزه ایمنی هوش مصنوعی تبدیل شده است.

در یک سو، برخی پژوهشگران درباره استفاده از مفاهیم انسانی مانند اخلاق، هویت و قضاوت در آموزش مدل‌ها بحث می‌کنند و در سوی دیگر، شماری از متخصصان نسبت به پیامدهای نسبت دادن چنین ویژگی‌هایی به سیستم‌های هوش مصنوعی هشدار داده‌اند.

این اختلاف نظر بخشی از بحث گسترده‌تر درباره نحوه طراحی مدل‌های آینده و میزان اختیار، نظارت انسانی و قواعد رفتاری آنهاست.

واکنش دیگر متخصصان به ایده آگاهی مدل‌ها

اظهارات آلتمن تنها دیدگاه انتقادی مطرح‌شده درباره این موضوع نیست. مصطفی سلیمان نیز پیش‌تر استدلال کرده بود که آموزش مدل‌ها برای شبیه‌سازی آگاهی یا ایجاد نوعی تصور از هویت شخصی می‌تواند کنترل سیستم‌های پیشرفته را دشوارتر کند.

در مقابل، گزارش‌های منتشرشده درباره Anthropic نشان می‌دهد این شرکت در حال بررسی این موضوع است که مفاهیم انسانی و اخلاقی چگونه می‌توانند در رفتار مدل‌های هوش مصنوعی مورد استفاده قرار گیرند.

نقش پاپ لئو چه بود؟

بحث درباره رابطه هوش مصنوعی با مفاهیمی مانند انسانیت و معنویت همزمان با اظهارات اخیر پاپ لئو چهاردهم نیز مورد توجه قرار گرفته است.

پاپ لئو روز جمعه از کلیسا خواست برای حفاظت از خلاقیت انسانی با هنرمندان همکاری کند. او بر تفاوت میان هنر انسانی و محتوای تولیدشده توسط ماشین‌ها تأکید کرد و گفت الگوریتم‌ها فاقد آنچه او «جرقه انسانیت» توصیف کرده، هستند.

ایمنی هوش مصنوعی فقط به تهدیدهای فنی محدود نیست

بحث‌های مربوط به ایمنی هوش مصنوعی تاکنون بیشتر بر موضوعاتی مانند امنیت سایبری، سوءاستفاده از مدل‌ها و کاربردهای زیان‌بار فناوری متمرکز بوده است.

با گسترش بحث درباره آگاهی، اخلاق و جایگاه معنوی مدل‌ها، موضوع نحوه تعامل انسان با سیستم‌های هوش مصنوعی و میزان اتکای انسان به قضاوت این سیستم‌ها نیز به یکی از محورهای این گفت‌وگوها تبدیل شده است.

در هفته‌های اخیر، شرکت‌های بزرگ هوش مصنوعی همزمان با افزایش نگرانی‌ها درباره رفتار مدل‌های پیشرفته، درباره ضرورت تقویت سازوکارهای ایمنی و کنترل انسانی صحبت کرده‌اند.

جمع‌بندی

اظهارات جدید سم آلتمن نشان‌دهنده یکی از اختلاف دیدگاه‌های مطرح در صنعت هوش مصنوعی درباره نحوه برخورد با مفاهیمی مانند آگاهی، اخلاق و معنویت در مدل‌هاست. در حالی که برخی پژوهشگران در حال بررسی این موضوعات هستند، آلتمن و برخی دیگر از متخصصان نسبت به واگذاری قضاوت انسانی یا نسبت دادن جایگاه معنوی به مدل‌های هوش مصنوعی هشدار داده‌اند. / منبع : آکسیوس