هشدار و زنگ خطر متخصصان درباره هوش مصنوعی

به گزارش تجارگستران ، برخی از آن‌ها به‌دلیل نگرانی‌های اخلاقی استعفا داده یا علناً درباره پیامدهای عمیق اجتماعی و شغلی هوش مصنوعی ابراز نگرانی کرده‌اند.

کارشناسان برجسته هوش مصنوعی در شرکت‌هایی از جمله OpenAI و Anthropic اعلام کرده‌اند که خطرات این فناوری با سرعتی نگران‌کننده در حال افزایش است. برخی از این افراد در اعتراض به شرایط موجود استعفا داده و برخی دیگر نگرانی‌های جدی خود را به‌صورت عمومی مطرح کرده‌اند.

 پیشرفت سریع مدل‌های هوش مصنوعی

مدل‌های پیشرفته‌ای مانند ChatGPT از OpenAI و Claude از Anthropic با سرعتی چشمگیر در حال بهبود هستند و حتی توانایی ساخت محصولات جدید را به‌طور مستقل پیدا کرده‌اند. این روند، در کنار هیجان، نگرانی‌های عمیقی نیز ایجاد کرده است.

یک پژوهشگر Anthropic اعلام کرد که این شرکت را ترک کرده تا به نوشتن شعر درباره شرایط کنونی جهان بپردازد. هم‌زمان، یک پژوهشگر OpenAI نیز به‌دلیل ملاحظات اخلاقی استعفا داد. یکی از کارکنان OpenAI نیز نوشت که اکنون «تهدید وجودی هوش مصنوعی» را به‌طور واقعی احساس می‌کند.

گزارش‌های نگران‌کننده امنیتی از هوش مصنوعی

Anthropic در گزارشی اعلام کرد که هوش مصنوعی، هرچند با احتمال پایین، می‌تواند در جرایم سنگین از جمله ساخت سلاح‌های شیمیایی مورد استفاده قرار گیرد. این گزارش به بررسی خطرات عملکرد مستقل هوش مصنوعی بدون دخالت انسان پرداخته است.

در حالی که توجه گسترده‌ای در دنیای فناوری و کسب‌وکار به این موضوع وجود دارد، نگرانی‌ها درباره هوش مصنوعی هنوز جایگاه پررنگی در کاخ سفید و کنگره آمریکا ندارد. هم‌زمان، OpenAI تیم «همسویی مأموریت» خود را که برای تضمین منافع انسانی هوش مصنوعی ایجاد شده بود، منحل کرده است.

مدل‌های جدید هوش مصنوعی توانایی ساخت و بهبود محصولات بدون دخالت انسان را نشان داده‌اند. این موضوع، همراه با نشانه‌هایی از تهدید مشاغل مهمی مانند برنامه‌نویسی و خدمات حقوقی، باعث بازنگری جدی و نگرانی فزاینده در میان متخصصان شده است.