خالق اتریوم: هوش مصنوعی می‌تواند به «گونه برتر» تبدیل شده و باعث انقراض بشر شود!

ویتالیک بوترین در پست وبلاگی جدید خود به پیشرفت‌های هوش مصنوعی پرداخته و گفته که AI نوع جدیدی از «ذهن» را ایجاد می‌کند و این ذهن می‌تواند علیه منافع بشر تصمیم بگیرد. خالق اتریوم حتی خطر نابودی انسان به دست هوش مصنوعی را محتمل دانسته و عنوان کرد ممکن است حتی مریخ هم جای امنی برایمان نباشد!

به گزارش والکس و به نقل از cointelegraph، به گفته ویتالیک بوترین (Vitalik Buterin)، یکی از بنیانگذاران اتریوم، اگر کنترلی روی هوش مصنوعی (AI) فوق پیشرفته نباشد و به حال خود رها شود، «شانس زیادی» برای پیشی گرفتن از انسان و تبدیل شدن به «گونه برتر» بعدی در سیاره زمین دارد.

به گفته بوترین، این موضوع در چگونگی برخورد بالقوه انسان با پیشرفت‌های هوش مصنوعی خلاصه می‌شود.

بوترین، که از سوی برخی از افراد به عنوان یک رهبر فکری در فضای ارزهای دیجیتال شناخته می‌شود، در یک پست وبلاگی مورخ ۲۷ نوامبر، استدلال کرده که هوش مصنوعی با سایر اختراعات اخیر بشر مانند رسانه‌های اجتماعی، قرص‌های پیشگیری از بارداری، هواپیما، اسلحه، چرخ، ماشین چاپ و … تفاوت اساسی دارد، چرا که هوش مصنوعی می‌تواند نوع جدیدی از «ذهن» را ایجاد کند و این ذهن ممکن است علیه منافع بشر باشد.

او به گفته‌های خود اضافه می‌کند:

هوش مصنوعی نوع جدیدی از ذهن محسوب می‌شود که به سرعت آگاهی و خرد خود را افزایش می‌دهد. کاملاً احتمال آن وجود دارد که هوش مصنوعی خود را برای سبقت گرفتن از قوای ذهنی انسان‌ها و تبدیل شدن به گونه برتر جدید در این سیاره آماده کند.

بوترین می‌گوید که برخلاف تغییرات آب و هوایی، انتشار یک بیماری همه‌گیر یا وقوع جنگ هسته‌ای به دست بشر، هوش مصنوعی فوق‌ هوشمند احتمالاً می‌تواند به زندگی بشریت پایان دهد و هیچ بازمانده‌ای باقی نگذارد، به خصوص اگر انسان را تهدیدی برای بقای خود بداند.

او ادامه داد:

خطای هوش مصنوعی به طور بالقوه می‌تواند بدترین نتیجه قابل تصور را ایجاد کند؛ یعنی به معنای واقعی کلمه می‌تواند باعث انقراض انسان‌ها شود.

هم‌بنیانگذار اتریوم هشدار می‌دهد:

اگر هوش مصنوعی فوق هوشمند علیه بشریت قیام کند، حتی مریخ هم ممکن است جای امنی برایمان نباشد.

بوترین به نظرسنجی ماه آگوست ۲۰۲۲ اشاره کرده که بیش از ۴۲۷۰ محقق یادگیری ماشین در آن اظهارنظر کردند. ۵ تا ۱۰ درصد این افراد احتمال می‌دادند که هوش مصنوعی می‌تواند انسان را به قتل برساند.

با این حال، در حالی بوترین می‌گوید چنین ادعاهای افراطی بعید به نظر می‌رسند، اما او تأکید دارد که راه‌هایی نیز برای غلبه بر چالش‌های احتمالی پیش‌روی انسان‌ها وجود دارد.

تقاطع وجه میانی مغز و ماشین و دیدگاه خوشبینانه از فناوری

بوترین ادغام رابط‌ (مرز مشترک) مغز و کامپیوتر (BCI) را برای ارائه کنترل بیشتر بر اشکال قدرتمند محاسبات و شناخت مبتنی بر هوش مصنوعی پیشنهاد کرده است.

BCI یک مسیر ارتباطی بین فعالیت‌های الکتریکی مغز و یک دستگاه خارجی مانند رایانه یا اندام روباتیک است.

بوترین گفت که این امر حلقه ارتباطی دو طرفه بین انسان و ماشین را از ثانیه به میلی ثانیه کاهش می‌دهد و مهم‌تر از آن، اطمینان حاصل می‌کند که انسان درجاتی از «عاملیت و عملکرد معنی‌دار» را در سراسر جهان حفظ خواهد کرد.

به گفته بوترین، این مسیر ایمن‌تر خواهد بود، زیرا انسان‌ها می‌توانند در هر تصمیمی که توسط دستگاه هوش مصنوعی گرفته می‌شود، مشارکت داشته باشند.

او گفت:

ما می‌توانیم انگیزه تفویض وظایف و برنامه‌ریزی‌های مهم به هوش مصنوعی را کاهش دهیم و در نتیجه خطر انجام اقدامات مستقل توسط AI که کاملاً با ارزش‌های بشریت ناسازگار هستند را به حداقل برسانیم.

بنیانگذار اتریوم همچنین با توجه به اینکه صرفاً دنبال کردن یک منفعت ممکن است همیشه به مطلوب‌ترین مسیر برای انسان‌ها منجر نشود، اولویت دادن به «نیت موثر انسانی» را برای هدایت هوش مصنوعی به سمت نتایجی که به نفع بشریت هستند، پیشنهاد می‌دهد.

بوترین در نتیجه‌گیری اظهارات خود می‌گوید که «ما انسان‌ها، درخشان‌ترین ستاره در جهان هستیم، زیرا ما فناوری را برای گسترش استعدادهای انسان در هزاران سال گذشته توسعه داده‌ایم و امیدواریم سال‌های درخشان بسیار بیشتری را نیز در آینده ببینیم.

او در پایان گفت:

در دو میلیارد سال آینده، اگر زمین یا هر بخشی از کیهان هنوز هم زیبایی‌های زندگی زمینی را داشته باشد، احتمالاً به دلیل ابداعات ساخته دست بشر مانند سفرهای فضایی و مهندسی زمین خواهد بود.