مهار برای هوش مصنوعی
مهار برای هوش مصنوعی -در دو سال گذشته شاهد پیشرفت های خیره کننده ای در زمینه هوش مصنوعی بوده ایم. چند سال آینده با مدل های بزرگتر و کارآمدتر، که قادر به خلاقیت واقعی و برنامه ریزی پیچیده هستند، به مراتب بیشتر نوید می دهد. نکات مثبت بالقوه شگفت‌انگیز است، از جمله افزایش بهره‌وری کسب‌وکار، مراقبت‌های بهداشتی ارزان‌تر و مؤثرتر، اکتشافات علمی، و برنامه‌های آموزشی متناسب با نیازهای هر کودک. اما خطرات نیز بسیار زیاد است. اینها شامل گسترش اطلاعات نادرست، و همچنین از دست دادن شغل، و احتمال اینکه بازیگران بد به دنبال استفاده از فناوری جدید برای ایجاد ویرانی باشند، می شود.
این فناوری به سرعت گسترش خواهد یافت. این بدان معناست که طی ده سال آینده، دست و پنجه نرم کردن با تمایل درونی هوش مصنوعی به سمت گسترش کنترل نشده به یک چالش نسلی تبدیل خواهد شد. بر این اساس، مستلزم پاسخ نسلی مشابه آنچه غرب در روزهای اولیه جنگ سرد بسیج کرد . در آن زمان، دیپلمات آمریکایی جورج اف. چالش امروز به یک برنامه گسترده و جاه طلبانه مشابه نیاز دارد، در این مورد برای کنترل هوش مصنوعی و کنترل جوامع. این، مانند کنن، تلاشی مبتنی بر قوانین و معاهدات خواهد بود. با این حال، این امر همچنین مستلزم یک حرکت جهانی گسترده و تغییرات در فرهنگ شرکت های فناوری است. این شکل مدرن مهار نه تنها برای مدیریت هوش مصنوعی و جلوگیری از ایجاد فاجعه بلکه برای اطمینان از تبدیل شدن آن به یکی از فوق‌العاده سودمندترین اختراعات در تاریخ بشر مورد نیاز است.
مهار برای هوش مصنوعی
جزر و مد همیشه وارد می شود
در سراسر تاریخ بشریت، یک قانون واحد و به ظاهر تغییرناپذیر وجود دارد: هر فناوری اساسی که تا به حال اختراع شده است – از کلنگ گرفته تا گاوآهن، سفالگری تا عکاسی، تلفن و هواپیما – ارزان تر و استفاده آسان تر خواهد شد. به دور و بر گسترده خواهد شد. اکوسیستم اختراع به طور پیش فرض به گسترش است. و افرادی که همیشه این فرآیند را هدایت می کنند، هومو تکنولوژیکوس هستند ، گونه های ذاتی فناورانه.
ماشین چاپ را در نظر بگیرید. در دهه 1440، پس از آنکه یوهانس گوتنبرگ آن را اختراع کرد، تنها یک نمونه در اروپا وجود داشت : نسخه اصلی او در ماینتس، آلمان. اما فقط 50 سال بعد، حدود 1000 دستگاه پرس در سراسر قاره پخش شد. نتایج فوق العاده بود. در قرون وسطی، کشورهای بزرگ از جمله فرانسه و ایتالیا هر یک چند صد هزار نسخه خطی در قرن تولید می کردند. صد سال بعد، آنها هر سال حدود 400000 کتاب تولید می کردند و سرعت آن در حال افزایش بود. تنها در قرن هفدهم کشورهای اروپایی 500 میلیون جلد کتاب چاپ کردند.
همین روند در مورد موتور احتراق داخلی نیز مشاهده شد. این یک اختراع دشوار بود که بیش از 100 سال طول کشید تا کامل شود. در نهایت، در دهه 1870، تنها چند نمونه کار در کارگاه های آلمانی وجود داشت. این فناوری هنوز نوپا بود، از نظر تعداد محدود و کاملاً حاشیه ای بود. هشت سال پس از اختراع اولین خودروی کاربردی در سال 1885، مهندس آلمانی کارل بنز تنها 69 خودرو فروخته بود. اما کمی بیش از 100 سال بعد، بیش از دو میلیارد موتور احتراق داخلی در هر شکل و اندازه ای وجود داشت که همه چیز را از ماشین های چمن زنی گرفته تا کشتی های کانتینری نیرو می داد.
برخی از فناوری‌ها، به‌ویژه سلاح‌های هسته‌ای، ممکن است به نظر برسد که این روند را کاهش می‌دهند. به هر حال، 80 سال پس از ایجاد آنها، آنها تنها دو بار مورد استفاده قرار گرفته اند، در سال 1945 توسط ایالات متحده ، و زرادخانه ها نسبت به اوج خود در دهه 1980 بسیار پایین آمده اند. اگرچه این استدلال مخالف تا حدی حقیقت دارد، با این حال، هزاران کلاهک هنوز در سرتاسر جهان مستقر هستند، فشار دائمی کشورهای جدیدی که به دنبال ساخت آنها هستند، و انبوه تصادفات و تماس‌های نزدیک که از همان ابتدا وجود دارد را نادیده می‌گیرد. ، یکی از ویژگی های معمولی و به دلایل واضح و کم گزارش شده این سلاح ها بوده است. از درام بحران موشکی کوبا در سال 1962 تا ناپدید شدن مواد هسته ای از خودروی یک کارمند دولت ایالات متحده در سال 2017، تسلیحات هسته ای علیرغم اجتناب از فاجعه آشکار هرگز به طور واقعی مهار نشدند. اگر چنین فناوری هایی مانند سلاح های هسته ای از قاعده گسترش فناوری مستثنی باشند، در بهترین حالت استثنایی بسیار جزئی و ناراحت کننده هستند.
سیل قریب الوقوع
این اجتناب ناپذیر است که هوش مصنوعی مسیر تبر دستی، ماشین چاپ، موتور احتراق داخلی و اینترنت را دنبال کند. آن نیز در همه جا خواهد بود و دائماً بهبود خواهد یافت. در حال حاضر اتفاق می افتد. تنها در چند سال، مدل‌های پیشرفته از استفاده از میلیون‌ها پارامتر یا متغیرهای تنظیم‌شده در آموزش به تریلیون‌ها تبدیل شده‌اند که نشان‌دهنده پیچیدگی روزافزون این سیستم‌ها است. در طول دهه گذشته، میزان محاسبات مورد استفاده برای آموزش مدل‌های بزرگ هوش مصنوعی به میزان 9 مرتبه افزایش یافته است. قانون مور، که بر این باور است که قدرت محاسباتی هر دو سال دو برابر می‌شود، افزایش تصاعدی در کارهایی که رایانه‌ها می‌توانند انجام دهند را پیش‌بینی کرد. اما پیشرفت در هوش مصنوعی حتی سریع‌تر بوده است، با روند کاهش هزینه‌ها و بهبود قابلیت‌ها در منحنی‌هایی فراتر از هر چیزی که قبلاً در یک فناوری دیده شده بود، صعود می‌کند. نتایج در محصولات شناخته شده هوش مصنوعی قابل مشاهده است، اما در زیر سطح دنیای دیجیتال، نرم افزارهای نیروبخش، سازماندهی انبارها، راه اندازی تجهیزات پزشکی، رانندگی وسایل نقلیه و مدیریت شبکه های برق، تحول آفرین هستند.
با توسعه فاز بعدی هوش مصنوعی، نسل قدرتمندی از عوامل هوش مصنوعی مستقل که قادر به دستیابی به اهداف دنیای واقعی هستند، ظهور خواهند کرد. اگرچه اغلب به این هوش عمومی مصنوعی گفته می‌شود، من اصطلاح «هوش مصنوعی توانمند» یا ACI را ترجیح می‌دهم، که مرحله‌ای قبل از AGI کامل است، که در آن هوش مصنوعی می‌تواند طیف وسیعی از وظایف را به‌طور مستقل انجام دهد. این فناوری می‌تواند فعالیت‌های پیچیده‌ای را از طرف انسان‌ها انجام دهد، از سازماندهی جشن تولد گرفته تا تکمیل فروشگاه هفتگی، و علاوه بر آن چیزی به اندازه راه‌اندازی و راه‌اندازی یک خط تجاری کامل. این یک گام لرزه‌ای برای فناوری خواهد بود که پیامدهای دگرگون‌کننده‌ای برای ماهیت قدرت و اقتصاد جهانی خواهد داشت. می توان انتظار داشت که به سرعت و غیر قابل برگشت تکثیر شود.
یک ACI در جیب همه منجر به افزایش عظیم در رشد اقتصادی می شود، زیرا مهم ترین تقویت کننده بهره وری که در نسل ها دیده می شود به اندازه برق در همه جا حاضر می شود. ACI زمینه هایی از جمله مراقبت های بهداشتی، آموزش و تولید انرژی را متحول خواهد کرد. مهمتر از همه، این فرصت را به افراد می دهد تا به آنچه در زندگی می خواهند برسند. در حال حاضر میزان قابل توجهی درباره هوش مصنوعی وجود دارد، اما در میان نگرانی‌های موجه، مهم است که نکات مثبت بسیاری از هوش مصنوعی را در نظر داشته باشید. این به ویژه در مورد ACI صدق می‌کند، که این پتانسیل را دارد که به همه امکان دسترسی به بهترین دستیار، رئیس کارکنان، وکیل، پزشک و تیم A همه‌جانبه را بدهد.
با این حال نمی توان نکات منفی را نادیده گرفت. برای شروع، هوش مصنوعی مجموعه ای از خطرات جدید را آزاد خواهد کرد. شاید جدی ترین آنها اشکال جدید اطلاعات نادرست و اطلاعات نادرست باشد. اکنون فقط چند دستور زبان ساده می‌تواند تصاویر و به طور فزاینده‌ای ویدیوهایی با وفاداری خیره‌کننده تولید کند. وقتی دولت‌های متخاصم، احزاب سیاسی حاشیه‌ای، و بازیگران تنها بتوانند مطالبی را ایجاد و پخش کنند که از واقعیت قابل تشخیص نیست، می‌توانند هرج و مرج ایجاد کنند و ابزارهای راستی‌آزمایی که برای متوقف کردن آنها طراحی شده‌اند ممکن است توسط سیستم‌های مولد پیشی بگیرند. دیپ‌فیک‌ها در سال گذشته باعث آشفتگی در بازار سهام شدند، زمانی که یک تصویر ساختگی از پنتاگون در آتش باعث افت لحظه‌ای اما محسوس در شاخص‌ها شد و احتمالاً در رقابت‌های انتخاباتی کنونی ایالات متحده نقش مهمی خواهند داشت.
بسیاری از مشکلات دیگر را می توان از پیشرفت جهانی هوش مصنوعی انتظار داشت. اتوماسیون بازار کار را تهدید می کند و احتمال حملات سایبری گسترده در حال افزایش است. هنگامی که اشکال جدید و قدرتمند هوش مصنوعی گسترش یافت، همه خوبی ها و بدی ها در هر سطحی از جامعه در دسترس خواهند بود: در دست مدیران عامل، فروشندگان خیابانی و تروریست ها.
مهار برای هوش مصنوعی
توقف گسترش
توجه بیشتر مردم به درستی بر پیامدهای اجتماعی و اخلاقی این تغییر متمرکز شده است. اما این بحث اغلب از در نظر گرفتن تمایل فناوری به نفوذ در هر لایه از تمدن غفلت می کند و این است که نیاز به اقدام شدید دارد. این تمایل فناوری به گسترش سریع، دور و گسترده است که ایجاب می کند که هوش مصنوعی باید مهار شود، چه در تکثیر و چه در تأثیرات منفی آن، در صورت وقوع دومی. با توجه به تاریخچه و مسیر نوآوری، مهار یک کار دلهره آور است، اما تنها پاسخ -هرچند دشوار- به این است که چگونه بشر باید سریعترین عرضه قدرتمندترین فناوری جدید در تاریخ را مدیریت کند.
مهار در این معنا شامل مقررات، ایمنی فنی بهتر، مدل‌های جدید حکمرانی و مالکیت، و شیوه‌های جدید پاسخگویی و شفافیت می‌شود. همه آنها برای اطمینان از فناوری ایمن تر لازم هستند – اما کافی نیستند. مهار باید مهندسی پیشرفته را با ارزش‌های اخلاقی ترکیب کند که مقررات دولتی را آگاه می‌کند. هدف باید ایجاد مجموعه‌ای از مکانیزم‌های فنی، فرهنگی، قانونی و سیاسی مرتبط و تقویت‌کننده متقابل برای حفظ کنترل اجتماعی هوش مصنوعی باشد. دولت‌ها باید آنچه را که زمانی قرن‌ها یا هزاره‌ها تغییر فن‌آوری می‌کردند، در بر گیرند، اما اکنون ظرف چند سال یا حتی ماه‌ها آشکار می‌شوند. مهار، در تئوری، پاسخی به اجتناب ناپذیری تکثیر است که هم می تواند آن را بررسی کند و هم به پیامدهای آن رسیدگی کند.
این محدودیت به معنای ژئوپلیتیکی نیست و به دکترین کنان بازمی گردد. همچنین قرار دادن هوش مصنوعی در یک جعبه مهر و موم شده نیست، اگرچه برخی از فناوری ها – به ویژه بدافزار هوش مصنوعی سرکش و یک پاتوژن مهندسی شده – فقط به این نیاز دارند. همچنین مهار هوش مصنوعی به معنای مبارزه با تهدید سرخ شوروی رقابتی نیست. این به رویکرد کنان شباهت دارد زیرا چارچوب سیاست باید در همه ابعاد عمل کند. اما مهار فناوری برنامه‌ای بسیار اساسی‌تر از آنچه کنان تصور می‌کرد است، به دنبال توازن قدرت نه بین بازیگران رقیب، بلکه بین انسان‌ها و ابزارهایشان است. چیزی که به دنبال آن است این نیست که فناوری را متوقف کند، بلکه آن را ایمن و کنترل شده نگه دارد.
اکثر مردم به درستی استدلال می کنند که مقررات لازم است، و این تمایل وجود دارد که باور شود که کافی است. این نیست. مهار در عمل باید در هر سطحی که فناوری در آن کار می کند، کار کند. بنابراین نه تنها به قانون‌گذاران و بوروکرات‌های فعال و آگاه، بلکه به فن‌آوران و مدیران تجاری نیز نیاز دارد. این کشور به دیپلمات ها و رهبران نیاز دارد تا در سطح بین المللی برای ایجاد پل ها و رفع شکاف ها همکاری کنند. این کشور به مصرف کنندگان و شهروندان در همه جا نیاز دارد تا از فناوری بهتر مطالبه کنند و اطمینان حاصل کنند که تمرکز آن بر منافع آنها باقی می ماند. به آنها نیاز دارد که برای فناوری‌های مسئولانه تلاش کنند و انتظار داشته باشند، درست همانطور که تقاضای فزاینده برای انرژی سبز و محصولات سازگار با محیط‌زیست، شرکت‌ها و دولت‌ها را به اقدام تشویق کرده است.
فرمان بدون نقشه
مهار مستلزم پاسخگویی به سوالات فنی سخت توسط معاهدات بین المللی و جنبش های توده ای جهانی است. این باید شامل کار بر روی ایمنی هوش مصنوعی و همچنین مکانیسم های حسابرسی مورد نیاز برای نظارت و اجرای انطباق باشد. شرکت‌های پشتیبان هوش مصنوعی برای این تلاش بسیار مهم هستند و باید به دقت در مورد اینکه چگونه مشوق‌های خود را با مقررات دولتی هماهنگ کنند، فکر کنند. با این حال، حفظ هوش مصنوعی تنها مسئولیت سازنده نسل بعدی آن نخواهد بود. این امر به طور کامل بر عهده رهبران ملی نخواهد بود. در عوض، همه کسانی که تحت تأثیر آن قرار می گیرند (یعنی همه) برای ایجاد حرکت در پشت این تلاش بسیار مهم هستند. Containment ترکیبی از سیاست‌ها را ارائه می‌کند که می‌تواند از جزئیات دقیق یک مدل هوش مصنوعی تا برنامه‌های عمومی عظیمی که می‌توانند از تخریب گسترده مشاغل بکاهند، کار کند.
در مجموع، این پروژه ممکن است برابر با این لحظه باشد و بتواند با خطرات بسیاری که هوش مصنوعی ایجاد می کند مقابله کند. اثر تجمعی این اقدامات – که باید شامل رژیم‌های صدور مجوز، استخدام نسلی از شرکت‌ها با منتقدان، و ایجاد مکانیسم‌های داخلی برای تضمین دسترسی به سیستم‌های پیشرفته باشد – این است که بشریت را در صندلی راننده این مجموعه تغییرات عصری نگه می‌دارد. و قادر به نه گفتن است. هیچ یک از این مراحل آسان نخواهد بود. به هر حال، تکثیر کنترل نشده در طول تاریخ بشر پیش فرض بوده است. بنابراین مهار را نه باید به عنوان پاسخ نهایی برای همه مشکلات فناوری، بلکه به عنوان اولین گام حیاتی در نظر گرفت.
