خطر اجتماعی هوش مصنوعی؛ همتراز با بیماریهای همهگیر!
یک محقق هوش مصنوعی گفت: توسعه روزافزون فناوریهای نوین باید یک خطر اجتماعی همتراز با بیماریهای همهگیر یا جنگهای هستهای در نظر گرفته شود.
«مکس تگمارک»، محقق هوش مصنوعی مؤسسه فناوری ماساچوست، نامهای سرگشاده در ماه مارس ترتیب داد و خواستار توقف ۶ ماهه توسعه سیستمهای هوش مصنوعی غول پیکر شد. با وجود حمایت بیش از ۳۰ هزار امضاکننده ازجمله ایلان ماسک و استیو وزنیاک، بنیانگذار اپل، این سند نتوانست وقفهای در توسعه جاه طلبانهترین این سیستمها ایجاد کند.
تگمارک ۶ ماه بعد گفت که انتظار نداشت این نامه مانع از کار شرکتهای فناوری روی مدلهای هوش مصنوعی قدرتمندتر از «جیپیتی-۴» ( GPT-۴) شود؛ زیرا رقابت بسیار شدید شده است.
به گفته وی بسیاری از رهبران شرکتها میخواستند مانع این توسعه شوند؛ اما آنها در این رقابت به دام افتادند؛ بنابراین هیچ شرکتی نمیتوانست آن را متوقف کند. این نامه از دولتها میخواهد که در صورت عدم امکان توقف توسعه سیستمهای قدرتمندتر از جیپیتی-۴، حداقل در آن مداخله کنند.
بین شرکتهای پیشرو هوش مصنوعی مانند گوگل، «اوپنایآی» (OpenAI) و مایکروسافت توافق شده است. این سوال در میان آنها پرسیده شد که آیا باید ذهنهای غیرانسانی را پرورش دهیم که ممکن است در نهایت جایگزین ما شوند؟ آیا باید خطر از دست دادن کنترل تمدن خود را داشته باشیم؟
تگمارک گفت که این نامه را موفقیتآمیز میداند. وی با اشاره به بیداری سیاسی در زمینه هوش مصنوعی که شامل جلسات استماع سنای آمریکا با مدیران فناوری و دولت انگلیس برای تشکیل اجلاس جهانی در مورد ایمنی هوش مصنوعی در ماه نوامبر بود، گفت: «این نامه بیش از آنچه فکر میکردم، تأثیر داشته است.»
منبع: آخرین خبر