ربات ها برای یادگیری اصول اخلاقی کتاب می خوانند!

محققین هوش مصنوعی در مقاله ای عنوان کردند که برای القای اصول اخلاقی به ماشین ها در تلاش‌ اند.
به گزارش کلیک، مارک ریدل و برنت هریسون از مدرسه محاسبه تعاملی در موسسه تکنولوژی جورجیا، داستان هایی را در غالب یک الگوریتم AI به منظور آموزش وقایع زنجیره ای قابل قبول و کمک به درک چگونگی رفتار به صورت یک انسان ارائه کردند.
علیرغم هشدار های چندین دانشگاه بالا رتبه و کارآفرینان مبنی بر اینکه AI می تواند خطری برای زندگی بشر باشد، این هفته از این تحقیق در کنفرانس AAAI-16 در فونیکس آریزونا رونمایی شد. به گفته مدیر عامل شرکت تسلا ایلان، AI پیشرفته می تواند خطرناک تر از سلاح هسته ای باشد، در حالی که سال گذشته فیزیکدان استفن هاوکینگ ابراز داشت این ربات پایان بشریت را رقم خواهد زد.
برای رسیدگی به این تهدید، پروفسور رباتیک شناختی موری شاناهان، در امپریال کالج لندن، اظهار داشت که AI باید مانند انسان قادر به همدلی باشد. ریدل و هریسون معتقدند روش دستیابی به آن، آموزش اصول اخلاقی به کامپیوترها به روشی مشابه آموزش کودکان برای رفتار در جوامع بشری است.
ریدل در یک مطبوعات آزاد گفت: داستان های گردآوری شده از فرهنگ های مختلف با مثال هایی از رفتار های درست و نادرست در غالب داستان کوتاه، رمان و دیگر ادبیات به کودکان می آموزد که چگونه به صورت مورد قبول اجتماع رفتار کنند”.
ما معتقدیم درک داستان می تواند ظاهر شدن رفتار سایکوتیک در ربات ها را از بین ببرد و عوامل صدمه نزدن به انسان ها را تقویت کرده و موجب رسیدن به هدف موردنظر شود.
ریدل و هریسون سیستمی را به نام کیشوت (Quixote) توسعه دادند که می تواند رفتار کردن مانند شخصیت یک داستان را در مواجهه با انسان هابه ربات ها آموزش دهد. کیشوت براساس تحقیقات قبلی ریدل، “شهرزاد قصه گو” ساخته شد که از جمع آوری طرح های داستانی در اینترنت برای آموزش صحیح وقایع به سیستم های AI استفاده می کند.
با افزودن یک مکانسیم پاداشی به فرآیند تصمیم گیری، (با استفاده از یک “سیگنال پاداش” به رفتار های تقویتی معین) کیشوت AI را تشویق به رفتار کردن مثل یک پسر خوب می کند!
ریدل اظهار داشت: ما معتقدیم که AI باید برای اتخاذ ارزش های خاص جامعه و انجام صحیح آن ها و جلوگیری از رفتار غیرقابل قبول، فرهنگ سازی شود. دادن توانایی خواندن و درک کردن داستان های ما به ربات ها می تواند صلح آمیزترین مفهوم را در غیاب راهنمای کاربری انسانی داشته باشد.

منبع:msn



بدون دیدگاه