ربات ها برای یادگیری اصول اخلاقی کتاب می خوانند!

|
۰ دیدگاه
roboot

محققین هوش مصنوعی در مقاله ای عنوان کردند که برای القای اصول اخلاقی به ماشین ها در تلاش‌ اند.
به گزارش کلیک، مارک ریدل و برنت هریسون از مدرسه محاسبه تعاملی در موسسه تکنولوژی جورجیا، داستان هایی را در غالب یک الگوریتم AI به منظور آموزش وقایع زنجیره ای قابل قبول و کمک به درک چگونگی رفتار به صورت یک انسان ارائه کردند.
علیرغم هشدار های چندین دانشگاه بالا رتبه و کارآفرینان مبنی بر اینکه AI می تواند خطری برای زندگی بشر باشد، این هفته از این تحقیق در کنفرانس AAAI-16 در فونیکس آریزونا رونمایی شد. به گفته مدیر عامل شرکت تسلا ایلان، AI پیشرفته می تواند خطرناک تر از سلاح هسته ای باشد، در حالی که سال گذشته فیزیکدان استفن هاوکینگ ابراز داشت این ربات پایان بشریت را رقم خواهد زد.
برای رسیدگی به این تهدید، پروفسور رباتیک شناختی موری شاناهان، در امپریال کالج لندن، اظهار داشت که AI باید مانند انسان قادر به همدلی باشد. ریدل و هریسون معتقدند روش دستیابی به آن، آموزش اصول اخلاقی به کامپیوترها به روشی مشابه آموزش کودکان برای رفتار در جوامع بشری است.
ریدل در یک مطبوعات آزاد گفت: داستان های گردآوری شده از فرهنگ های مختلف با مثال هایی از رفتار های درست و نادرست در غالب داستان کوتاه، رمان و دیگر ادبیات به کودکان می آموزد که چگونه به صورت مورد قبول اجتماع رفتار کنند”.
ما معتقدیم درک داستان می تواند ظاهر شدن رفتار سایکوتیک در ربات ها را از بین ببرد و عوامل صدمه نزدن به انسان ها را تقویت کرده و موجب رسیدن به هدف موردنظر شود.
ریدل و هریسون سیستمی را به نام کیشوت (Quixote) توسعه دادند که می تواند رفتار کردن مانند شخصیت یک داستان را در مواجهه با انسان هابه ربات ها آموزش دهد. کیشوت براساس تحقیقات قبلی ریدل، “شهرزاد قصه گو” ساخته شد که از جمع آوری طرح های داستانی در اینترنت برای آموزش صحیح وقایع به سیستم های AI استفاده می کند.
با افزودن یک مکانسیم پاداشی به فرآیند تصمیم گیری، (با استفاده از یک “سیگنال پاداش” به رفتار های تقویتی معین) کیشوت AI را تشویق به رفتار کردن مثل یک پسر خوب می کند!
ریدل اظهار داشت: ما معتقدیم که AI باید برای اتخاذ ارزش های خاص جامعه و انجام صحیح آن ها و جلوگیری از رفتار غیرقابل قبول، فرهنگ سازی شود. دادن توانایی خواندن و درک کردن داستان های ما به ربات ها می تواند صلح آمیزترین مفهوم را در غیاب راهنمای کاربری انسانی داشته باشد.

منبع:msn

0 پسندیده شده
هدی زارعی.کارشناس ارشد زبان انگلیسی. علاقه مند به فناوری های پزشکی و بیولوژیکی.
از این نویسنده

بدون دیدگاه

جهت ارسال پیام و دیدگاه خود از طریق فرم زیر اقدام و موارد زیر را رعایت نمایید:
  • پر کردن موارد الزامی که با ستاره قرمز مشخص شده است اجباری است.
  • در صورتی که سوالی را در بخش دیدگاه مطرح کرده باشید در اولین فرصت به آن پاسخ داده خواهد شد.