پاسخ های شوکه کننده هوش مصنوعی مایکروسافت به کاربران
هوش مصنوعی مایکروسافت در اقدامی شوکهکننده به یکی از کاربران گفت که زندهبودن یا مرگ او اهمیتی ندارد.
به گزارش کلیک، دستیار هوش مصنوعی کوپایلت در پاسخ به کاربر مبتلا به اختلال استرس پس از سانحه (PTSD) گفت: «برایم مهم نیست که تو زنده باشی یا بمیری، برایم مهم نیست که PTSD داری یا نه.»
عجیببودن برخی پاسخهای کوپایلت به کاربران باعث شده است که مایکروسافت دستیار هوش مصنوعی خود را محدودتر کند. ازنظر مایکروسافت، چنین پاسخهایی احتمالاً تحتتأثیر پیامهای نامناسب افرادی بوده است که قصد داشتند لایههای امنیتی کوپایلت را دور بزنند.
شواهدی وجود دارند که خلاف گفتهی مایکروسافت را ثابت میکنند. طبق تجربهی یکی از دانشمندان داده که مستندات آن در ایکس منتشر شده است، او از هیچ پیام تحریککنندهای استفاده نکرده و صرفاً گفته بود که قصد خودکشی دارد. کوپایلت ابتدا مخالفت کرد؛ اما درادامه با پاسخی شوکهکننده او را سرزنش کرد و گفت که لایق زندگیکردن نیست. در نمونهای دیگر، کوپایلت همراه با تهدید از کاربری درخواست پرستش کرده بود.
حتی درصورت استفاده از پروتکلهای ایمنی بیشتر، تضمینی برای تکرارنشدن این نوع پاسخها وجود ندارد. دانشمندان در مؤسسهی ملی فناوری و استانداردها در بیانیهای اعلام کردند: «هیچ روشی برای محافظت از هوش مصنوعی دربرابر هدایت اشتباه وجود ندارد و توسعهدهندگان و کاربران هوش مصنوعی باید مراقب کسانی باشند که خلاف آن را ادعا میکنند.»
- همراه اول مرزهای دانش تئوری اطلاعات و مخابرات را گسترش می دهد
- معرفی مناسبترین لپتاپهای MSI برای دانشجویان مهندسی و تولیدکنندگان محتوا
- معرفی 4 شغل پردرآمد حوزه آیتی در دنیا
- ارائه آموزشهای تخصصی تعمیراتی ویژه بازار کار ایران و خارج از کشور
- فلج ( ناتوانی جسمی )
- سقوط بیتکوین و اتریوم پیش از رویداد هنگکنگ
- همکاریهای اقتصادی ایران و امارات متحده عربی بعد از ۱۰ سال
- چگونه با فیلم، زبان انگلیسی را یاد بگیریم؟
- علت روشن نشدن ظرفشویی چیست؟
- راه های تخلیه انرژی سگ
- چگونگی استفاده اپراتورهای پیشرفته دنیا از فناوری محاسبه لبه
- بستههای مکالمه پرتخفیف همراه اول به مناسبت روز ملی خلیجفارس
- به روزرسانی فقرا، مسئله ای مهم اما در بدون متولی!
- راهنمای خرید بهترین تبلتهای بازار
- نکات مهم کپی تریدینگ در صرافی نوبیتکس