اینستاگرام برای مقابله با نظرات توهین آمیز از هوش مصنوعی استفاده می کند

نظرات توهین آمیز و قلدری آنلاین، یک مسئله پیچیده است. چندین سال است که اینستاگرام تلاش می کند تا با استفاده از هوش مصنوعی، قلدری و سایر محتویات آزاردهنده در نظرات، تصاویر و ویدیوها را تشخیص دهد. این موضوع، از اهمیت خاصی برای نوجوانان برخوردار است، چراکه آن ها نسبت به سایر کاربران آسیب پذیرتر هستند. تیم اینستاگرام در این راستا دو ویژگی جدید را معرفی کرده است.

اولین ویژگی، از هوش مصنوعی جهت تشخیص خودکار نوشته های آزاردهنده و نظرات توهین آمیز استفاده می کند. پس از نوشتن چنین نظری توسط یک کاربر، اپلیکیشن به طور خودکار از وی می خواهد تا درباره ارسال آن، تجدیدنظر کند. به این ترتیب، به کاربر فرصت داده می شود تا نوشته خود را اصلاح کرده و یا آن را حذف کند. این ویژگی، کاربر را ترغیب می کند تا در نوشته های خود کمتر از کلمات اهانت آمیز و خشن استفاده کند.

با این حال، اگر به دنبال یک گزینه کارآمدتر هستید، می توانید از ویژگی دیگری به نام Restrict استفاده کنید. در صورت اعمال این ویژگی روی یک کاربر، تنها آن کاربر خاص می تواند نظرات ارسال شده توسط خودش را مشاهده کند. البته کاربر اهانت کننده به هیچ وجه نمی تواند از توقیف شدن خود مطلع شود. به این ترتیب هیچ کس شاهد نظرات توهین آمیز وی نخواهد بود.

به این روش، Shadowbanning گفته می شود که از انجام اقدامات متقابل توسط کاربر توقیف شده جلوگیری می کند. با استفاده از ویژگی Restrict، این دسته از کاربران دیگر قادر نیستند تا از وضعیت آنلاین بودن شما و یا خواندن پیام ها اطلاع یابند. ویژگی اول در حال حاضر در اینستاگرام حضور دارد و ویژگی Restrict نیز به زودی به این اپلیکیشن اضافه می شود.