ابداع الگوریتم‌هایی برای اصلاح رفتار هوش مصنوعی

هوش مصنوعی به خاطر پیشرفت الگوریتم‌های یادگیری ماشینی که رایانه‌ها را برای کارهایی مانند راندن خودرو، کنترل ربات‌ها یا تصمیم‌گیری خودکار آموزش می‌دهند، در حال ورود به حوزه تجاری است در هر حال همان گونه که هوش مصنوعی، اداره کارهای حساس را به دست می‌گیرد، می‌تواند پیامدهای منفی مانند تبعیض نژادی یا جنسیتی را نیز به همراه داشته باشد

“اما برونسکیل”(Emma Brunskill)، استادیار علوم رایانه دانشگاه استنفورد و از نویسندگان این پژوهش گفت ما قصد داریم هوش مصنوعی را آنقدر ارتقا دهیم تا بتواند ارزش‌های انسانی را رعایت کند و قابلیت لازم را برای استفاده در سیستم‌های خودران به دست آورد

فرضیه پژوهشگران این بود که اگر بتوان رفتارهای غیر ایمن یا ناعادلانه را به صورت ریاضی تعریف کرد، ابداع الگوریتم‌هایی که می‌توانند دوری از چنین رفتاری را از داده‌ها یاد بگیرند نیز باید امکان‌پذیر شود پژوهشگران تصمیم گرفتند روش‌هایی ابداع کنند که کاربران بتوانند با استفاده از آنها، رفتارهای نامطلوب را مشخص کنند و از عهده پیش‌بینی رفتار سیستم برآیند

مجله هوش مصنوعی