سوگیری الگوریتمی

سوگیری الگوریتمی یعنی ماشین‌ها و کدهایی که قرار بود کاملاً بی‌طرف و منطقی باشند، مثل انسان‌ها دچار پیش‌داوری شوند. وقتی یک الگوریتم برای تصمیم‌گیری درباره قیمت‌گذاری، تایید معاملات یا رتبه‌بندی کاربران طراحی می‌شود، اگر داده‌هایی که به آن داده شده ناقص یا جهت‌دار باشد، خروجی نهایی به نفع یک گروه و به ضرر گروه دیگر خواهد بود. در واقع این اشتباه ناشی از ذهنیت طراحان یا کیفیت پایین اطلاعاتی است که سیستم از آن‌ها یاد گرفته است و در نتیجه، عدالتِ ادعایی در دنیای دیجیتال را زیر سوال می‌برد. این موضوع مستقیماً با امنیت دارایی و فرصت‌های مالی شما در ارتباط است؛ برای مثال، اگر یک ربات معامله‌گر در بازار رمزارزها طوری برنامه‌نویسی شده باشد که تفاوت نرخ دلار در بازار آزاد ایران و سامانه‌های رسمی را درک نکند، ممکن است در لحظات حساس، دارایی شما را با تحلیلی غلط و در قیمتی نامناسب به فروش برساند. همچنین در پلتفرم‌های وام‌دهی بین‌المللی، سوگیری الگوریتمی می‌تواند باعث شود که سیستم بدون بررسی توانایی مالی واقعی، صرفاً به دلیل موقعیت جغرافیایی یا آی‌پی ایران، امتیاز اعتباری کمتری به شما بدهد و عملاً شما را از دریافت تسهیلات محروم کند.