متخصصان هوش مصنوعی شرکت آمازون روز دوشنبه با یک بمب خبری دیگر در دنیای رسانه ظاهر شدند: الگوریتم هوش مصنوعی آنها حالا علاوه بر فن‌آوری بحث‌برانگیز تشخیص چهره، در کار تشخیص احساسات در چهره کاربران هم کارآمد شده و می‌تواند با هزینه ناچیزی – حدود یک‌هزارم دلار برای هر عکس – ترس را هم در چهره انسان‌ها تشخیص دهد. این هزینه برای مشتریانی که می‌خواهند بیش از یک میلیون عکس را برای تشخیص احساسات اسکن کنند، حتی از این هم پایین‌تر است.

از آنجایی که آمازون در میانه جنجالی سیاسی بر سر الگوریتم تشخیص چهره‌اش است، این خبر واکنش‌های گسترده‌ای برانگیخته است. این شرکت، سرویس تشخیص چهره‌اش موسوم به «رکاگنیشن» (Recognition) را به مشتریان بزرگی از جمله شرکت‌های تبلیغاتی و بازاریابی، آژانس‌های مهاجرت، واحدهای پلیس و نیروهای انتظامی‌در آمریکا و دیگر کشورها می‌فروشد و داده‌هایی که از این راه جمع‌آوری می‌کند؛ نگرانی‌ جدی کنشگران و سازمان‌های مدافع حریم خصوصی را در پی داشته است. شهرداری‌های سن‌فرانسیسکو و اوکلند در ایالت کالیفرنیا و سامرویل در ایالت ماساچوست در پی این نگرانی‌ها استفاده نیروهای انتظامی‌از الگوریتم‌های تشخیص چهره را ممنوع کرده‌اند.

سرویس رکاگنیشن پیش از این با اسکن تصاویر، سن و جنسیت را تشخیص می‌داد، اگرچه دقت و صحت‌ آن محل تردید بود، اما حالا با بسط این الگوریتم، آمازون می‌تواند احساسات را هم در دسته‌های گوناگون تشخیص دهد و تحلیل کند: خوشحال، غمگین، خشمگین، شگفت‌زده، آرام، منزجر و گیج، هفت حالتی است که این الگوریتم هوش مصنوعی برای تشخیص و تحلیل آن تربیت شده و حالا «ترس» هشتمین حسی است که به آن اضافه شده است.

آمازون البته اولین شرکت فناوری نیست که به برنامه‌نویسان امکان دسترسی به الگوریتم‌های تشخیص احساسات را می‌دهد. مایکروسافت از سال ۲۰۱۵ و گوگل از سال ۲۰۱۶ فعالیت خود را در این عرصه آغاز کرده‌اند. مساله اینجاست که روان‌شناسان هشدار می‌دهند که تلاش برای خواندن احساسات از روی چهره انسان‌ها تلاشی بیهوده و گم‌راه‌کننده است. 

پژوهشگران دانشگاه کالیفرنیا نشان داده‌اند که برای تشخیص دقیق احساسات از روی تصاویر ویدئویی باید علاوه بر چهره، به زبان بدن و تعامل انسان‌ها با محیط اطراف هم دقت کرد. اما غول‌های فناوری و الگوریتم‌های تشخیص احساسات آنها صرفا روی تحلیل چهره متمرکزند و هیچ پارامتر دیگری را در نظر نمی‌گیرند. 

مقاله‌ای که ماه گذشته در مجله «علوم روان‌شناسی» منتشر شد هم تایید می‌کند که نحوه ابراز احساسات در فرهنگ‌ها و موقعیت‌های مختلف و در میان ملل گوناگون، تفاوت‌های اساسی دارد و پیکربندی حرکات صورت، گاه می‌تواند نمایانگر بیش از یک مقوله یا حالت از احساسات باشد. متخصصان با تکیه بر این واقعیت‌ها می‌گویند تلاش شرکت‌هایی نظیر آمازون برای خواندن احساسات انسان‌ها از روی چهره، در خوش‌بینانه‌ترین حالت، ناقص، و در بدبینانه‌ترین حالت کاملا بی‌اعتبار است، صرف‌نظر از آن‌که الگوریتم پشت آنها چقدر حرفه‌ای و منسجم باشد.

آمازون تا کنون ثابت کرده که چندان در بند قیدهای اخلاقی نیست و افزایش درآمد را بسیار بیش‌تر از پای‌بندی به اخلاقیات مد نظر دارد. از آنجایی که الگوریتم تشخیص احساسات شرکت آمازون علاوه بر تبلیغات‌چی‌ها در دست نیروهای پلیس هم خواهد بود، گروه‌های مدافع حریم خصوصی هشدار می‌دهند که این الگوریتم می‌تواند منشا رفتارهای تبعیض‌آمیز بسیاری باشد و زمینه ظلم به بسیاری از بی‌گناهان را فراهم آورد. 

این الگوریتم پیش‌تر نشان داده که ضریب خطای آن هنگام تحلیل چهره و احساس افرادی که پوست تیره‌تری دارند، به‌طور چشم‌گیری افزایش می‌یابد. به همین دلیل است که گروه‌هایی نظیر «نبرد برای آینده» (Fight for the Future) خواستار ممنوعیت کامل و بی‌قید و شرط استفاده از سیستم‌های تشخیص چهره و تحلیل احساسات شده‌اند.

نظرات

لطفا نظر خود را در رابطه با اين موضوع با ما در ميان بگذاريد.

ایمیل شما توسط دیگران دیده نخواهد شد