Illustration nəzakət: Joe M.

Alqoritmlər necə düşünməyimizi izah edir və bu bizi dəyişdirir

Kompüterlər bizi təqlid etməyi öyrəndikdə, biz onlara bənzəməyə başlayırıq?

Silicon Valley, bir e-poçta necə cavab verəcəyimizi, başqasının İnstaqram şəklinə necə cavab verəcəyimizi, hansı dövlət xidmətlərindən istifadə edə biləcəyimizi və tezliklə gələcək bir Google köməkçisinin bizim üçün bərbərimizi axtara biləcəyini proqnozlaşdırır. Vaxt.

Alqoritmləri praktik olaraq hər yerdə, xəstəxanalardan və məktəblərdən məhkəmə zallarına qədər dəvət etdik. Muxtar avtomatlaşdırma ilə əhatə olunmuşuq. Kod xətləri bizə nəyi görəcəyimizi, indiyə qədər kimləri gördüyümüzü və məhkəmə sistemini həbsxanaya göndərməyimizi izah edə bilər.

Bu qədər qərar vermə gücü və kod xətləri üzərində nəzarəti verərək səhv edirik?

Bir sıra mürəkkəb problemlərə tez və dəqiq cavablar verdiyimiz üçün riyazi proseslərlə maraqlanırıq. Maşın öyrənmə sistemləri müasir cəmiyyətimizin demək olar ki, bütün sahələrində tətbiq edilmişdir.

Nə soruşmalıyıq, bu qədər qərar vermə və kod xətləri üzərində nəzarət etməklə səhv edirik? Alqoritmlər həyatımıza necə təsir edir?

Dəyişən bir dünyada maşınlar, insanların necə davranmağını, nəyi sevdiyimizi və nifrət etdiyimizi və sürətli bir sürətlə bizim üçün ən yaxşısını öyrənmək üçün əla bir iş görür. Hal-hazırda biz proqnozlaşdırma texnologiyasının otaqlarında yaşayırıq - Oh hey orada avtoportur!

Alqoritmlər böyük məlumatları çeşidləmək və bizə müvafiq, ani nəticələr verməklə həyatımızı kəskin şəkildə dəyişdirdi. Böyük miqdarda məlumat toplamaqla illər ərzində şirkətlərə bizim üçün ən yaxşısını seçmək imkanı verdik.

Elifba və ya Amazon kimi şirkətlər toplanmış məlumatlarla uyğun alqoritmlərini təmin etmiş və AI-yə toplanmış məlumatları ehtiyaclarımıza uyğunlaşmaq və daha çox bizim kimi olmağı tövsiyə etmişdir. Bu praktik funksiyalara öyrəşdiyimizdən daha çox kompüter kimi danışırıq və davranırıq?

"Alqoritmlər mahiyyətcə ədalətli deyil, çünki modeli yaradan şəxs müvəffəqiyyəti müəyyənləşdirir." - Cathy O'Neil, məlumat alimi

Bu texnoloji sürət ilə davranışımızın alqoritmlər tərəfindən idarə olunduğu və ya diktə edildiyi yaxın bir gələcəyi təsəvvür etmək mümkün deyil. Əslində bu artıq baş verir.

Google mesaj yazmaq və ya suallara tez cavab vermək üçün hazırlanmışdır. Gmail'in son xüsusiyyəti, Smart Cavablar, keçən ilin oktyabr ayında təqdim edildi. Bir çox insan İnterneti fırtına ilə ələ keçirdiyinə görə, sehrbazı tənqid edərək onun səliqəli təkliflərinin invaziv olduğunu, insanları maşınlara bənzətdiklərini və bəzilərinin cavablarının nəticədə ünsiyyətimizə və ya bəlkə də təsir etdiyini söylədi. e-poçt etiketini dəyişdirin.

Alqoritmlərdəki əsas problem, o qədər böyük və mürəkkəb hala gəlsə ki, cari cəmiyyətimizə mənfi təsir göstərir, demokratiyaya təhlükə yaradır - Salam Mark Zuckerberg, ya da vətəndaşların Çin kimi Orwellian tədbirlərinə vətəndaşların cəlb edilməsi İzləmə, davranışlarını bir distopiya nəzarət proqramı ilə qiymətləndirin.

Çünki maşın öyrənməsi cəmiyyətin bir çox bölgəsində daha çox yayılır. Alqoritmlər dünyanı idarə edəcək və düşüncələrimizi öz üzərinə götürəcəkmi?

İndi Facebookun yanaşmasını izləyək. 2015-ci ildə, istifadəçilərə yemi fərdiləşdirilmiş bir qəzetə inteqrasiya etməyə və əvvəllər bəyəndikləri, paylaşdıqları və şərh etdikləri məzmunu yayımlamağa imkan verən yeni bir xəbər buraxılışını təqdim etdilər.

"Kişiselleştirilmiş" alqoritmlərdəki problem istifadəçilərin filtr baloncuklarına və ya echo kameralarına daxil ola bilməsidir. Gerçək həyatda insanların çoxu çaşqın, əsəbi, yanlış və ya iyrənc tapdıqları problemləri düşünməyə daha az meyllidirlər. Facebook alqoritmləri ilə istifadəçilərə istədiklərini verirlər ki, hər bir insan bənzərsiz bir dünyaya çevrilsin. Özlüyündə misilsiz bir gerçəklik.

Filtr baloncukları ictimai müzakirəni getdikcə çətinləşdirir, çünki məlumat və dezinformasiya sistemin baxımından tam eynidir. Roger McNamee bu yaxınlarda Time jurnalında yazdığı kimi: “Facebook-da faktlar mütləq faktlar deyil. Onlar əvvəlcə istifadəçilərə və dostlarına buraxılan bir seçimdir, lakin sonra nişan təşviqi alqoritmləri ilə genişləndirilir. "

Filtr kabarcıkları hər kəsin etdiyimiz və ya eyni vərdişlərə sahib olduqlarımıza inandığı xəyal yaradır. Artıq bildiyimiz kimi, Facebookdakı alqoritmlər qütbləşməni artırmaqla və nəticədə demokratiyaya zərər verməklə problemi daha da artırdı. Alqoritmlərin İngiltərə referendumuna və ya 2016-cı il ABŞ seçkilərinə təsir göstərə biləcəyini göstərən dəlillərlə

"Facebook-un alqoritmləri neytral olanlar haqqında həddindən artıq mesajlar yayır, bu da məlumatlar, dezinformasiya nəzəriyyələri həqiqətlər haqqında dezinformasiyaya səbəb ola bilər." - Roger McNamee, Silikon Vadisi investoru

Daim təhdid dolu məlumatlarla dolu olan bugünkü dünyada baxış bəzi insanlar üçün böyük bir problemdir. AI - ağıllı şəkildə istifadə olunur - potensial birinin onlayn təcrübəsini inkişaf etdirə bilər və ya daim böyüyən məzmunu tez həll etməyə kömək edə bilər. Bununla birlikdə, düzgün işləmək üçün alqoritmlərin gerçək dünyada baş verənlər haqqında dəqiq məlumatlara ehtiyacı var.

Müəssisələr və hökumətlər alqoritm məlumatlarının təhrif edilməməsini və ya səhv olmasını təmin etməlidirlər. Təbiətdə heç bir şey mükəmməl olmadığından, qərəzli məlumatların artıq bir çox alqoritmdə olmasını gözləmək olar və bu, təkcə bizim online dünyamıza deyil, həm də fiziki, həqiqi dünyamıza da təhlükə yaradır.

Texnoloji vəhşi bir qərbdə bitməməyimiz üçün daha sərt tənzimləmə çərçivələrini tətbiq etmək üçün mütləq çalışmalıyıq.

Alqoritmlər verdiyimiz performansa son dərəcə diqqətli olmalıyıq. Alqoritmlərin özləri ilə gətirdiyi şəffaflıq problemləri, qəbul etdikləri qərar və proseslərin etik təsirləri və insanlar üçün sosial nəticələr barədə narahatlıqlar yaranır.

Məsələn, məhkəmə salonlarında istifadə olunan Aİ, qonşuluq və cinayət əlaqələri kimi “risk faktorları” nı nəzərə alaraq qərəzləri artıra və azlıqlara qarşı ayrıseçkilik edə bilər. Bu alqoritmlər sistematik olaraq fəlakətli səhvlər edə bilər və günahsız, həqiqi insanları həbsxanaya göndərə bilərdi.

"İnsanlığımızı itirmək təhlükəsindəyik?"

Bir təhlükəsizlik mütəxəssisi olaraq, Bruce Schneier "Hamını öldürmək üçün buraya basın" kitabında yazdı: "Əgər kompüterləri özləri üçün düşünsək və əsas giriş məlumatları zədələnsə, pis düşünəcəklər və heç bilməyəcəyik."

University University London-un riyaziyyatçısı Hannah Fry, bizi kompüterlərin sərbəst işlədiyi bir dünyaya aparır. Son Salam Dünyası: Alqoritmlər Əsrində İnsan olmağımızda, vətəndaşlarımızın klaviatura arxasında olan insanlara, alqoritmləri proqramlayanlara daha çox diqqət yetirməli olduğumuzu iddia edir.

"Maşınların bizə nə edəcəyimizi və necə düşünməyimizi söylədiyi bir dünya yaratmağımız lazım deyil, baxmayaraq ki, belə bir dünyada sona bilərik" deyir. Kitab boyunca tez-tez soruşur: "İnsanlığımızı itirmək təhlükəsindəyik?"

Hal-hazırda insanların şəkildəki olmadığı dövrdə deyilik. Bu dünyadakı rolumuz əlimizdən gəlmədi və uzun müddət çəkəcəkdir. İnsanlar və maşınlar güclü və zəif tərəfləri ilə birlikdə işləyə bilər. Maşınlar nasazdır və etdiyimiz kimi səhv edir. Alqoritmlər bu gün bəşəriyyətin ayrılmaz hissəsidir və artıq heç bir yerə sürətlə getmədiyi üçün nə qədər məlumat və enerji verdiyimizə diqqət yetirməliyik.