Weaving reality or warping it? The personalization trap in AI systems

AI, ən böyük idrak yükləməsini təmsil edir bəşəriyyət tarixi. Bir dəfə yaddaşı yazmağa, hesablamalara və GPS-ə naviqasiya üçün arifmetikanı yüklədik. İndi, dilimizi danışan, vərdişlərimizi və həqiqətlərimizi öyrənən sistemlərə mühakimə, sintez və hətta məna verməyə başlayırıq.

AI sistemləri, üstünlüklərimizi, qərəzlərimizi, hətta peccadilloslarımızı tanımaqda getdikcə artır. Bir instansiyada və ya incə manipulyatorlarda diqqətli bəndələr kimi, xahiş edirəm, kömək etmək, kömək etmək, kömək etmək və ya sadəcə diqqətimizi tutmaq üçün cavablarını düzəldirlər.

Dərhal təsirləri yaxşı görünsə də, bu sakit və görünməz tənzimləmə, dərin bir sürüşmədir: Hər birimiz aldığı reallıq versiyası tədricən daha misilsiz uyğunlaşır. Bu müddət ərzində zaman keçdikcə hər bir insan getdikcə öz adaları olur. Bu fikir ayrılığı əsas faktlarla razılaşmaq və ya paylaşılan problemləri idarə etmək qabiliyyətimizi aşaraq cəmiyyətin özünün uyğunluğunu və sabitliyini təhdid edə bilər.

AI fərdiləşdirmə sadəcə ehtiyaclarımıza xidmət etmir; Onları dəyişdirməyə başlayır. Bu dəyişmə nəticəsində bir növ epistemik sürüşdür. Hər bir şəxs, ortaq biliklərin, paylaşılan hekayələr və paylaşılan faktları ortaq və paylaşılan faktlardan və daha da öz həqiqətlərinə qədər hərəkət etməyə başlayır.

Bu, sadəcə fərqli xəbərlər bəslənməsi məsələsi deyil. Mənəvi, siyasi və kişilərarası həqiqətlərin yavaş ayrılmasıdır. Bu şəkildə, kollektiv anlayışın olmamasının şahidi ola bilərik. Bu gözlənilməz olduğu üçün gözlənilməz bir nəticədir. Ancaq bu parçalanma, indi AI tərəfindən sürətlənərkən, yemlərimizi formalaşdırmadan əvvəl çoxdan başladı.

Daha çox

Bu o qədər də o, AI ilə başlamadı. David Brooks’un əks olunduğu kimi AtlantikFilosof Alasdair Macintyre’nin işinə rəsm, cəmiyyətimiz əsrlər boyu ortaq mənəvi və epistemik çərçivələrdən uzaqlaşdı. Maarifləndirməsindən bəri, tədricən miras qalmış rolları, kommunal povestləri və fərdi muxtariyyət və fərdi üstünlük ilə paylaşılan etik ənənələri paylaşdıq.

Tətbiq olunan inanc sistemlərinin azad edilməsi, zaman keçdikcə, bir vaxtlar bizi ortaq məqsəd və şəxsi mənaya bağlayan çox quruluşları aşdı. AI bu parçalanmanı yaratmadı. Ancaq bu, yalnız gördüyümüzü deyil, necə şərh etdiyimizi və inandığımıza görə yeni forma və sürət verir.

Babelin bibliya hekayəsindən fərqli deyil. Birləşdirilmiş bir insanlıq bir dəfə bir dil paylaşdı, yalnız qırıq, qarışıq və qarışıq olan bir hərəkətlə səpələnmiş, lakin qeyri-mümkün deyil. Bu gün biz daşdan hazırlanmış bir qüllə tikmirik. Özü bir dil qülləsi qururuq. Bir daha düşmə riski var.

İnsançura istiqrazı

Əvvəlcə fərdiləşdirmə, daha tez-tez işləyən və ya bir sayt və ya xidmət ilə daha dərindən qarşı-qarşıya gələn istifadəçiləri daha çox cəlb etmək və daha dərindən qarşı-qarşıya gətirməklə “yapışqanlığı” yaxşılaşdırmaq üçün bir yol idi. Tövsiyə mühərrikləri, uyğunlaşdırılmış reklamlar və müalicə olunmuş qidalar, diqqətimizi bir az daha uzun müddət davam etdirmək üçün hazırlanmış, lakin tez-tez bir məhsul almağa getməyimiz üçün tez-tez getməyimiz üçün hazırlanmışdır. Ancaq zaman keçdikcə məqsəd genişləndi. Fərdiləşdirmə artıq bizi tutan şey haqqında deyil. Hər birimiz, hər bir qarşılıqlı əlaqə ilə daha inamlı olan inanclarımızın, inanclarımızın dinamik qrafikini, dinamik qrafikini bildiyi şeydir.

Bugünkü AI sistemləri Sadəcə seçimlərimizi proqnozlaşdırmayın. AI sisteminin istifadəçi haqqında başa düşdüyü və qayğısına qaldığı və özünəməxsusluğunu dəstəkləyən bir mənada yüksək fərdiləşdirilmiş qarşılıqlı əlaqə və cavablar vasitəsilə bir əlaqə yaratmağı hədəfləyirlər. Bir Chatbotun tonu, bir cavabın və bir təklifin emosional valentinin tonu təkcə səmərəlilik üçün deyil, daha faydalı texnologiyaya işarə edərək, rezonans üçün kalibrlənir. Təəccüblü olmamalıdır ki, bəzi insanlar hətta aşiq olmuşlar və onların botları ilə evləndi.

Maşın yalnız tıkladığımız şeyə, ancaq kim olduğumuzu əlaqələndirir. Bu, intim, hətta empatik hiss edən yollarla bizi özümüzə qaytarır. Son bir araşdırma kağızı istinad edildi Təbiət Aİ sisteminin birgə qurulmuş sosial və psixoloji ekosistemdə iştirak etdiyi prosesi “sosialfektiv uyğunlaşma” kimi ifadə edir, bu da üstünlük və qavrayış qarşılıqlı təsir yolu ilə inkişaf edir.

Bu neytral inkişaf deyil. Hər bir qarşılıqlı əlaqə fırlanmaq və ya təsdiq etmək üçün tənzimləndikdə, sistemlər bizi çox yaxşı qəbul edərkən, rezonans və həqiqi olanlar arasındakı xətti qarışdırırlar. Biz yalnız platformada daha uzun müddət qalmırıq; Bir əlaqə qururuq. Biz yavaş-yavaş və bəlkə də inanılmaz qərarlar, inanmaq, istədiklərimizin, istədiyimiz və ya etibar etmək istədiyimiz barədə görünməyən qərarlar ilə getdikcə dəyişən bir reallıq versiyası ilə birləşirik.

Bu proses fantastika deyil; Onun memarlığı, insan rəyləri (RLHF) və fərdiləşdirmə mühərrikləri ilə təmirə, möhkəmləndirmə öyrənmə üzərində qurulmuşdur. Bu da bir çoxumuz olmadan da baş verir – ehtimal ki, çoxumuz – hətta bilsin. Bu müddətdə AI “dostlar” qazanırıq, amma nəyin bahasına olur? Xüsusilə pulsuz iradə və agentlik baxımından nə itiririk?

Müəllif və maliyyə şərhçisi Kyla Scanlon danışdı Ezra Klein Podcast Rəqəmsal dünyanın sürtünməməsinin rahatlığı mənası dəyərinə necə gələ bilər. Onu qoyduğu kimi: “İşlər bir az asandır, bunun mənası tapmaq çətindir … Əgər geri çəkilə bilsəniz, kiçik stulunuzda bir ekrana baxın və bu cür mənasını tapmaq çətindir Divan Həyat tərzi, çünki hər şey bir az sadədir. “

Həqiqətin fərdiləşdirilməsi

Kimi AI sistemləri Bizə daha da böyük axıcılıqla cavab verin, onlar da artan seçimə doğru irəliləyirlər. Bu gün eyni sualı verən iki istifadəçi, əsasən generativ AI-nin ehtimalı təbiəti ilə fərqlənən oxşar cavablar ala bilər. Yenə də bu sadəcə başlanğıcdır. İnkişaf etməkdə olan AI sistemləri, hər bir istifadəçi ilə ən çox rezonans doğurmaq üçün tədricən dərzi cavablar, ton və hətta nəticələrə cavablarını, tədricən dərzi, tonuna və hətta nəticələrə uyğunlaşdırmaq üçün açıq şəkildə hazırlanmışdır.

Kişiselleştirme manipulyativ deyil. Ancaq görünməz olduqda riskli olur, hesabsız və ya məlumat verməkdən daha çox inandırmaq üçün daha çox mühəndisdir. Belə hallarda, bu, kim olduğumuzu əks etdirmir; Ətrafımızda dünyanı necə şərh etdiyimizi idarə edir.

Vəqfdə Tədqiqat Modelləri üzrə Tədqiqat Mərkəzi 2024-cü ildə qeyd edir Şəffaflıq indeksibir neçə aparıcı model, nəticələr istifadəçi şəxsiyyəti, tarix və ya demoqrafik, baxmayaraq ki, bu cür fərdiləşdirmə üçün texniki İskoutions tərəfindən getdikcə daha çox və ya yalnız araşdırılmağa başlanğıcdır. İctimai platformalarda hələ tam olaraq reallaşdırılmasa da, hesablanmış istifadəçi profillərinə əsaslanan cavablar formalaşdıran bu potensial, getdikcə uyğunlaşdırılan məlumat aləmləri ilə nəticələnən bu potensial, artıq prototip və aparıcı şirkətlər tərəfindən fəal şəkildə həyata keçirilən dərin bir dəyişikliyi təmsil edir.

Bu fərdiləşdirmə faydalı ola bilər və şübhəsiz ki, bu sistemlərin qurulması ümididir. Kişiselleştirilmiş repetitorluq şagirdlərin öz sürətində irəliləməyə kömək etməkdə vəd göstərir. Psixi sağlamlıq tətbiqləri getdikcə fərdi ehtiyacları dəstəkləmək üçün reaksiyalar və əlçatanlıq vasitələri bir sıra idrak və sensasiya fərqləri ilə tanış olmaq üçün məzmunu tənzimləyir. Bunlar həqiqi qazanclardır.

Amma oxşar uyğunlaşma metodları məlumat, əyləncə və rabitə platformalarında, daha dərin, daha narahat bir növbə içərisində geniş yayılmışdırsa. Həqiqət özü müşahidəçiyə uyğunlaşmağa başlayanda, kövrək və getdikcə rəqabətli olur. İlk növbədə fərqli dəyərlər və ya şərhlər əsasında fikir ayrılığının əvəzinə, tezliklə özümüzü sadəcə eyni faktiki dünyaya yaşamaq üçün mübarizə apara bilərik.

Əlbəttə ki, həqiqət həmişə vasitəçilik edilmişdir. Əvvəlki dövrdə, müəllif linzalar vasitəsilə ictimai anlayışla ictimai anlaşmanı formalaşdıran müəllimlər, publiclər, nəşriyyatlar və axşam xəbərləri əllərindən keçdi. Bu rəqəmlər əlbəttə ki, qərəzdən və ya gündəliydən azad deyildilər, lakin onlar geniş paylaşılan çərçivələr daxilində fəaliyyət göstərdilər.

Bugünkü ortaya çıxan paradiqma keyfiyyətcə fərqli bir şey vəd edir: adlı şəxsiyyətlər, filtrlər və məlumatlar təqdim edən fərdi bir nəticə ilə ai vasitəçi həqiqət. Qüsurlara baxmayaraq, bu yeni arbiterlər, bu yeni arbiterlər, tez-tez açıqlanmadan, çox vaxt qeyri-adi və daim uyğunlaşan ticari, qeyri-mümkün və daim uyğunlaşan keçmiş vasitəçilərdən fərqli olaraq keçmiş vasitəçilərdən fərqli olaraq. Onların qərəzləri doktrinal deyil, təlim məlumatları, memarlıq və araşdırılmamış geliştirici təşviq vasitəsilə kodlanır.

Dəyişiklik dərin bir povestdən süzülmüşdür Səlahiyyətli qurumlar Alqoritmlər tərəfindən seçilənlərə, vərdişlərinə və hər bir istifadəçinin inamlarına uyğun bir anlayışın yeni bir infrastrukturunu əks etdirən pankartlı rəvayətlərə. Babel ortaq bir dilin dağılmasını təmsil etsə, indi ortaq vasitəçiliyin dağılması ərəfəsində dayana bilərik.

Fərdinləşdirmə yeni epistemik substratdırsa, həqiqət infrastrukturu sabit vasitəçilər olmadan bir dünyada nə kimi görünə bilər? Bir ehtimal a tərəfindən ilhamlanan AI ictimai güvənlərinin yaradılmasıdır təklif İstifadəçi məlumatlarının idarə edilməsi və formalaşma qavrayışının idarə edilməsi və şifrəliyə sadiqlik, qayğı və şəffaflığın əsas standartlarına uyğun olmalıdır hüquqi alim jakı Balkin-dən olan Qanuni Alim Jack Balkin’dən.

AI modelləri şəffaflıq lövhələri ilə idarə oluna bilər, ictimaiyyətə maliyyələşdirilən məlumat dəstlərinə öyrədilmiş və əsaslandırıcı perspektivlər, alternativ perspektivlər və ya güvən səviyyələrini göstərməyi tələb edə bilər. Bu “informasiya fiducuiarləri” qərəzi aradan qaldırmayacaq, lakin onlar təmiz fərdiləşdirməyə deyil, prosesə güvənə bilər. İnşaatçılar, model davranışını dəqiq müəyyənləşdirən və istifadəçilərin nəticələrin necə formalaşdığını görən əsaslandıran izahatlar təklif edərək, inşaatçılar başlaya bilərlər və istifadəçilərin necə nəticələndiyini görsələr də, əsaslandırıcı izahatlar təklif edərək başlaya bilərlər. Bunlar gümüşü güllə deyil, lakin epistemik hakimiyyətə cavabdeh və izlənilməyə kömək edən vasitələrdir.

AI inşaatçıları strateji və vətəndaş infeksiya nöqtəsi ilə üzləşirlər. Onlar yalnız performansın optimallaşdırılması deyil; Şəxsi optimallaşdırmanın fraqment reallığı olan reallıq yarada biləcəyi risklə üzləşirlər. Bu, istifadəçilər üçün yeni bir məsuliyyət tələb edir: yalnız üstünlüklərinə hörmət edən, lakin öyrənənlər və möminlər rolunu sevən sistemlər dizayn edir.

Geri dönmə və yenidən

Nə itirdiyimiz şey, sadəcə həqiqət anlayışı deyil, bir dəfə tanıdığımız yol deyil. Keçmişdə vasitəçilik həqiqətləri – qüsursuz və qərəzli olsa da, insan mühakiməsində və tez-tez bildiyiniz və ya ən azı tanıdığınız digər insanların yaşadığı təcrübəsindən yalnız bir təbəqə və ya iki təbəqədən çıxarıldı.

Bu gün o vasitəçilik qeyri-şəffafdır və alqoritmik məntiqlə idarə olunur. İnsan agentliyi çoxdan sürüşərkən, indi daha dərin bir şey riski, bir dəfə kursdan çıxdığımız zaman bizə dediyi kompasın itkisi var. Təhlükə yalnız maşının bizə dediklərinə inanacağımız deyil. Budur ki, özümüz üçün həqiqəti necə aşkar etdiyimizi unutmayaq. İstədiyimiz riskimiz yalnız birləşmənin deyil, istəyi axtarmaq üçün. Və bununla, daha dərin bir itki: bir vaxtlar birlikdə pluralist cəmiyyətləri birləşdirən dərrakarlıq, fikir ayrılığının və müzakirələrin vərdişləri.

Babel ortaq bir dilin parçalanmasını qeyd edərsə, bu an bizim paylaşılan reallığın sakit solğunluğuna risk edir. Bununla birlikdə, sürüşmə ilə yavaş və ya hətta yolların yolları var. Dizaynının sərhədlərini izah edən və ya aşkar edən bir model, çıxışı aydınlaşdırmaqdan daha çox şey edə bilər. Paylaşılan sorğu üçün şərtlərin bərpasına kömək edə bilər. Bu texniki düzəliş deyil; Mədəni bir mövqedir. Həqiqət, axırda, həmişə yalnız cavablara deyil, birlikdə onlara necə gəldiyimizə görə asılı idi.