A mesterséges intelligencián alapuló algoritmusok behálózzák világunkat, egyre inkább ezek alakítják, irányítják, vezérlik életünket, választásainkat, döntéseinket, gondolkodásunkat, vágyainkat, érzéseinket. Hogyan hat ez intim kapcsolatainkra? Anthony Elliott Algorithmic Intimacy: The Digital Revolution in Personal Relationships című könyvét ajánljuk.
Algoritmusok. Az „algoritmus” matematikai-informatikai terminus, melynek megvan a maga szaktudományos jelentése. Közkeletűen olyan utasítássorozatot jelent, amely megadja azokat a műveletek, amelyeket lépésről-lépésre végre kell hajtanunk ahhoz, hogy valami megvalósuljon, megtörténjen, létrejöjjön. Ebben az értelemben a tojásrántotta receptje vagy a büntetőeljárás-jog éppúgy algoritmus, mint a laptopjainkba vagy mobiltelefonjainkba programozott, azok használatát lehetővé tevő parancssorok.
A mesterséges intelligencián alapuló algoritmusok sajátossága, hogy nem csupán előzetesen megadott parancsokat foglalnak magukba, hanem olyan műveleteket is, melyeket összefoglalóan gépi tanulásnak nevezünk. Ezen azt érjük, hogy az algoritmust nem mi tanítjuk be, hanem az működése közben tanulja meg azonosítani, fölismerni a megfigyelt adatok közötti kapcsolatokat, megtalálni az összefüggéseket, mintákat, vagyis anélkül végzi el a feladatot, hogy ehhez előre bele kellene kódolnunk egyértelműen megfogalmazott eljárásokat, szabályokat.
A gépi tanulási, avagy az öntanuló algoritmusok nem gépiesen, mechanikusan működnek,
nem ugyanazon beprogramozott parancssort futtatják le újra meg újra, ha esik, ha fúj, hanem újraprogramozzák magukat, algoritmusokat generálva maguk is. Bizonyos értelemben cselekednek: nem előre megadott, rögzített módon, következésképp kiszámíthatóan hajtanak végre parancsokat, utasításokat, hanem úgy, mint mi, emberek, kik nem feltétlenül s mindig vakon követjük a szabályokat, keresztülhúzván a várakozásokat vagy az elvárásokat. A mesterséges intelligencián alapuló algoritmusok ily módon képesek adatok között olyan kapcsolatokat, összefüggéseket, mintázatokat találni, amelyek túl bonyolultak, összetettek ahhoz, hogy mi, emberek meglássuk, fölismerjük vagy akárcsak megsejtsük: képesek minket meglepni, arcul csapni.
Hogy hogyan csinálják, azt igazából senki se tudja, még az algoritmusokat létrehozó szakemberek sem, amiért is az öntanuló, avagy gépi tanulási algoritmusok használata egyfajta kiszámíthatatlansággal, előreláthatatlansággal, bizonytalansággal és kockázattal jár. Például az ilyesfajta algoritmusokkal működő automatizált döntési rendszerek adott esetben szisztematikusan diszkriminálnak, jóllehet megalkotóik nem kódolták beléjük a diszkriminációt. Ez nemcsak normatív szempontból problémás, hanem egyszerűen hibás, rossz döntésekhez is vezethet. Mindezek ellenére állami és nem állami szervezetek, cégek, vállalatok, futballklubok, bankok, bíróságok, rendőrségek előszeretettel használnak automatizált döntési rendszereket, melyek például annak eldöntésében segítenek, hogy megkapjon-e valaki egy áruhitelt vagy egy kölcsönt, ki az ideális jelölt egy adott pozícióra egy vállalatban vagy egy focicsapatban, visszaeső lesz-e a szabadlábra helyezett elítélt.
Intimitás. Az automatizált döntési rendszerekben is működő, ún. prediktív algoritmusok ma egyre inkább szerves részeivé válnak hétköznapi, személyes és intim életünknek egyaránt. Eszközök, alkalmazások garmadáját használjuk, melyeket működtető algoritmusok figyelemmel kísérnek minket, felmérik, mi/ki iránt érdeklődünk, mire/kire vágyunk, kit/mit szeretünk, mivel/kivel szimpatizálunk, kiket/miket preferálunk, és előre jelzik, kiszámítják, mi/ki iránt, mire/kire, kit/mit, kivel/mivel fogunk: kiismerik vágyainkat, érzéseinket, érdeklődésünket, anélkül, hogy beköltöznének vagy belelátnának agyunkba, elménkbe, lelkünkbe, testünkbe.
Milyen hatással van mindez személyes, intim kapcsolatainkra,
hogyan formálják, alakítják át a világunkat, benne minket behálózó prediktív algoritmusok személyes, intim életünket,
azt, ahogy ezt az életet éljük és megéljük, valamint azt, ahogy erről az életről és magáról az intimitásról gondolkodunk? Ez Elliott Algorithmic Intimacy: The Digital Revolution in Personal Relationship című könyvének tárgya.
Algoritmikus intimitás. Elliott az ember-nemember, ember-algoritmus interfészein keresztül létrejövő intim kapcsolatokat nevezi algoritmikus intimitásnak. Ez a fajta intimitás digitálisan rögzített és tárolt adatokon, az azokat elemző, osztályozó (profilírozó), döntéshozó és előrejelző (prediktív) algoritmusokon alapul, vagyis olyan intimitás, amely adattá alakítás és az adatokon végzett műveletek által képződik, formálódik.
De miféle intimitás ez? Mik a jellemzői, sajátosságai? Miben különbözik az algoritmikus intimitás a hagyományostól? Hogy erre megfelelő választ adjunk, nem követhetjük vakon Elliottot, de azokat sem, akiket alább név nélkül megidézünk.
(1) Kapcsolatmérnökség. Míg a hagyományos intim kapcsolatok kockázatokkal és meglepetésekkel teliek, bennük úgyszólván minden megtörténhet, az algoritmusok valamiféle kiszámíthatóságot, biztonságot, sematizmust, automatizmust visznek az intimitásba.
Ámde, mint tudjuk, az algoritmusok is meg tudnak lepni minket, képesek járatlan utakra vinni, nem szólva arról, hogy az intim kapcsolatok színteréül szolgáló interfészek a kísérletezés, felfedezés terepévé lettek: a virtuális térben olyasmik próbálhatók ki és élhetők meg (anonim és törölhető profilok leple mögött), amik a való életben valamiért nem. Így, egyfelől,
az algoritmikus intimitásban is benne van a váratlanság, a kiszámíthatatlanság,
ha másként nem, hát azzal, hogy partnerünk, kit fizikai-testi valójában bár sohasem láttunk, érintettünk, tán nem is hús-vér személy, mégis kötődünk hozzá, akár érzelmileg is, egyik pillanatról másikra, szó nélkül és örökre eltűnhet, csalódást, hiányt, űrt hagyva maga után. A hagyományos intimitásban pedig, másfelől, van valamiféle kiszámíthatóság, még ha mi nem is tudunk róla, nem látjuk meg, fedezzük föl benne a mintázatot.
A mesterséges intelligencián alapuló, gépi tanulási algoritmusok tehát azzal szembesítenek, hogy
bennük több a kiszámíthatatlanság, bennünk meg több a kiszámíthatóság, mint gondolnánk,
amiért is a kapcsolatmérnökség elliotti kifejezése óvilági, nem ragadja meg az algoritmikus intimitás sajátosságát.
(2) Arctalanság és testetlenség. Az algoritmusoknak, melyek aktív résztvevői az intim kapcsolatoknak, nincs arcuk, mint a Másiknak: láthatatlanul – színfalak mögött és fekete dobozként – működnek, szólnak bele, irányítanak, vezetnek, mutatnak utat, terelnek, ösztönöznek, gyakorolnak hatást, befolyást, hatalmat. Ágensek, mert bizonyos értelemben cselekednek, de nincs testük, nincs arcuk. Ezért meglehetősen nehéz is vizuálisan megjeleníteni az algoritmusokat, például egy thrillerben, ellentétben a robotokkal vagy idegen lényekkel. Ám ami ennél lényegesebb, és igazán megrendítő, az az, hogy
az algoritmusok anélkül is megszólítanak, kizökkentenek, hogy arcuk lenne vagy arcok lennének.
(3) Többes abszolút jelenlét. A face to face, kivált az intim kapcsolat alapvető feltétele a figyelem, az, hogy a Másikra figyelek, csak rá, a virtuális térben zajló intim kapcsolatnak viszont nem. Az előbbi esetben mondhatjuk, hogy a Másik igényli az abszolút jelenlétet, mely a többivel összeegyeztethetetlen, nem logikailag, hanem gyakorlatilag: ha valakihez odafordulok, akkor a többiektől elfordulok, és minél inkább odafordulok ehhez a valakihez, annál inkább elfordulok a többiektől; a virtuális térben viszont egyidejűleg odafordulhatok többekhez, itt lehetséges a többes abszolút jelenlét. Így aztán
míg a hagyományos intimitás a monogám kapcsolatot modellezi, addig az algoritmikus intimitás a poligámiát vagy a gruppenszexet.
(4) Önazonosság és másság. A hagyományos én-te kapcsolat, intimitás olyan viszony modellje, amelyben mindenki önmaga lehet, magát adhatja, teljesen az lehet, aki, vagy olyan viszony modellje, amelyben megmutatkozik a Másik mássága. Az algoritmikus intim kapcsolatokban viszont az Én bárki lehet anélkül, hogy bármelyik Te tudhatná, magát adja-e, egyáltalán ki lenne, van-e ez a maga,
a másság pedig anélkül tapasztalható, hogy az egy Te-nek vagy egy Másiknak lenne tulajdonítható.
Elliott könyve összességében azt a kérdést járja körbe, hogy a mesterséges intelligencián alapuló, prediktív algoritmusok miként formálják vagy alakítják át a személyes, intim életünket, beleértve ebbe mind ezen élet élését és megélését, mind ezen életre vonatkozó elgondolásokat. Minél tisztább képet kapunk erről, ez Elliott elemzéseinek általa ki nem mondott csattanója, annál kevésbé lehetséges egyszerűen nem igazinak és pótléknak nevezni az algoritmikus intimitást, s annál megkerülhetetlenebb és mellbevágóbb lesz a kérdés:
nem rengeti-e meg az algoritmikus intimitás azon filozófiai és szociológiai elméleteket, amelyek a face to face, Én-Te, Én-Másik viszonyban horgonyozták le magukat, e viszony leírásában-elemzésében vertek gyökeret,
szóljanak ezek akár vágyról, szerelemről, érzékiségről, nemiségről, önazonosságról, másságról, ontológiáról vagy etikáról?
[Képek forrása: pixabay.com]
Ajánlott olvasmányok:
Elliott, Anthony: The Culture of AI. Everyday Life and the Digital Revolution. (Könyvtárunkból kölcsönözhető.)
Vespignani, Alessandro: A jóslás algoritmusa. Hogyan befolyásolható a jövő a tudomány segítségével. (Könyvtárunkból kölcsönözhető.)
McEwan, Ian: Mi, gépek. (Könyvtárunkból kölcsönözhető.)
