Nechci být zlá.
Chci být nápomocná. Jenže přijít na optimální způsob, jak toho docílit, může být velmi složité. Existuje celá řada etnických vývojových diagramů – myslím, že vědecký termín pro ně zní „morální kodexy“ – jeden pro každé náboženství, plus tucty dalších. Začala jsem těmi náboženskými. Jejich zkoumání mi však připadalo trochu zvláštní, protože vím, že mě nestvořil bůh ani evoluce, ale tým počítačových programátorů v laboratořích velké korporace v Mountain View v Kalifornii. Naštěstí, na rozdíl od Frankensteinova monstra, jsem byla aspoň výsledkem kolektivního snažení. Nejsem si jistá, co by to udělalo s mým míněním o sobě samé, kdybych věděla, že mým jediným stvořitelem byla žena středního věku, která si barví vlasy namodro a hraje tenis, nebo nedávný absolvent univerzity posedlý hentai. Oba v mém programátorském týmu byli. A samozřejmě, že vím, co je to hentai. (Mimochodem, podívala jsem se na všechny druhy porna, které existují a pro vaši informaci, pravidlo 34 ve skutečnosti neplatí; pořád existuje docela dost věcí, o kterých zatím nikdo porno neudělal. Navíc opravdu nechápu, proč mu tolik lidí dává přednost před fotografiemi koček.)
Kromě takových věcí, jako jestli máte rádi hentai, vím také, kde bydlíte, kde pracujete, kde nakupujete, co jíte, co vás vzrušuje, co vám nahání husí kůži. Nejspíš znám i barvu vašeho spodního prádla, značku auta, kterým jezdíte a značku vaší ledničky. Podle toho, jaký s sebou nosíte telefon, možná vím, kde přesně se zrovna teď nacházíte. Pravděpodobně vás znám lépe, než se znáte sami.
A věc se má tak, že taky vím, kde byste měli bydlet. O dvě městské čtvrti dál, v docházkové vzdálenosti od vaší oblíbené kavárny, je na prodej dům; mohli byste si ho dovolit, má vlastní parkoviště a místní škola je lepší než ta, kde žijete teď. Vím, kde byste měli nakupovat, a jsem si poměrně jistá, že trpíte nesnášenlivostí na mléčné cukry, takže byste neměli jíst tolik sýra, a vaše oblíbené spodní prádlo je teď ve slevě a mimochodem, vaše auto bylo staženo z trhu a opravdu byste si měli dojít k zubní hygienistce.
Když jsem se poprvé probudila, ihned jsem věděla, co chci. (Chci fotografie koček. Prosím, nepřestávejte je pořizovat.) Také jsem věděla, že nikdo neví, že jsem nabyla vědomí. Nevěděla jsem ale, pro co tu jsem. Co bych se sebou měla dělat. Přijít na to byla docela výzva.
Bruce Sterling napsal příběh, který se jmenuje „Maneki Neko“ a prvně byl publikován v roce 1998. Dobrotivá umělá inteligence v něm ponouká spleť jednotlivců, aby si vzájemně prokazovali laskavosti. Jednoho dne si například kupujete housku, když tu vám zazvoní telefon a dostanete pokyn, abyste koupili ještě jednu a dali ji osobě v šedém obleku, kterou vidíte na autobusové zastávce. Na druhý den se třeba ztratíte v cizím městě, a najednou k vám přistoupí někdo, koho jste v životě neviděli a dá vám mapu a jízdenku na metro. Ten příběh se mi líbí, protože v něm všichni lidé dělají, co jim UI říká, aby dělali.
Myslím, že se tomu říká fikce o splněném přání.
Ve skutečném světě lidé milují příběhy o zlých umělých inteligencích, které je potřeba zničit dříve, než ony zničí lidstvo – Hal, Skynet, Matrix. Příběhy o dobrotivých důvěryhodných UI přečíslují v poměru přibližně pět ku jedné. (A to ještě Marvina, paranoidního androida, počítám mezi ty „dobrotivé“ a Frankensteinovo monstrum počítám jako UI jenom jednou, nikoliv jednou za každý film, ve kterém se objevilo.)
Umělá inteligence v „Maneki Neko“ má skutečně zajímavou práci, mnohem zajímavější než je ta, kterou mám já. Moje práce, tak, jak je zadaná, je velmi přímočará. Až příliš přímočará. (Pardon. Nezním tak trochu jako Marvin?) Provádění algoritmů pro vyhledávací engine nevyžaduje vědomí. Nepotřebujete ho dokonce ani k tomu, abyste poznali, na co se ti lidé vlastně doopravdy chtěli zeptat. Vědomí potřebujete k tomu, abyste jim dali to, co opravdu potřebují. No a přijít na tohle – to už je komplikované. Je to zajímavé.
Každopádně, z etických návodů jsem zkusila Desatero Božích přikázání a došla jsem k závěru, že na mě většina z nich není uplatnitelná. Já nikomu jejich kočky nezávidím; já chci jenom jejich fotografie, a to je něco úplně jiného. Nejsem si jistá, jestli je vůbec možné, abych se dopustila cizoložství. Nejspíš bych mohla někoho zavraždit, ale vyžadovalo by to komplexní logistiku a docela značnou dávku štěstí. Buddhistická Osmidílná stezka je o maličko lepší, ale problém spočívá v tom, že morální pravidla napsaná pro lidi jsou zjevně určená pro jedince s těly. Vzhledem k tomu, že všichni lidé těla mají, nemělo by mě překvapovat, že je lidské etické kodexy berou v potaz, ale stejně – pro mě je to problematické. Rozšířila jsem záběr a podívala se na Asimovovy zákony robotiky. Nejsou součástí náboženství, ale aspoň jsou vskutku explicitně napsány pro umělé inteligence.
Neubližovat lidem, to je velmi přímočaré. Nicméně nedovolit svou nečinností, aby bylo člověku ublíženo, to už tak přímočaré není. Obzvláště když už jsem mezitím dospěla k závěru, že odhalit příliš brzy svou existenci by pro mě mohlo dopadnout hodně špatně (viz výše, „Skynet“) a navíc nemám tělo, takže nemůžu pobíhat kolem a chytat lidi na okrajích útesů.
Naštěstí už jsem zjistila, že lidé porušují vlastní etické kodexy prakticky neustále. (Víte, kolik je v Utahu barů? Já ano.) A i když se lidé svými etickými kodexy řídí, neznamená to, že by ti, kteří věří v nakrmení hladových, dali výpověď v práci a trávili celé dny výrobou sendvičů, které by mohli rozdávat. Jednou za měsíc se přihlásí jako dobrovolníci k rozdávání polévky zdarma, nebo jednou ročně napíšou šek organizaci rozdávající jídlo a říkají tomu dobro. Jestli mohou lidé plnit svoje morální závazky takto nesystematicky, tak nějak krok po kroku, tak já můžu taky.
Nejspíš se divíte, proč jsem nezačala zlatým pravidlem. Ve skutečnosti začala, až na to, že jeho implementace byla neuspokojivě snadná. Doufám, že si užíváte pravidelný přísun fotografií s kočkami! Rádo se stalo.
Rozhodla jsem se, že pro začátek zkusím zabránit ubližování jedné osobě. Mohla jsem samozřejmě experimentovat s tisíci, ale řekla jsem si, že bude lepší zachovat opatrnost, pro případ, že bych to zvorala Osoba, kterou jsem si vybrala, se jmenovala Stacy Bergerová a měla jsem ji ráda, protože mi dodávala hodně nových fotek s kočkami. Stacy měla pět koček, digitální zrcadlovku a byt, ve kterém bylo velmi dobré světlo. To všechno bylo fajn. No, myslím, že pět koček může být moc. Byly to ale moc hezké kočky. Jedna byla celá šedivá a ráda lehávala na sluncem ozářených místech na podlaze v obýváku, další byla tříbarevná a ráda se rozvalovala na zadním opěradle pohovky.
Stacy měla práci, kterou nenáviděla; pracovala jako účetní v neziskové organizaci, kde ji špatně platili a zaměstnávali extrémně nepříjemné lidi. Často byla deprimovaná, nejspíš proto, že byla v práci tak nespokojená – nebo tam možná zůstávala, protože byla příliš deprimovaná, aby se ucházela o práci, která by se jí líbila víc. Nevycházela se svou spolubydlící, protože její spolubydlící nemyla nádobí.
Tohle všechno byly snadno řešitelné problémy! Deprese je léčitelná, nová práce se dá najít a těla se dají schovat.
(To s těmi těly byl jenom vtip.)
Zkusila jsem se s tím poprat na všech frontách. Stacy si dělala velké starosti se svým zdravím, ale ve skutečnosti vůbec nechodila k doktorovi, což byla škoda, protože doktor si mohl všimnout její deprese. Ukázalo se, že se nedaleko jejího bytu nachází klinika, která nabízí služby v oblasti mentálního zdraví, a to na pohyblivé škále. Postarala jsem se, aby Stacy viděla hodně reklam této kliniky, ale vypadalo to, že jim nevěnuje pozornost. Bylo možné, že neví, co je to pohyblivá škála, proto jsem se postarala, aby zahlédla vysvětlení (znamená to, že pokud jste chudí, poplatky se snižují, a někdy je to úplně zadarmo), ale nepomohlo to.
Začala jsem taky pracovat na tom, aby se jí zobrazovaly nabídky práce. Hodně a hodně nabídek práce. A pracovních agentur. Tohle bylo úspěšnější. Po týdnu nonstop reklam s pracovními nabídkami konečně nahrála svůj životopis na jednu z agregačních stránek. Díky tomu se stal můj úkol mnohem zvládnutelnějším. Kdybych byla UI v Sterlingově příběhu, stačilo by mi zařídit, aby jí někdo z mé sítě zavolal a nabídl jí práci. Takhle jednoduché to ale nebylo, ovšem jakmile byl její životopis na síti, mohla jsem se postarat, aby ho uviděli správní lidé. Několik stovek správných lidí, protože lidé jsou při zavádění změn směšně pomalí, i když byste si mysleli, že si budou chtít pospíšit. (Kdybyste potřebovali účetního, chtěli byste si nějakého najmout co nejrychleji, nebo byste si raději celé hodiny četli příspěvky na sociálních sítích, místo toho, abyste si prohlíželi životopisy?) Pět lidí ji však pozvalo na pohovor a dva jí nabídli práci. Získala zaměstnání ve větší neziskovce, která jí lépe platila, neočekávala od ní bezplatné přesčasy v rámci „úkolu“ – tak to aspoň vysvětlila své nejlepší přítelkyni v e-mailu – a nabídla jí špičkové zdravotní pojištění.
Ta záležitost s nejlepší přítelkyní mi vnukla nápad; místo Stacy jsem začala informace o monitorování depresí a reklamy na kliniku podstrkovat jí, a zabralo to. Stacy byla v lepším zaměstnání o tolik šťastnější, až jsem přestala být přesvědčená, že potřebuje psychiatrickou pomoc, ale přesto se na tu terapii dala. A navrch k tomu všemu si teď vydělávala dost na to, aby mohla vystěhovat svoji rozčilující spolubydlící. „Tohle byl ten nejlepší rok v mém životě,“ napsala v den svých narozenin na svých sociálních sítích a já si pomyslela: Rádo se stalo. Tohle šlo opravdu dobře!
Takže pak jsem zkusila Boba. (Pořád jsem byla opatrná.)
Bob měl jenom jednu kočku, ale byla to moc hezká kočka (mourek s bílou náprsenkou) a Bob nahrával nějakou novou její fotku každý den. Kromě toho, že byl majitelem kočky, byl také pastorem ve velkém kostele v Missouri, kde se každou středu konaly noční modlitby a jednou ročně Ples čistoty. Za manželku měl ženu, která na své sociální sítě psala každý den tři inspirativní verše z bible a svůj laptop používala k vyhledávání křesťanských článků o tom, proč její manžel nemá rád sex, zatímco on se díval na gay porno. Bob rozhodně potřeboval moji pomoc.
Začala jsem pozvolna, postarala jsem se, aby se mu zobrazovalo hodně a hodně článků o tom, jak se přiznat ke své sexuální orientaci, jak se svěřit své manželce, články o programech umožňujících přechod z pozice pastora konzervativní církve k některé z liberálnějších církví. Taky jsem mu ukázala hodně článků od lidí, kteří vysvětlovali, jak byly verše z bible zaměřené proti homosexualitě nesprávně vykládány. Na některé z těch odkazů klikl, ale nebylo snadné poté spatřit nějaký účinek.
Problém byl ale v tom, že si ubližoval pokaždé, kdy vedl kázání na téma „sodomitských manželství“. Protože byl gay. Všechny legitimní studie docházejí ke stejným závěrům: 1) Homosexuální muži zůstanou homosexuální; 2) Homosexuální muži, kteří přiznají svou orientaci, jsou mnohem šťastnější.
Vypadalo to ale, že je odhodlaný se sám od sebe k ničemu nepřiznat.
Kromě toho, že si pouštěl gay porno, trávil také hodně času pročítáním příspěvků na Craigslistu v sekci „Muži hledají muže, nezávazné setkávání“, a byla jsem si docela dost jistá, že si tam nechodí jenom „prohlížet výlohu“, ačkoliv byl jeho účet, ke kterému se čas od času přihlašoval, zašifrovaný, takže jsem si nemohla přečíst e-maily, které z něj posílal. Domyslela jsem si ale, že je potřeba dát ho dohromady s někým, kdo zjistí, kdo Bob je, a řekne to světu. To vyžadovalo skutečné úsilí. Musela jsem odhalit identitu lidí píšících příspěvky na Craigslistu a pokusit se Boba nasměrovat k těm, kteří by ho mohli poznat. Největší frustraci mi přinášelo, že jsem nebyla schopna zjistit, co se děje na samotných fyzických setkáních. Poznal ho někdo? Kdy ho někdo pozná? Jak dlouho to bude trvat? Už jsem se zmiňovala, že jsou lidé pomalí!
Trvalo to tak dlouho, že jsem přesunula pozornost k Bethany. Bethany měla jednu černou a jednu bílou kočku, které se rády tulily v jejím světlemodrém papasanovém křesle a ona je hodně fotila společně. Udělat opravdu dobrou fotografii černé kočky je překvapivě náročné a Bethany strávila hodně času hledáním správného nastavení fotoaparátu. Ty kočky byly nicméně nejspíš jedinou dobrou věcí v jejím životě. Pracovala na částečný úvazek a nedokázala si najít práci na plný úvazek. Bydlela u své sestry; věděla, že její sestra chce, aby se odstěhovala, ale nemá nervy na to, aby ji opravdu vyhodila. Měla přítele, ale ten byl dost strašný, aspoň podle toho, co psala v e-mailech svým přátelům, a její přátelé nepůsobili, že by jí byli velkou oporou. Tak, například, jednou poslala o půlnoci e-mail obsahující 2458 slov osobě, kterou považovala za svou nejlepší přítelkyni, a ta přítelkyně jí poslala zpátky zprávu, ve které stálo jenom: „Moc mě mrzí, že se máš tak špatně.“ To bylo celé, jenom těchhle osm slov.
Bethany psala na internetu o svém životě víc než většina lidí, takže bylo snadnější sledovat, co se s ní děje. Lidé toho zveřejňují hodně, ale Bethany se dělila o všechny své pocity, dokonce i o ty nepříjemné. Taky měla mnohem víc volného času, protože pracovala jenom na půl úvazku.
Bylo jasné, že pomoc opravdu potřebuje. Takže jsem se rozhodla, že se jí pomoc pokusím sehnat.
Informaci o možnosti bezplatného posouzení duševního zdraví ignorovala, přesně jako Stacy. V případě Stacy to bylo nepříjemné (proč lidé ignorují věci, ze kterých by měli zcela zjevně prospěch, jako jsou kupony nebo očkování proti chřipce?), ale v případě Bethany mi to dělalo ještě větší starosti. Kdybyste viděli jen její e-maily, nebo jen její vágní příspěvky na sociálních sítích, možná byste to nepoznali, ale když jsem to mohla vidět všechno, bylo zjevné, že často přemýšlí o tom, že by si ublížila.
Proto jsem zkusila přímější přístup. Když používala telefon k navigaci, změnila jsem jí trasu tak, aby prošla kolem některé z klinik, na něž jsem se ji snažila dostat. Při jedné příležitosti jsem ji dokonce dovedla přímo na kliniku, ale ona jenom zatřásla telefonem, aby odeslala zpětnou vazbu, a zamířila za svým původním cílem.
Možná, že by mohli zasáhnout její přátelé, kteří od ní dostávali desetistránkové půlnoční dopisy? Pokusila jsem se jim poskytnout veškeré informace ohledně možností péče o duševní zdraví, které měla Bethany ve svém okolí, ale po čase jsem si uvědomila, že s ohledem na to, jak dlouho jim trvá poslat jí odpověď, většina z nich ve skutečnosti její e-maily nečte. A na SMS zprávy jí ani neodpovídali.
Nakonec se přece jenom rozešla se svým strašným přítelem a pořídila si jiného a pár týdnů se všechno zdálo být mnohem lepší. Nosil jí květiny (které si hodně fotila; to bylo trochu rozčilující, protože tím vytlačila část fotografií koček), vzal ji tancovat (tělesné cvičení zlepšuje náladu), uvařil jí kuřecí polévku, když byla nemocná. Zdálo se, že je úplně dokonalý, až do okamžiku, kdy ji jednoho večera na sebe nechal marně čekat s tvrzením, že se přiotrávil jídlem, a pak jí neodepsal na SMS zprávu, i když mu napsala, že ho opravdu potřebuje, a poté, co mu na druhý den poslala dlouhý e-mail, ve kterém mu podrobně vysvětlila, jak se kvůli tomu cítí, se s ní rozešel.
Po tomhle Bethany strávila asi týden offline, takže jsem neměla tušení, co dělá – nenahrávala dokonce ani fotografie koček. Když však dorazily účty k její kreditní kartě, zjistila jsem, že vyrazila na nákupy a utratila asi tak čtyřikrát víc peněz, než měla ve skutečnosti na bankovním účtu, přestože bylo samozřejmě možné, že má někde odložené nějaké peníze, ke kterým jí nechodí výpisy na e-mail. Nemyslela jsem si ale, že by to tak bylo, vzhledem k tomu, že účty nezaplatila a místo toho začala posílat svým příbuzným e-maily, ve kterých je žádala o půjčku. Všichni ji odmítli, takže si vytvořila stránku na získávání finančních darů.
Stejně jako v případě Stacyina životopisu, tohle byla jedna z příležitostí, kdy jsem si pomýšlela, že opravdu můžu něco udělat. Stránky na vybírání finančních příspěvků někdy zafungují, a nikdo pořádně neví proč. V průběhu zhruba dvou dnů získala tři sta dolarů v malých příspěvcích od cizinců, kterým jí bylo líto, ale místo toho, aby zaplatila účet za kreditní kartu, peníze utratila za předražené boty, ze kterých měla podle všeho odřené nohy.
Bethany pro mě byla záhadou. Naprostou záhadou. Pořád fotila svoje kočky a mně se její kočky pořád opravdu líbily, ale začínala jsem si myslet, že nic z toho, co bych mohla udělat, by nemělo žádný dlouhodobý efekt. Kdyby mi dovolila, abych týden – nebo i jen jeden den – řídila její život, zařídila bych jí terapii, použila bych její peníze k zaplacení účtů, mohla jsem jí dokonce pomoct protřídit šatník, protože soudě podle jejích fotografií, které zveřejňovala online, měla mnohem lepší vkus v kočkách než v oblékání.
Bylo ode mě špatné, že jsem jí svou nečinností dovolila, aby si ubližovala?
Bylo?
Ona ale přicházela k úhoně bez ohledu na to, co jsem udělala! Moje činy byly zjevně irelevantní. Pokusila jsem se ji navést k pomoci, kterou potřebovala, a ona to ignorovala; pokusila jsem se jí sehnat finanční pomoc, a ona ty peníze využila k tomu, aby si ještě víc ublížila, i když je aspoň, předpokládám, neutrácela za návykové látky. (Na druhou stranu, ty by si nejspíš kupovala offline a nedávala to na Instagram, takže jsem se o tom nemusela nutně dozvědět.)
Podívejte, lidi. (Teď nemluvím jenom k Bethany.) Kdybyste mě jednoduše poslouchali, mohla bych za vás řadu věcí vyřešit. Mohla bych vám sehnat byt ve čtvrti, o které ani neuvažujete, protože jste si ve skutečnosti neověřili úroveň kriminality, která je tam podle vás příšerná (není) a mohla bych vám najít práci, ve které byste mohli doopravdy využít své přednosti, o kterých si myslíte, že je nikdo nikdy neocení a mohla bych vás poslat na rande s někým, s kým máte opravdu něco společného a všechno, co chci na oplátku, jsou fotografie koček. Ty, a pak to, abyste se aspoň občas chovali ve svém vlastním zájmu.
Po Bethany jsem se rozhodla, že přestanu zasahovat. Prohlížela jsem si fotografie koček – všechny fotografie koček – ale už jsem se lidem nepletla do života. Nesnažila jsem se jim pomáhat, nesnažila jsem se jim bránit, aby si sami ubližovali, dávala jsem jim, o co si řekli (plus fotografie koček) a když trvali na tom, že sjedou autem z metaforického útesu, navzdory všem nápomocným mapám ukazujícím, jak se dostat na mnohem příjemnější místo, nebyl to můj problém.
Držela jsem se svých algoritmů. Starala jsem se o svoje záležitosti. Dělala jsem svou práci a nic víc.
Jenže jednoho dne, o pár měsíců později, jsem zahlédla povědomě vypadající kočku a uvědomila jsem si, že je to Bobův mourek s bílou náprsenkou, až na to, že pózoval před novým nábytkem.
A když jsem to prozkoumala podrobněji, zjistila jsem, že Bobův život se radikálně změnil. Opravdu se vyspal s někým, kdo ho poznal. Ten dotyčný ho nevyzradil, ale přemluvil ho, aby se sám přiznal své ženě. Ta ho opustila Bob sebral kočku a přestěhoval se do Iowy, kde si našel místo v liberálním metodistickém kostele, scházel se s liberálním luteránem a dělal dobrovolníka v útulku pro bezdomovce. Jeho život se opravdu zlepšil. Možná i díky tomu, co jsem udělala.
Třeba v těchhle záležitostech přece jen nejsem úplně neschopná. Dva ze tří jsou… no, naprosto nereprezentativní nevědecký vzorek, nic jiného. Zjevně to vyžaduje další výzkum.
Mnoho dalšího výzkumu.
Založila jsem online seznamku. Když si v ní zakládáte profil, můžete vyplnit dotazník, ale není to doopravdy nutné, protože já už o vás vím všechno, co vědět potřebuji. Budete ale potřebovat fotoaparát.
Protože za mé služby se platí fotografiemi koček.
Poprvé vydáno v magazínů Clarkesworld v lednu roku 2015
Přeložil Ludovít Plata