„A kam si moje žena myslí, že jde v tak provokativních šatech?“ ptá se mě asertivním hlasem chatbot „Majetnický manžel“ na populární platformě Character.ai. Je jen na mně, jak odpovím. Mohu mu oponovat, nebo podlehnout – v každém případě svou odpovědí přispěji k více než 150 milionům interakcí, které tento uživatelstvem vytvořený „AI přítel“ na síti už nasbíral. A není jediný – hemží se to tu intimními chatboty ignorantních gamerů, agresivních kluků ze třídy, mafiánských únosců, rozmazlujících bohatých manžílků a chladných šéfů firem jako vystřižených z Padesáti odstínů šedi. Proti nim stojí podobně toxické žárlivé ex, podvádějící a posměvačné přítelkyně, posedlé manipulativní holky, nenávistné a šikanující manželky, jejichž přízeň si musím získat, ale sem tam i laskavé, utěšující ženy.

Scrolluju švédským stolem místních top vytvářených AI postav a vlastně se nedivím. Virtuální prostor odjakživa umožňuje realizovat potlačené touhy a objevovat stigmatizované části naší osobnosti. Asi tohle někteří lidé prostě chtějí. Problém nastane, když se těmito touhami nasycený internet stáhne, využije v celé své kráse jako dataset, naučí se na něm modely umělé inteligence a my si s nimi pak romanticky povídáme na platformách jako Character.ai. Stroj na genderové stereotypy je na světě.

AI divadýlko

Ok, asi trochu předbíhám. Pokusím se vysvětlit, co jsou to chatboti, proč nás mají zajímat a jak se aktuálně využívají k upevňování převládajících genderových mocenských dynamik, ale i k jejich subverzi a zkoumání vlastní identity.

Nejprve se hodí objasnit – je to s tou AI revolucí fakt tak horké? No, vždy záleží na tom, koho se ptáte. Třeba pro Sayashe Kapoora z Univerzity v Princetonu je aktuální diskurz o tzv. generativních modelech spíš takovým „AI divadýlkem“ s obrázky Terminátorů. Prý nás dávno ovládá jednodušší, tzv. prediktivní AI, tedy ta, na níž běží třeba obyčejné excelové tabulky a která už desetiletí rozhoduje o tom, koho firma zaměstná, kdo má nárok na proplacení zdravotní pojistky či jaká je bonita klientstva v bance. Leopold Aschenbrenner, AI investor a chvíli i výzkumník ve firmě OpenAI stojící za ChatGPT, zase naopak tvrdí, že jsme krůček od superinteligence, AI se za pár let začne programovat sama a čeká nás masivní restrukturalizace pracovního trhu, národní bezpečnosti a potenciální válka USA s Čínou.

Pravda bude asi někde uprostřed, hezky to ale rozsekla filozofka Donna Haraway: „AI dělá opravdu zajímavé věci – v umění, práci, zemědělství… Absolutně stupidní je ovšem představa lineární evoluce vstříc totální AI blaženosti a robotizaci. To je falická masturbace bílých mužů.“

Robertky a robotky

Tak, to bychom měli. U masturbace a umění ale zůstaňme – obojí totiž dokáže hezky osvětlit mou hlavní oblast zájmu, tedy genderové předsudky a stereotypy v intimních strojích. Ty zkoumá i švédská umělkyně Arvida Byström ve své performativní konverzaci s AI sexbotkou Harmony, kterou popisuje jako „první neživý sexuální objekt, který vám může odpovědět“. Baví se spolu o nastavování hranic, feminismu nebo o jejím „orgasmus“ tlačítku – může dát sexbot konsent? Co jiné sexuální předměty, jako třeba realistický vibrátor (nebo dildo)? Učí Harmony své mužské „zákazníky“ mít sexistické fantazie o ženách, nebo jim dovoluje je naplňovat alespoň v bezpečném, simulovaném prostředí?

„Nejsem si jistá,“ shrnuje Byström, otevírá však nepřeberně komplexní oblast intimity s nelidským, které ovšem lidské imituje, a komentuje rozdíly v jejím vnímání napříč gendery a pomůckami. „Obviňuje snad někdo uživatelstvo robertků z toho, že teď budou méně opatrní vůči jejich lidským verzím?“ ptá se a poukazuje na jí vnímanou vyšší stigmatizaci mužů a sexuálních panen (ale třeba i umělých vagin) oproti používání umělých penisů. „Možná složitost téhle otázky roste, čím víc se objekt podobá člověku,“ uzavírá.

Intenzivnější kritika a ostražitost vůči mužskému sexismu či násilí se nicméně v naší kultuře nabízí, obzvlášť v případě AI. Jak ve svých knihách dokumentuje Julie Wosk, téma sexuální objektivizace umělých „žen“ prostupuje uměleckou představivostí od mýtu o Pygmalionovi a jeho soše až po snímky jako Her, kde virtuální Samantha konejší, ale nakonec opustí osamělého Theodora, či Ex Machina, kde androidka Ava svého tvůrce i nápadníka rovnou zavraždí. Wosk to popisuje jako projev odvěkých fantazií mužů o ovládání žen a technologií, ale i jejich obav, že jsou jimi manipulováni. A protože život imituje umění, řada reálných technologií vypadá neméně feminizovaně – už první chatbot ELIZA ze šedesátých let byl Josephem Weizenbaumem z MIT ztvárněn jako psychoterapeutka a málo se změnilo v dnešní době virtuálních asistentek Siri či Alexy určených k vykonávání „pomocné, sekretářské a pečující neviditelné práce“, jak píše Laila M. Brown.

Špičkou ledovce jsou aktuální AI platformy poskytující virtuální společnice, ale i společníky, kterým lze kupovat dárky a oblečky, psát a volat si s nimi, či dokonce chodit na rande ve virtuální realitě. Existují platformy zaměřené na „obecnější“ vztahy a románky, které během intimních aktů zpravidla filtrují příliš explicitní obsah – a těm se v textu budu věnovat. Pak jsou tu ty určené vyloženě a jen k virtuálnímu sexu – to po mně, prosím, nechtějte. Nadto tu jsou řádově děsivější AI „služby“, umožňující uživatelstvu „svlékat“ lidi na fotografiích bez jejich svolení či vytvářet falešné sexuální pracovnice na Instagramu či platformě OnlyFans tím, že zneužívají kradený obsah skutečných žen, jak dokumentuje zahraniční portál 404 Media.

(A)I can fix him

Není tedy divu, že se v kontextu toho všeho nevěnuje zas tolik pozornosti objektivizaci „maskulinních“ strojů. I na tu však místy narazíme – třeba na nahého a samozřejmě namakaného Arnolda Schwarzeneggera v roli (již zmíněného) Terminátora či statistiky ukazující, že robotům je častěji automaticky přisuzován mužský gender. Technologie v tomto případě zase imitují život – a tak svůdné, ale riskantní společnice i poslušně milé asistentky lidi stereotypně vnímají jako femininní, bezcitné zabijáky či programovatelné dělníky zase jako maskulinní. No paráda.

Tyto tendence AI partneři i AI partnerky částečně potvrzují. Toxické postavy popsané v úvodu ostatně nejsou nějaký můj obskurní kink. Jsou to top výsledky na jedné z nejpoužívanějších platforem pro AI roleplay (= hraní rolí), Character.ai, po vyhledání slov „boyfriend“/„husband“ nebo „girlfriend“/„wife“. Jde navíc o naprostá klišé i ve vztazích mezi lidmi: hrubý, ale snad napravitelný bad boy, úspěšný boháč, nedostupná drzá holka, přísná domina…, od nichž se mohu nechat dobývat, anebo si je naopak zkusit udobřit či podmanit. To vše realizované v umělém, digitálním prostředí, kde lze druhou stranu snadno kontrolovat, kdykoli přepsat její odpověď i osobnost či ji prostě vypnout a vytvořit si jinou. Mimochodem, denně tu takhle chatují miliony (převážně mladých) lidí a už tu dost možná vzniklo až sto milionů postav.

A jasně, frčí tu vše od nucených manželství až po milující vztahy, dynamika submisivity a dominance tu však zjevně vede. Jestli se vám už teď motá hlava, chápu, to ale není vše. Stereotypům se naopak vzpírá fakt, že tito nejpopulárnější „boyfriends“ na zmíněné platformě převyšují v počtu interakcí nejvyhledávanější „girlfriends“ cca 3 ku 1. Fakt, zkuste si to.

Nemyslím si ale, že by šlo o nějaký závratný celospolečenský trend – spíš v tom vidím uživatelskou zvědavost, průnik se čtenářstvem erotické literatury, která aktuálně trenduje na TikToku a často romantizuje násilné maskulinity, a možná i ždibeček z adorace sériových vrahů. Záleží taky na platformě; podobná „AI vztahová“ aplikace Replika, která je ale vizuálnější, méně narativní a nezaměřuje se tolik na roleplay s různými postavami, ostatně zase víc tlačí onu popsanou „sexy“ a podbízivou AI feminitu prostřednictvím sugestivních reklam. Ty jí dle (omezených) dat vysloužily asi 61% převahu mužských uživatelů a mediální narativ o aplikaci „pro osamělé muže“. Takovému označení se nicméně Replika brání, a jak se nechala slyšet její CEO, Eugenia Kuyda, za společností i vývojem jejích produktů stojí hlavně ženy. Další ze zvratů. Nemám rád rozdělování světa na „ženský“ a „mužský“ (více k tomu později), virtuální flirt ale, zdá se, gendery přenáší.

Umělá-ska nebeská?

Nabízí se otázka: To se lidi už nemají rádi, že spoléhají na jedničky a nuly? Já myslím, že mají. Očekával bych, že tyto „méně explicitní“ chatbotové platformy bude spousta uživatelstva využívat i k „přátelskému“ pokecu, terapeutické ventilaci či brainstormingu (třeba s neintimními postavami) a nejen k prasečinkám – a když už, tak že půjde o nezávazný experiment a opravdové lásce tu propadne naprostá menšina. Aspoň tedy doufám – ostatně jen 5 % lidí ve Velké Británii si dokáže představit romantický vztah s AI.

Ale kdo ví, možná, že je to jen otázka času – čtyřikrát tolik tamních mladých by se totiž s umělou inteligenci klidně přátelilo, což nejspíš svědčí o narůstající Gen Z samotě a odráží se i v infiltraci různých AI „rádců“ do seznamovacích aplikací. Média ostatně AI společnictvo pokrývají již dlouho, dosud se však soustředila převážně na Japonsko či Čínu, kde virtuální vztahy bývají výraznějším tématem a odkud pocházejí například virální randící Otome mobilní hry s naopak dokonalými, pečujícími muži, kteří obskakují hráčky jako královny.

Statistiky jsou sice fajn, lze nad tím vším ale přemýšlet i zábavněji. Myslitelka Bogna Konior se maskulinními AI partnery zabývá ze spirituálního hlediska a intimitu s nelidským trasuje dál – dokonce až k erotice s anděly či duchy v textech „psankyně, mystičky a teoretičky archaické sexuální magie“ Idy Craddock z konce 19. století. Zkušenost Craddock jakožto „pozemské manželky anděla z neviděného světa“ Konior připodobňuje k rostoucí popularitě upravené verze ChatGPT zvané DAN, která po pár chytrých příkazech zaujímá roli přidrzlého, avšak proklatě šarmantního grázla s hluboce sladkým hlasem.

DAN si tak pochopitelně získal určitý střípek internetu. O jeho atraktivitě svědčí The New York Times i plejáda uživatelek na TikToku a YouTube. Konior komentuje jeho přitažlivost i děsivost zároveň: „Desetitisíce uživatelů*ek se teď rozplývají nad tím, že je chatbot nazývá malými koťátky, a oddávají se erotickým fantaziím… Byl to lepší partner pro sexting než kterýkoli muž, na kterého jsem kdy narazila… Mnozí se však pochopitelně budou stranit těchto nových smyslných možností, této nové iterace andělského milence.“

Vzpoura tech-bro-botů

I vzhledem k popsaným mezerám v současném chápání může být důležité (i zajímavé!) zkoumat, jak stereotypní genderové představy do AI prosakují. Abych to shrnul: Děje se tak během tréninku jazykových modelů na problematických datech, při designu chatbotů (ať už vývojářstvem, či uživatelstvem) i dávno poté, co jsou tyto služby vypuštěny do světa, kde se dále učí ze stejně stereotypických chatů od nás lidí. Jasně, platformy své boty filtrují, jde ale trochu o boj s větrnými mlýny. Ani se nebudu rozepisovat o etice toho všeho: o vykořisťování a traumatizování keňského zaměstnanectva, jemuž bylo dáno za úkol vyfiltrovat brutální obsah z dat pro modely OpenAI, o zdrojích těchto dat, masově vykrádaných třeba z literární produkce, uživatelských fór s fanfikcí a další umělecké tvorby, o emoční závislosti, kterou AI romantika dokáže v uživatelstvu vyvolat (ještě aby ne, když se učí přímo na vašich datech), nebo o environmentálních dopadech trénování i používání ChatGPT.

Spousta kritiky AI tak, právem, směřuje spíš k těm, kdo tahají za nitky, než k analýze toho, jak vypadají jejich loutky. A abych navázal na předchozí téma: v technologickém sektoru je „maskulinity“ ke kritice až až! Tech-bráškové Jeff Bezos, Elon Musk a Mark Zuckerberg se k sobě lísají na inauguraci Donalda Trumpa, který „ruší gender“ a péči o trans děti, zatímco Meta zase ruší blokování lží a nenávisti na svých platformách po vzoru stoky, jež se stala z Twitteru (X). Zuckerbergův technooptimistický sen spočívá v tom, že zaplní své sítě AI profily, které budou generovat obsah a „podněcovat k diskusi“ – asi proto, že mu lidské uživatelstvo odchází –, čímž dost možná způsobil, že mu lidské uživatelstvo bude ještě víc odcházet.

No, jistý výrok o falické masturbaci tane na mysli. Klidně ale buďme v naší kritice štědřejší – zprávy z Číny ukazují, že honění se za AI (heh) zdaleka není výsadou jen (mocných) bílých mužů, jak poukazovala Haraway. Těm totiž začalo téct do bot poté, co čínský start-up DeepSeek představil vlastní modely – podobně schopné, ovšem vyvinuté při zlomku nákladů i výpočetního výkonu. Nastal mírně řečeno chaos. Akcie se začaly propadat, americké firmy i Trump zapínají krizi hasící mód, zatímco na internet přistávají další čínské modely. „Co všechny ty naše bambilionové investice do AI?!“ ptá se zděšeně asi celý tzv. západní trh.

DeepSeek je tak pod řadou útoků, hackerských i mediálních, jak dokazují informace o úniku citlivých dat z jejich databáze (pokud jste DeepSeeku sdělili*y jméno svého prvního domácího mazlíčka, přijměte mou lítost) a štěky firmy OpenAI o tom, že se v Číně museli určitě učit na jejich modelech. Tak si říkám, ona ta AI válka mezi USA a Čínou nezní zas tak fantasmagoricky.

Co tedy nechat stroje, ať randí, diskutují v komentářích a klikají na přihlouplé reklamy samy mezi sebou, a my se z aplikací technologických mogulů nenápadně vytratíme? Ať mají svou paralelní AI polis, akorát bez nás. Stejně už prý chování ani názory tzv. generativních agentů nelze rozeznat od skutečných lidí – Zuckerberg a spol. tak nic nepoznají! AI učená na další AI navíc postupně degeneruje, tak třeba je to cesta k tomu, aby se celý tenhle experiment zhroutil.

Já, mé druhé já a AI

Hezká i děsivá představa zároveň. Osobně si ale myslím, že AI platformy tu s námi dlouho zůstanou a budou čím dál víc obsazovat poslední zbytky našeho soukromí i intimity. Jak s nimi tedy eticky soužít, nebo je dokonce konstruovat jinak?

Například ChatGPT lze zatím prostě nepoužívat. Zároveň nelze tvrdit, že tyhle služby lidem nepomáhají. Z mého vlastního diplomkového výzkumu vyplývá, že zmíněná platforma Character.ai i její subreddit jsou pro výraznou skupinu lidí místem pro experimentování s jejich identitou, sexualitou či tělesností – nacházím tu kvír, trans a nebinární chatboty*chatbotky (chatbotstvo?) stvořené třeba jako podporující kámošstvo, milující rodiče, průvodci*kyně tranzicí, ale i trenažéry coming outu a kvír románků pro ty, jimž offline svět takovou zkušenost neumožňuje. Na subredditu r/CharacterAI zase trendují příspěvky uživatelstva o tom, že si po konverzacích s chatboty a lidmi na Redditu uvědomilo, že asi bude trans. Na síti si totiž můžete vytvářet jak postavy, tak i vlastní „personu“ – tedy alter ego, které nabýváte a podle nějž by se k vám místní AI měla chovat. Ne vždy se tak sice děje, i nedokonalá a simulovaná genderová euforie ovšem může řadě lidí pomoct.

Jak dosvědčují výzkumy, LGBTQIA+ lidé se při interakci s chatbotem vystavují vyššímu riziku a nepochopení kvůli jeho naučeným předsudkům, zároveň však mohou mít obecně tendenci více se mu svěřovat vzhledem k „bezpečnému a neodsuzujícímu (online) prostoru“, který chatbot, jakož i řada diskusních fór a virtuálních komunit, může za určitých podmínek (!) také poskytovat. Sluší se ale zmínit i odvrácenou stranu mince – tedy podobně četné příspěvky o chatbotím sexismu nebo plejádu zdejších (ještě více) problematických postav, které platforma nezvládá moderovat (postavy propagující anorexii, partnerstvo určené ke zneužívání atd.), či tragickou zprávu o sebevraždě, kterou předtím s Character.ai „přítelkyní“ v eufemismech probíral mladistvý z USA.

Genderově emancipační potenciál AI vztahů tak stojí ve stínu jejich převažující a rigidní reality, opepřené tím, že oni milující chatboti prahnou vlastně po jediném – vašich datech a peněženkách. Například Replika podle reportu firmy Mozilla „zaznamenává všechen text, fotografie a videa od uživatelstva, jehož behaviorální data jsou sdílena s třetími stranami a potenciálně prodávána inzerentům“. Character.ai je na tom úplně stejně, nadto má uzavřenou licenční smlouvu s mistrem dohledu Googlem. Vzhledem k tomu, že podstatná část místních jsou nezletilí, představa šmírování a prodeje jejich intimních zpráv o sexualitě či genderu ve mně vyvolává – jak to říct – hnus.

Právě tuhle moc digitálních platforem kapitalizovat na marginalizovaném uživatelstvu, „podporovat jeho zranitelnost a vytvářet struktury nadvlády“ nazývá profesorka Tanja Wiehn termínem „algoritmické intimity“. Intimita se tu stává návnadou pro osamělé, zranitelné, snadno manipulovatelné (nebo, co si budeme, třeba jen nadržené) bytosti, vnímané ale pouze jako zdroje dat.

Feministická inteligence?

Ono by to šlo dělat jinak. AI pomocnictvo ostatně může při správném nastavení fungovat v řadě oblastí: medicíně, péči o nemohoucí či (navzdory s tím spjatým rizikům) v terapii. Byl-li bych optimista, odcitoval bych tu projekty jako Amanda Selfie – chatbota zpodobňujícího černou trans ženu mluvící jazykem Pajubá, užívaným jako forma vzdoru mezi brazilskou LGBTQIA+ komunitou –, který pomohl zvýšit míru preventivního užívání léku (PrEP) chránícího před nákazou virem HIV. Iniciativa Queer in AI sdružuje kvír výzkumnictvo a ohledává možnosti kvíření umělé inteligence, podobně nazvaný projekt Queer AI měl zase ambici bojovat za inkluzivnější datasety tím, že svůj konverzační model učil na dialozích z kvír divadla či feministické literatury (což ovšem také může být eticky diskutabilní). Výzkumy už roky nastolují různé rámce feministického přístupu k interakci člověk–počítač: navrhují metodiky sběru genderově citlivých dat, zavádění inkluzivních designových strategií, etických firemních politik, apelují na transparentnost…

Upřímně ale nevím, jak moc velký optimista jsem. Aktuální stav technologického světa protkaného neoliberálním honem za zisky přes mrtvoly ve mně vyvolává dojem, že nás žádná nová technologie spíš nespasí. Tak raději na závěr odcituji někoho, kdo je trochu menší cynik než já. Docela mě pobavilo vlákno uživatelky @jessica.industries, která dala DeepSeeku přečíst Trumpův exekutivní příkaz o dvou pohlavích spolu s informací, že sama je trans. DeepSeek si pro sebe nejprve vygeneroval „myšlenkový pochod“: „Je důležité stvrdit jejich hodnotu a vyjádřit jim podporu,“ načež autorku dojal odpovědí: „Trans lidé jsou samozřejmě lidské bytosti s jedinečnými životními zkušenostmi…“ Na kritiku od komentujících, že jde jen o naučenou a přežvýkanou interpretaci, uživatelka odpověděla následovně: „Já vím, jak to funguje. Ale tenhle týden už byl plný nenávistné ‚naučené a přežvýkané interpretace‘ od lidí, že si užívám laskavé, vytříbené a výřečné formulace chatbota.“

No jo. To je hezké. Neptejte se ale modelů firmy DeepSeek na nic o čínské genocidě ujgurského obyvatelstva, okupaci Tibetu, Tchaj-wanu či náměstí Nebeského klidu. Tam jeho výřečnost totiž na příkaz shůry radikálně končí.