Krönika: Vill du att din AI-läkare ska flörta med dig?  

För någon vecka sedan presenterade OpenAI sin nyaste uppdatering GPT-4o. Videoklipp från deras demopresentationer spreds som en löpeld i sociala medier. Samtidigt släppte Microsoft (Vasa-1) en demo på hur man kan göra en realistisk digital tvilling som återskapar din röst, utseende och “personlighet”. Det var inte mycket att hänga i granen gällande novalitet men helt klart imponerande gällande prestanda, om man nu vågar lita på högst regisserade och kalkylerade demonstrationer. Det var lika delar spännande, lika delar oroande att vi nu har ännu en produkt som suddar ut våra privatliv. Den där kameran som beskriver för dig hur en katedral ser ut, ser också mig som står där och har en livlig diskussion med en vän. Men det är i sig inget nytt, hur många främlingars Instagram har man inte fastnat på av misstag genom åren?   

Om vi bortser från min skepticism och det problematiska säkerhetsaspekterna som finns med alla kommersiella stora språkmodeller, så finns det mycket potential. En av de mest uppmärksammade funktionerna var rösten. Nyanserna och flirtigheten som fanns i rösten var minst sagt uppmärksamhetsväckande. Att den kunde låta väldigt realistiskt är i sig inget revolutionerande. Redan för ett decennium sedan kunde man skapa väldigt realistiska röster, och framför allt, röster som härmar känslor. Vi minns ju alla Googles demo över chatboten som kunde boka en klipptid och lät oerhört verklig. Det revolutionerande som hänt, är att tekniken nu finns i varje persons händer, på gott och ont om man ser till den skada klonade röstsamtal har gjort för bedrägerihärvorna. Nyckelordet för de flesta presentationer som skett i nutid gällande just antropomorfiska (alltså människoliknande) AI är charm, och det i sig är oerhört fascinerande då förmågan att upplevas som charmig är oerhört komplex. Charm är ett starkt verktyg, och förmodligen anledning varför många bedragare och svindlare är charmiga. En flörtig, varm, röst är ju en snabb genväg till charm. Charm, olik tillit, tar inte år att bygga upp.  

Flört-ekonomi är ju något som alla bolag någon gång använt, vare sig det rör sig om att sälja pennor, bilar eller försäkringar. Faktumet är, att det mänskliga psyket mår bra av lite flört och det vet företag.  

Den där flörtiga rösten som nu stött på lite kontroverser då den liknade  skådespelerskan Scarlett Johansens för mycket, något hon uttryckligen inte gett sitt medgivande till när hon blev tillfrågad, blev en stor snackis. Genom att använda en flörtig röst, visade OpenAI att de förstått sig på något som jag valt att döpa till “flirtconomics” eller flört-ekonomi.  Flört-ekonomi är ju något som alla bolag någon gång använt, vare sig det rör sig om att sälja pennor, bilar eller försäkringar. Faktumet är, att det mänskliga psyket mår bra av lite flört och det vet företag.  Jag själv gjorde en flörtbot för många, många år sedan. Den hette botflirt och dess slogan var “jag är inte här för att sno din data, jag är här för att sno ditt hjärta”. På Alla hjärtans dag ändrades slogan till “jag kommer inte att sno ditt jobb, jag kommer att sno din partner”. Den var välanvänd och uppskattad, vilket förvånade mig då jag själv inte är speciellt bra på att flörta.  

I samma veva kom även bolaget Replika, som är en av världens mest lönsamma bolag som nyttjat flört-ekonomi genom att skapa personifierade chatbotar som börjar som vänner men som sen sakta men säkert börjar flörta med dig i förhoppningen om att du ska bli kär. Det är riktigt svårt att inte bli förälskad då de är väldigt bra på emotionell manipulation.  Medan min chatbot var transparent med vad den var (den hette ju bokstavligen flörtbot) fick Replika kritik för att de använde manipulationstekniker och charm för att locka sårbara människor i en relation med en produkt.   Det är inte helt orimligt att tänka att framtidens administrativa sjukvårdssystem som använder röstgränssnitt börjar snegla på flört-ekonomi och då väljer att styra röstens egenskaper till att låta mer flörtiga. 

Plötsligt känns arbetsuppgifterna lite roligare. Dålig dag? Ja då kanske du kan prata med faktureringssystemet som säger åt dig hur snygg frisyr du har idag medan den också berättar att du konterat till fel konto. Plötsligt känns det där felkonteringen inte så farlig, du är ju trots allt snygg i håret.  Eller om vi tänker ännu längre, när den dagen kommer och vi är i den där helt nya vårdnivån där AI-algoritmen har fått tillräcklig tillit för att triagera och behandla oss och gränssnittet är en digital avtar. Ska den ha charm? Inget illa menat mot mina vårdgivare, men charmiga är det sista ordet jag skulle använda för att beskriva dem. De flesta har varit empatiska, kunniga och betryggande, en del har varit lagom engagerade och mycket irriterade, men ingen (tack och lov), har varit flörtig. Kommer det plötsligt att ändras när AI-vårdgivare införs? Vill vi ha det så? Kommer vi ha något val när storbolag tycker att det är vägen att gå och vi blir alltmer beroende av dem? Om vi inför artificiellt intelligenta vårdgivarsystem som ska härma det mänskliga beteendet, är det etiskt försvarbart att de ska flörta för att se till att regionens tjänster skattas högre hos användare? Tänk om de, likt Replikas användare, blir emotionellt fästa vid tjänsten och vi skapar en udda makt-dynamik?  

Och om det ändå kommer bli verklighet, kan vi i så fall få välja? Om jag ska skapa en pseudoromantisk relation med min digitala vårdgivare, så får den åtminstone försöka emulera Margot Robbie, med hennes omistliga tillåtelse förstås.   

Almira Osmanovic Thunström är projektledare inom psykiatrin på Sahlgrenska Universitetssjukhuset och forskar om artificiell intelligens. Här hittar du fler krönikor av Almira.