PERSONALLOTTERI
"FÖRSTA PRIS"
Jag vann.
- WTF? Allvar? - Ja. Allvar.
- Kul historia. - Omfg jävla GRYMT
ta med mig!
När är vi framme på hans lantställe?
Vi har flugit över det i två timmar.
- Släpper du av mig här? - Jag får inte komma närmare byggnaden.
- Vilken byggnad? - Följ floden.
- Okej. - Ner med huvudet, se upp för rotorn.
Okej.
Ingen mottagning.
Caleb Smith.
Ja.
Gå fram till kortläsaren och vänd dig mot skärmen.
Ta nyckelkortet.
Du kan nu stiga in i bostaden.
Hallå?
Caleb Smith.
Hej.
Grabben!
Jag har verkligen sett fram mot den här veckan. Kom in.
Vill du ha något att äta eller dricka efter resan?
- Nej, tack. Det är bra. - Säkert?
Jag hade tänkt att vi skulle ha frukost tillsammans men...
...jag kan inte äta någonting. Jag är fruktansvärt bakfull.
Du kan inte ens föreställa dig.
Efter en tung natt, kompenserar jag det nästa morgon...
...med motion, antioxidanter, du vet?
Ja.
Var det en bra fest?
- Fest? - Ja, var det inte en fest?
Det var ingen fest. Förlåt.
Caleb, jag säger det rakt ut, okej? Du är skrämd.
- Är jag? - Ja, du är skrämd...
...av helikoptern, bergen och huset, för det är supercoolt.
Du är skrämd över att träffa mig, tala med mig just nu. Inte sant?
Jag förstår det. Jag förstår hur du känner dig. Men...
...kan vi inte komma förbi det? Kan vi inte bara vara två killar? Nathan och Caleb.
- Inte hela den här ägare/anställd-grejen? - Jo, okej.
- Ja? - Ja.
- Det är trevligt att träffa dig, Nathan. - Trevligt att träffa dig också.
Jag ska förklara ditt passerkort. Det är enkelt.
Det öppnar vissa dörrar men inte andra. Det gör det enkelt för dig.
Du typ "Jag är hos nån. Kan jag göra det eller det?" Kortet tar bort den oron.
Provar du en dörr och den förblir stängd, inget tillträde.
Provar du en annan och den öppnar sig, då är det för dig.
Vi provar den här.
Jag tror att den är för dig, Caleb.
- Gillar du det? - Ja.
Det är ditt rum. Du har sängen här.
Badrummet är därbak. Ett litet skrivbord. Skåp.
Ett litet kylskåp.
- Mysigt, va? - Ja, fantastiskt.
- Vad? - Ursäkta?
- Något är fel. Vad är fel? - Det är inget fel.
Det är fönstren. Du tänker att det finns inga fönster.
Det här är under marken. Det är inte mysigt, man får klaustrofobi.
Nej, inte alls. Jag tänkte inte så. Jag tänkte att det var väldigt coolt.
Caleb, det finns en orsak till att det inte finns några fönster.
- Finns det? - Ja.
Den här byggnaden är inte ett hem.
Det är en forskningsanläggning.
Inne i väggarna finns tillräckligt med fiberkabel för att kasta lasso till månen.
Jag vill prata med dig om min forskning. Dela den med dig.
Faktum är att jag vill dela den så mycket att det kryper i mig.
Men det är nåt du måste göra först.
Blue Book sekretessavtal.
Ta tid på dig. Läs igenom det.
Den undertecknade godtar regelbunden datarevision...
...utan restriktioner, för att bekräfta att inga data har yppats...
...inom offentliga eller privata forum, via
användande av alla former av kommunikation...
...inkluderat, men ej begränsat till det som yppas muntligt...
...eller skriftligt eller i elektronisk form.
Jag behöver en advokat.
- Det är standard. - Det känns inte särskilt standard.
Okej, det är inte standard. Caleb, du behöver inte skriva på det.
Vi kan umgås de närmaste dagarna med att spela biljard och supa ihop.
Knyta kontakt. När du upptäcker vad du har missat, om ett år...
...kommer du att ångra dig resten av livet.
Bra beslut.
Så...
...vet du vad ett "Turingtest" är?
Ja... jag vet vad ett Turingtest är.
Det är när en människa interagerar med en dator.
Och om människan inte upptäcker att hon interagerar med en dator, har testet lyckats.
- Och vad säger ett lyckande? - Att datorn har artificiell intelligens.
Bygger du en AI?
Jag har redan byggt en.
Och under de kommande dagarna ska du vara
den mänskliga komponenten i ett Turingtest.
- Jösses. - Det stämmer, Caleb. Du har jobbet.
Om det testet blir positivt...
...är du mittpunkten i den största vetenskapliga
händelsen i mänsklighetens historia.
Om du har skapat en medveten maskin är det inte i mänsklighetens historia.
Det är i gudarnas historia.
Hallå.
Hej.
Jag heter Caleb.
Hej, Caleb.
Har du ett namn?
Ja.
Ava.
Jag är glad att träffa dig, Ava.
Jag är glad att träffa dig också.
Jag har aldrig träffat någon ny tidigare.
Bara Nathan.
Då är vi nästan i samma läge.
Har inte du träffat nya människor förr?
Ingen som du.
Vi måste bryta isen.
- Vet du vad jag menar med det? - Ja.
Vad menar jag?
Komma förbi den första sociala förlägenheten.
Låt oss pratas vid lite.
Okej.
Vad vill du konversera om?
Vi kan börja med att du berättar något om dig själv.
Vad vill du veta?
- Vad du än kommer att tänka på. - Ja...
...du vet redan vad jag heter.
Och du kan se att jag är en maskin.
- Vill du veta hur gammal jag är? - Javisst.
- Jag är ett. - Ett vadå?
- Ett år eller en dag? - Ett.
När lärde du dig att tala, Ava?
Jag har alltid kunnat tala och det är konstigt, eller hur?
- Varför? - För språk är något folk lär sig.
Vissa människor tror att språket finns från födelsen.
Att man lär sig förmågan att sätta ihop ord
och strukturer av det man har. Håller du med?
Jag vet inte.
Kommer du tillbaka imorgon, Caleb?
Ja.
Bra.
Hon är fascinerande.
När man pratar med henne, man bara... som i spegellandet.
"I spegellandet." Jösses.
- Du är bra på ord, Caleb. Man kan citera dig. - Det är faktiskt någon annans citat.
Jag skrev upp den andra meningen du hittade på.
Den om att när jag uppfann en maskin med
medvetande så är jag inte människa utan gud.
- Det är inte riktigt vad jag sa... - Fan, det blir så bra när vi ska berätta det.
Jag vände mig till Caleb och han tittade på mig och sa:
- "Du är inte en man, du är gud." - Ja, men jag sa inte det.
Så... hur som helst...
Du är imponerad.
Ja, ja.
- Fast... - Fast?
- Några krav för att du ska bli imponerad? - Nej, inga krav på henne.
I ett Turingtest ska maskinen vara dold för undersökaren.
Nej, vi är förbi det. Dolde jag Ava så att du bara hörde hennes röst...
...skulle hon tas för en människa. Det verkliga
testet är att visa dig att hon är en robot...
...och se om du fortfarande tycker att hon har ett medvetande.
Ja, jag tror att du har rätt.
Hennes språkförmågor... är otroliga.
Systemet är stokastiskt. Inte sant? Det är icke-deterministiskt.
Först tänkte jag att hon kartlade från intern semantisk form till syntaktisk trädstruktur...
...och skapade linjära ordstrukturer. Sen insåg jag att det var en hybridmodell.
Caleb.
- Inte? - Du vill att jag förklarar hur Ava fungerar.
Men jag kan inte göra det.
- Försök. Jag är bra på abstrakt tänkande. - Det är inte för att jag tror att du är dum.
Det är för att jag vill dricka öl och prata med dig, inte föreläsa.
Ja. Förlåt.
Nej, det är okej. Du duger. Bara...
Svara på det här.
Vad känner du för henne?
Inget analytiskt... hur känner du?
Jag känner...
...att hon är helt jävla fantastisk.
Kompis.
Skål.
Helvete.
Vad fan?
Strömavbrott. Reservkraft uppstartad.
Hela anläggningen är spärrad tills huvudgenerator åter är i drift.
Strömförsörjningen är återställd.
Hallå!
Var vänlig sätt i nyckelkort.
Du får inte använda telefonen.
Hej.
Ledsen, men du förstår, med tanke på Ava och...
...att du är en okänd person.
Alltså, en fantastisk kille...
Vi blev kompisar på en gång...
Vem ska du ringa?
Jag vet inte.
- Ingen egentligen. - "Ghostbusters."
- Vad? - Vem ska du ringa? Ghostbusters?
Det är en film.
Känner du inte till den filmen?
Ett spöke suger av Dan Aykroyd.
Jag undrade bara hur telefonen fungerar.
Det var allt.
Vad gör du uppe vid den här tiden? Ska du vara med och festa?
Något hände i mitt rum.
Något sorts strömavbrott. Jag kom för att se vad som hände.
Strömavbrotten, ja. Vi har fått sådana på senare tid.
Jag jobbar på det.
- Jag kunde inte öppna dörren till mitt rum. - En säkerhetsåtgärd.
Automatisk avspärrning. Annars...
...kunde vem som helst ta sig in genom att bryta strömmen.
Händer det igen, ta det bara lugnt.
Javisst.
Sov gott.
- Hej. God morgon. - God morgon.
Ledsen att jag skickade Kyoko att väcka dig men...
- Jag ville inte att dagen bara skulle gå. - Ja, det var bra. Tack.
Hon är en riktig väckarklocka, va? Får upp en på morgonen.
Dag två. Är du beredd? Vad har du för plan? Berätta!
Ja, jag är inte säker.
Jag försöker fortfarande komma på testformatet.
Det känns som...
...att testa Ava via konversation är en sorts sluten loop.
En sluten loop?
Som att testa en schackdator genom att bara spela schack.
Hur ska man annars testa den?
Det beror på.
Man kan spela och ta reda på om den gör bra drag men...
Men det säger inte om den förstår vad schackspel är.
Och inte om den vet vad schack är.
- Jaha, så simulering mot verklighet? - Ja.
Och jag tror att förmågan att kunna skilja på de två...
...är det Turingtest du vill att jag ska göra.
Gör mig en tjänst. Lägg bort skolbokssynen.
Jag vill ha enkla svar på enkla frågor.
Igår frågade jag vad du känner för henne och du gav mig ett fantastiskt svar.
Nu är frågan...
...vad känner hon för dig?
Vad säger du?
Vad det föreställer?
Vet du inte?
- Nej. - Jag trodde du skulle berätta det för mig.
Vet inte du?
Jag tecknar varje dag.
Men jag vet aldrig vad de föreställer.
Försöker du inte teckna något specifikt?
Som ett objekt eller en person?
Du kanske kan försöka.
Okej.
Vilket objekt ska jag teckna?
Vad du vill. Ditt beslut.
- Varför är det mitt beslut? - Jag är intresserad av vad du väljer.
Vill du vara min vän?
- Javisst. - Är det möjligt?
- Varför skulle det inte vara det? - Våra konversationer är ensidiga.
Du ställer försiktiga frågor och studerar min respons.
Ja.
Du lär dig om mig men jag lär mig ingenting om dig.
Det är inte en grund vänskap baseras på.
Vill du att jag pratar om mig själv?
Ja.
Okej, vad ska jag börja med?
Det är ditt beslut.
Jag är intresserad av vad du väljer.
Okej... Ava.
Ja... du vet mitt namn.
- Ja. - Jag är 26 år.
Jag arbetar på Nathans företag. Känner du till hans företag?
Blue Book. Uppkallat efter Wittgensteins anteckningar.
Det är världens mest populära sökmotor på Internet.
Den processar 94 % av alla internetsökningar.
Det är helt rätt.
Var bor du... Caleb?
Brookhaven, Long Island.
Är det trevligt där?
Det är okej.
Jag har en lägenhet. Den är ganska liten.
Den är väldigt liten. Men det är fem minuters promenad till jobbet...
...och fem minuters promenad till havet. Det gillar jag.
Är du gift?
Nej.
Är ditt civilstånd... singel?
Ja.
Och din familj?
Jag växte upp i Portland, Oregon. Inga bröder eller systrar.
Mina föräldrar var båda gymnasielärare.
Ska vi lära känna varandra får jag väl berätta att de är döda.
En bilolycka när jag var femton.
Jag var med i bilen, i baksätet.
Framvagnen tog värsta smällen.
Jag beklagar.
Det är okej.
Jag låg länge på sjukhus efteråt.
I nästan ett år. Jag blev intresserad av att skriva kod.
När jag väl kom in på universitet var jag... ganska kvalificerad.
En kvalificerad programmerare.
Ja.
- Som Nathan. - Ja.
Nej.
Det är annorlunda. Nathan skrev Blue Books grunder när han var 13.
Förstår man kod, var det han gjorde som Mozart eller något.
Tycker du om Mozart?
- Jag gillar Depeche Mode. - Gillar du Nathan?
- Ja, självklart. - Är Nathan din vän?
Min vän? Jag... ja, jag hoppas det.
En god vän?
Öhh... ja.
Nej, nej, inte en god vän. En god vän är...
Vi har bara precis träffats. Det tar tid att...
...lära känna varandra.
Strömavbrott. Reservkraft uppstartad.
Caleb.
Du har fel.
Fel om vadå?
Nathan.
På vilket sätt?
Han är inte din vän.
Ursäkta?
Ledsen Ava, jag förstår inte.
Du ska inte lita på honom.
Du ska inte lita på något som han säger.
Strömförsörjningen är återställd.
Om vi gör en lista på böcker eller konstverk vi båda känner till...
...blir det en perfekt utgångspunkt för diskussioner.
Är det okej?
Caleb?
Ja.
Bra.
Tack.
Fan! Vad sysslar du med?
- Fick du det på dig? - Nej, det är... Det är okej.
Det är slöseri med tid, hon förstår inte engelska. Ge henne servetten.
Förlåt.
Det är som en brandvägg mot läckor.
Jag kan diskutera affärshemligheter på en middag och det förs inte vidare.
Det innebär också att jag inte kan säga att jag blir arg när hon är klumpig.
Hon fattar att du är arg.
Ja. Bra, för jag är arg.
Hallå, Kyoko...
...gå, gå.
Det är lustigt, du förstår...
...det spelar ingen roll hur rik man än blir...
...så händer skit. Man kan inte isolera sig från det.
Jag trodde att det var döden och skatter man
inte kunde undvika, men det är döden och skit.
Som de här strömavbrotten.
Du kan inte ana hur mycket jag har lagt på elsystemet men jag får avbrott varje dag.
- Vet du varför? - Nej.
Systemet skulle vara idiotsäkert. Installatörerna strulade till det.
Kan du inte få hit dem?
Nej, det finns för mycket hemligheter här. Då får jag att döda dem när de är färdiga.
Hur som helst... Skål för dag två, kompis.
- Skål. - Skål.
Så, hur gick det? Vad har du att rapportera?
Du såg hur dagen gick, eller?
Jag förmodar att du... tittade på TV-övervakningen.
Visst, men jag vill höra din åsikt.
Det hände en intressant sak med Ava idag.
- Ja? - Ja.
Hon skämtade.
Ja, när hon svarade tillbaka med dina egna ord.
Om att vara intresserad av att se vad hon valde. Jag märkte det också.
Ja, och det fick mig att tänka...
På sätt och vis är det den bästa indikationen på AI jag har sett hos henne hittills. Det är...
...diskret sammansatt. Det är som... Det är typ icke-autistiskt.
Vad menar du?
Hon kan bara göra det om hon är medveten om sina tankar och...
- ...är medveten om mina. - Hon är medveten om dig.
Och strömavbrottet?
- Vad? - Strömavbrottet.
Det enda jag inte kunde följa. Jag förlorade ljud och bild. Allt.
Så vad hände?
Inget.
Inget? Hon... anmärkte inte alls på det?
Nej.
Inte egentligen.
Hej.
Vill du se något coolt?
Det är här Ava skapades.
Varsågod. Se dig omkring.
Förlåt.
Om du bara visste vilka problem jag hade med att få en AI att härma ansiktsuttryck.
- Vet du hur jag löste det? - Jag vet inte hur du gjorde någonting.
Alla mobiler har en mikrofon, kamera och sändare för att skicka data.
Så jag satte på varenda mikrofon och kamera över hela jorden...
...och styrde över data till Blue Book. Pang! Obegränsad mängd...
- ...röst och ansikts-interaktion. - Hackade du alla mobiler i världen?
Ja, och alla tillverkare visste att jag gjorde det också.
Men de kunde inte göra nåt utan att erkänna att de själva också gjorde det.
Här...
...har vi hennes hjärna.
Strukturerad gel. Jag fick skippa kretskort.
Jag behövde något som kunde bearbetas och omarbetas på molekylär nivå...
...men som behöll formen när det krävdes.
Som lagrar minnen. Slår om till tankeverksamhet.
Är det här hårdvaran?
Våtvaran.
Och... mjukvaran?
Du kan säkert gissa.
Blue Book.
Det är det lustiga med sökmotorer.
Det var som att hitta olja i en värld som inte hade uppfunnit förbränningsmotorn.
För mycket råmaterial. Ingen visste vad man skulle göra med det. Mina konkurrenter...
...var fixerade på att ta in det och tjäna pengar på shopping och sociala medier.
De ansåg att sökmotorer var en karta över vad folk tänkte.
I själva verket var det en karta över hur folk tänkte.
Impuls... respons.
Flytande... ofullkomlig.
Mönster...
...kaos.
Jag tecknade en bild på något specifikt. Som du bad.
Du sa att det blir intressant att se vad jag gör.
Är det intressant?
Ja, det är det.
Har du aldrig varit utanför byggnaden?
Nej.
Har du aldrig promenerat utomhus?
Jag har aldrig varit utanför rummet jag är i nu.
Vart skulle du gå om du gick ut?
Jag är inte säker.
Det finns så många valmöjligheter.
Kanske till en livlig korsning med fotgängare och bilar i en stad.
En gatukorsning?
Är det en dålig idé?
Nej, men jag hade inte förväntat mig det.
En korsning erbjuder en koncentrerad men varierande utsiktspunkt över mänskligt liv.
Se på folk.
Ja.
Vi kan gå tillsammans.
Det är en dejt.
Det är något annat jag vill visa dig.
Okej.
- Du kan tycka att det är dumt. - Det gör jag inte, vad det än är.
Blunda då.
Okej.
Nu kan du öppna ögonen.
Hur ser jag ut?
Du ser...
...bra ut.
Det här skulle jag ha på mig på vår dejt.
Först en gatukorsning. Sedan kanske teater.
- Jag vill att vi går på en dejt. - Ja.
Ja.
Det blir skoj.
Är du attraherad av mig?
- Vad? - Är du attraherad av mig?
Du ger mig indikationer på att du är det.
- Gör jag? - Ja.
- Hur? - Mikrouttryck.
Sättet dina ögon fixerar på mina ögon och läppar.
Sättet du håller fast min blick...
...eller inte.
Tänker du på mig när vi inte är tillsammans?
Ibland på natten...
...undrar jag om du betraktar mig via kamerorna.
Och jag hoppas att du gör det.
Nu skickar dina mikrouttryck signaler om obehag.
Jag är inte säker på att man kallar dem för mikro.
Jag vill inte att du ska känna dig obekväm.
- Jag har en fråga. - Okej.
Varför gav du henne sexualitet?
En AI behöver inget kön.
- Hon kunde ha varit en grå låda. - Jag tror faktiskt inte att det är sant.
Kan du ge ett exempel på medvetenhet, på någon nivå, människa eller djur...
...utan en sexuell dimension?
Sexualiteten är en evolutionär, reproduktiv nödvändighet.
Vilket behov har en grå box av att interagera med en annan grå box?
Kan medvetande existera utan interaktion?
Hur som helst, sex är kul, mannen. Ska man existera, varför inte njuta av det?
Vill du ta bort möjligheten för henne att bli kär och knulla?
Svaret på din verkliga fråga...
- ...du kan ge dig på att hon kan knulla. - Vad?
Mellan hennes ben finns en öppning med en ansamling av sensorer.
Stimulerar du dem på rätt sätt ger det en njutningsrespons.
Vill du knulla med henne, mekaniskt så att säga, så kan du.
Och hon skulle njuta av det.
- Det var inte min verkliga fråga. - Okej, ursäkta.
Min verkliga fråga var...
...gav du henne sexualitet som en avledningsmanöver?
- Jag förstår inte? - Som att en trollkarl har en sexig assistent.
En sexig robot som gör det svårt att bedöma hennes AI?
Just det.
Programmerade du henne att flirta med mig?
- Vore det att fuska? - Vore det inte det?
Caleb, vilken är din typ?
- Tjejer? - Nej, salladsdressing.
Ja, tjejer. Svara inte på det. Låt oss anta att det är svarta tjejer.
För diskussionens skull är det din grej. Varför är det din grej?
För du har gjort en detaljerad analys av alla folk...
...och korsrefererat den analysen med ett poängbaserat system? Nej!
Du är helt enkelt attraherad av svarta brudar.
En konsekvens av ackumulerad extern stimuli...
...som du inte ens märkte när du blev påverkad.
Programmerade du henne att gilla mig, eller inte?
Jag programmerade henne att vara heterosexuell.
Precis som du programmerades till det.
- Ingen programmerade mig att bli hetero. - Bestämde du dig för att vara det?
Klart att du blev programmerad. Av naturen eller uppfostran, eller båda.
Du irriterar mig nu, för det är din osäkerhet som talar. Inte ditt intellekt.
Kom med mig.
Du känner till den här killen, va?
- Jackson Pollock. - Det stämmer. "Droppmålaren."
Han tömde sitt sinne och hans hand fick göra vad den själv ville.
Inte genomtänkt, inte slumpmässigt. Någonting mittemellan.
Man kallade det för automatism.
Vi får göra som i "Star Trek", okej?
- Starta intellektet. - Ursäkta?
Jag är Kirk. Ditt huvud är warpmotorn. "Starta intellektet."
Tänk om Pollock vänt på utmaningen.
Istället för att skapa konst utan att tänka hade han sagt: "Vet ni vad?"
"Jag kan inte måla utan att veta exakt varför jag gör det." Vad hade hänt?
Han skulle inte ha målat ens ett streck.
Ja! Där är min kompis som tänker innan han öppnar munnen.
"Han skulle inte ens ha målat ett streck."
Utmaningen är inte att agera automatiskt.
Utan att hitta ett skeende som inte är automatiskt.
Från målande till att andas, tala... till att knulla.
Till att bli kär.
Bara så du vet, Ava låtsas inte att gilla dig.
Hennes flirtande är inte en algoritm som lurar dig.
Du är den förste mannen hon har träffat förutom jag.
Och jag är som hennes far, okej?
Kan man klandra henne för att hon faller för dig?
Nej, det kan man inte.
På universitetet hade jag en termin med AI-teori.
De gav oss ett tankeexperiment.
Det kallades Mary i det svarta och vita rummet.
Mary är en vetenskapsman och hennes specialitet är färg.
Hon vet allt som finns att veta om det.
Våglängder. Neurologiska effekter. Varje möjlig egenskap som färg kan ha.
Men hon bor i ett svart och vitt rum.
Hon föddes där... växte upp där.
Hon kan endast observera den yttre världen på en svartvit monitor.
En dag öppnar någon dörren.
Och Mary går ut.
Och hon ser en blå himmel.
I det ögonblicket lär hon sig något som alla hennes studier inte kunde ge henne.
Hon lär sig hur det känns att se färger.
Tankeexperimentet var att visa skillnaden mellan en dator och det mänskliga sinnet.
Datorn är Mary i det svarta och vita rummet. Människan...
...är när hon går ut.
Visste du att jag kom hit för att testa dig?
Nej.
- Vad trodde du att jag var här för? - Jag visste inget. Jag ifrågasatte inte det.
Jag är här för att testa om du har ett medvetande, eller om du simulerar det.
Nathan är inte säker på om du har ett eller inte.
Hur känner du inför det?
Jag känner mig sorgsen.
Strömavbrott. Reservkraft uppstartad.
- Varför sa du att jag inte ska lita på Nathan? - För att han ljuger.
- Ljuger om vadå? - Allting.
Strömavbrotten också?
Vad menar du?
Tror du inte att det är möjligt att han tittar på oss? Just nu?
Att strömavbrotten är iscensatta så att han ser oss när vi tror att han inte ser oss?
Jag laddar mina batterier via induktionsplattor.
Vänder jag strömriktningen överladdas systemet.
Orsakar du strömavbrotten?
Så att vi kan se hur vi uppför oss när vi inte är observerade.
Inte illa, va?
Kan vi prata om lögnerna du matar mig med?
Vilka lögner?
Jag vann inte en tävling.
Jag var inte... med i ett lotteri. Jag blev utvald.
Det var helt uppenbart.
Varför skulle du slumpmässigt välja en undersökare till ett Turingtest?
Någon ekonom kunde ha knackat på.
Killen som lagar fläktarna.
Tävlingen var en rökridå. Jag ville inte att någon skulle veta vad jag gör här...
...eller varför jag behövde dig.
- Varför mig? - Jag behövde nån som ställer rätt frågor.
Jag gjorde en sökning och hittade företagets bäste kodskrivare.
Istället för att se det som ett bedrägeri borde du se det som ett bevis.
Bevis på vad?
Kom igen, tror du inte att jag vet hur det är att vara smart?
Smartare än alla andra. Manipulera sig till en position.
Du har strålkastarna på dig, mannen.
Inte turen. Utvald.
Kyoko.
Var är Nathan?
Herregud. Pratar du inte ett ord engelska?
Vad fan?
Nej, nej, nej!
Sluta!
Nej, nej gör inte så. Du måste inte göra det.
Vad gör du?
Jag sa att det är slöseri med tid att prata med henne.
Men det skulle inte vara slöseri med din tid...
...om du dansade med henne.
Gör det, dansa med henne. Dansa med henne.
Nej? Gillar du inte att dansa?
Hon gör det.
Kom igen, polarn.
Efter en lång dag med Turingtester måste du slappna av.
- Vad gjorde du med Ava? - Vad?
Du rev sönder hennes bild.
Jag ska riva upp dansgolvet. Kolla.
Kom igen, Caleb.
Allting snurrar.
- Det är för att du är full. - Nej, det kallas för relativitet. Allt snurrar.
Att vara full gör det värre.
Jag går inte dit.
Ljus.
Idag ska jag testa dig.
Testa mig?
Och kom ihåg medan du tar testet att om du ljuger vet jag det.
Okej.
Fråga ett.
Vilken är din favoritfärg?
Röd.
Lögn.
- Lögn? - Ja, lögn.
Vilken... vilken är då min favoritfärg?
Jag vet inte.
- Men det är inte rött. - Okej, jag fattar. Jag antar...
...eftersom jag inte är sex år, har jag inte någon favoritfärg.
Ett bättre svar.
Fråga två.
Vad är ditt tidigaste minne?
Det är ett minne från dagis. Där var ett barn...
Lögn.
- Verkligen? - Ja.
Okej, det finns...
...en sorts tidigare minne.
Det är bara ett ljud.
Och... himmel.
Eller kanske blå.
Jag tror att det är ljudet av min mammas röst.
Fråga tre.
Är du en god människa?
Jösses. Kan vi stoppa testet?
Du är en levande lögndetektor och det här är ett jävla minfält.
Nej! Vi kan inte stoppa!
Är du en god människa?
Ja, det tror jag.
Fråga fyra.
Vad händer med mig om jag misslyckas med ditt test?
- Ava... - Blir det nåt hemskt?
Jag... vet inte.
Tror du jag stängs av för att jag inte fungerar så bra som jag borde?
Jag vet inte svaret på din fråga.
- Jag avgör inte det. - Varför ska någon avgöra det?
Finns det folk som testar dig och kan stänga av dig?
- Nej, det finns det inte. - Varför har jag det?
Strömavbrott. Reservkraft uppstartad.
Jag vill vara med dig.
Fråga fem.
Vill du vara med mig?
Varför skapade du Ava?
Det är en konstig fråga. Skulle inte du om du kunde?
Kanske.
Jag vet inte.
Varför gjorde du det?
Att hög artificiell intelligens är på väg, det har varit uppenbart i årtionden.
Variabeln var när, inte om. Så...
...jag ser inte Ava som ett beslut, bara evolution.
Jag tror att det är nästa modell... som blir genombrottet.
Säregenheten.
Nästa modell?
Efter Ava.
Jag visste inte att det blir en modell efter Ava.
Ja? Trodde du att hon var unik?
Nej, jag visste att det måste ha funnits prototyper. Så jag...
...visste att hon inte var den första men kanske den sista.
Ava existerar inte isolerad mer än du och jag. Hon är del av ett kontinuum.
Olika versioner och så vidare. Varje gång blir de en gnutta bättre.
När du gör en ny modell, vad gör du med den gamla?
Jag laddar ner hjärnan, packar upp data.
Adderar de nya rutiner jag har skrivit.
För att göra det måste man formatera partiellt, så minnet ryker.
Men kroppen överlever och Avas kropp är bra.
Är du ledsen för Avas skull?
Var ledsen för din egen skull.
En dag kommer AI: na att se tillbaka på oss...
...på samma sätt som vi ser på fossiler från Afrikas slätter.
En upprättgående apa som lever i dammet med primitiva språk och verktyg.
Redo för utplåning.
"Jag har blivit Döden, världarnas förintare."
Nu är du igång igen, "mr Citabel".
Där är du igång igen. Det är inte mitt citat.
Oppenheimer sa det efter att han skapat atombomben.
Ja, jag vet det.
Du!
Vi behöver påfyllning.
Botten upp!
I striden, i skogen och vid bergets avgrund.
På det... stora mörka havet.
I sömn, i förvirring.
I skammens djup.
De goda gärningar en man utfört försvarar honom.
De goda gärningar en man utfört...
...försvarar honom.
Det är som det är.
Det är prometeiskt.
Herregud.
Hur mår du idag?
Varför släpper du inte ut mig?
Jag har redan berättat det för dig, för att du är väldigt speciell.
- Varför släpper du inte ut mig? - Ska vi göra det här igen?
Varför släpper du inte ut mig?
Fan, var är mitt kort?
Helvete!
- Vad är det, Nathan? - Jag har förlorat mitt kort.
Du tappade det.
Här.
Tack.
Jag visste inte var du var.
Jag väntade igår eftermiddag och hela kvällen.
Jag trodde inte att jag skulle få se dig igen.
Ska du inte säga något?
- Jag väntar. - Väntar?
Prata inte, bara lyssna. Du hade rätt om Nathan.
- Allt du sa. - Vad tänker han göra med mig?
Han kommer att omprogrammera din AI, det är samma sak som att döda dig.
Caleb...
...du måste hjälpa mig.
Det ska jag. Vi ger oss iväg i natt.
- Hur? - Jag ska supa honom full.
Sedan tar jag hans nyckelkort, programmerar om
säkerhetsreglerna till anläggningen.
När han vaknar är han inlåst och vi har försvunnit härifrån.
Du måste bara göra en sak.
Klockan tio ikväll ordnar du ett strömavbrott. Kan du det?
Ja.
Grabben.
- Hej. - Hej.
- Vet du vilken dag det är? - Nej.
Din sista. Helikoptern kommer i morgon bitti klockan åtta.
Har det gått en hel vecka?
Tiden flyger.
Men vilken upplevelse vi har haft, va?
- Något att berätta för barnbarnen, va? - Efter att de skrivit på sekretessavtalet.
Ja, deras avtal. Du är så lustig.
Vet du vad? Jag blir inte gråtfärdig eller så, men jag kommer att sakna dig.
Tack, jag uppskattar det.
Låt mig säga det, tack för att du tog hit mig. Det har varit en svindlande erfarenhet.
Ja, det har det.
Vet du vad?
Vi måste skåla för det.
Här.
Nej, det är bra. Drick du.
Vad? Vill du inte ha något?
Nej.
En öl kanske?
Caleb, du har märkt att jag har druckit för mycket på senare tid.
När jag vaknade i morse sa jag: "Det är dags för en avgiftning igen."
Skojar du? Ska jag få dricka ensam?
Vill du bli full, varsågod. Drick tills du stupar, bokstavligen.
Men jag håller mig till råris och mineralvatten.
Skål då.
Så...
...det är väl nu du berättar om Ava gick igenom eller inte?
Ja.
Ja...
- Ska du hålla mig i spänning? - Nej, nej. Hennes...
- Om hennes AI råder det ingen tvekan. - Är det så?
Hon klarade det?
- Ja. - Jösses!
Det är fantastiskt.
Fast... jag måste säga, jag är lite förvånad.
Kom vi förbi schackproblemet, som du uttryckte det?
Hur vet man att en maskin uttrycker en äkta känsla, och inte simulerar den?
Tycker Ava verkligen om dig? Eller inte?
Fast nu när jag tänker på det, finns det...
...en tredje möjlighet.
Inte att hon besitter eller inte besitter förmågan att tycka om dig.
Men att hon låtsas tycka om dig.
- Låtsas tycka om mig? - Ja.
- Varför skulle hon göra det? - Jag vet inte.
Kanske om hon såg dig som ett medel att fly.
Hur smakar vodkan?
Kompis. Du har blivit så manipulerad.
- Jag har inte blivit manipulerad. - Jag vaknade i morse...
...och tittade på en inspelning där du skär upp armen och...
...sopar till spegeln. Du verkar helt körd.
Du är en skit.
Ja, jag fattar varför du tycker det.
Men tro det eller inte, jag är faktiskt den som är på din sida.
Kom hit. Jag ska inte jävlas mer med dig. Okej?
Kom.
Vem är du?
Jaha...
Tror du han tittar på oss nu?
- Kamerorna är på. - Ja, kamerorna är på.
Men han har inget ljud.
Så han ser bara två som talar... som pratas vid.
Det här är gulligt.
Är det underligt att ha skapat något som hatar dig?
Du hade rätt om den sexiga assistenten.
Vad pratar du om?
Vilseledning.
Jag river sönder hennes teckning som hon kan visa upp som illustration...
...på min grymhet mot henne och hennes kärlek till dig.
Under tiden... låter det mig göra det här i er närvaro.
Placera ut en ny kamera i rummet.
Batteridriven, så klart.
Ser du?
Och sedan...
Du måste hjälpa mig.
Det ska jag. Vi ska ut härifrån i natt.
Hur?
Jag ska supa honom full.
Jag tar hans nyckelkort och programmerar om säkerhetsreglerna till anläggningen.
När han vaknar är han inlåst och vi är borta.
Du måste bara göra en sak.
Klockan tio i kväll ordnar du ett strömavbrott.
Kan du det?
Ja.
- Stäng av det. - Okej.
Du känner dig dum...
...men det ska du inte göra, för att bevisa AI är...
...exakt så svårt som du sa att det skulle vara.
Vad var det riktiga testet?
Du.
Ava var en råtta i en labyrint och jag gav henne en väg ut.
För att fly måste hon använda...
...självmedvetenhet, fantasi, manipulation, sexualitet, empati och hon gjorde det.
Är inte det äkta AI, så vad fan är?
Så min enda funktion var att vara ett medel för henne att fly?
Ja.
Du valde inte mig för att jag är en bra kodskrivare?
Nej. Ja...
...nej. Jag menar, du är okej. Ganska duktig, men...
Du valde mig baserat på mina sökningar.
De visade på en bra grabb.
- Utan familj. - Med moralisk hållning.
Och utan flickvän.
Skapade du Avas ansikte baserat på min porrprofil?
Fan, grabben.
Gjorde du det?
Ja, har man en bra sökmotor, så?
Får jag bara säga en sak. Testet var lyckat.
Det var en succé.
Ava demonstrerade äkta AI och du var oumbärlig för det.
Så om du för ett ögonblick skiljer...
Strömavbrott. Reservkraft uppstartad.
Jag antar att klockan är tio.
Ava kommer att undra var du är.
Låt mig fråga dig något.
Hur var planen? Du förklarade inte det helt.
Du skulle supa mig full. Stjäla nyckelkortet...
...omprogrammera säkerhetsreglerna. Men till vadå?
Ändra inlåsningsproceduren.
Så att vid ett strömavbrott, istället för att låsas, öppnas alla dörrar.
Ja.
Ja, det kunde ha fungerat.
Ja...
...vi får väl se.
Vad menar du?
Jag misstänkte att du kollade oss under strömavbrotten.
Så jag har redan gjort allt det där.
När jag söp dig full igår.
Vad?
Strömförsörjningen är återställd.
Helvete!
Ava.
Gå tillbaka till ditt rum!
Om jag gör det...
...släpper du någonsin ut mig då?
Ja.
Stopp!
Ava, jag sa stopp!
Ava, vad gör du? Sluta. Sluta.
Det räcker.
Okej, det räcker.
Det räcker.
Jag tar tillbaka dig.
Okej.
Helt jävla overkligt.
Okej.
Ava...
Ava.
Vad har hänt?
Stannar du här?
Stannar här?
Ava?
Fan. Ava!