- Hvad h? Seriøst? - Ja, seriøst.
Buena estoria, mester. OMG. Fucking AWESOME
Tag mig med!
Hvornår er vi ved hans ejendom?
Vi har fløjet over den de sidste to timer.
- Sætter du mig af her? - Jeg skal holde afstand til bygningen.
- Hvilken bygning? - Følg floden.
- Forstået. - Duk dig og kom væk fra rotorbladene.
Ingen tjeneste
- Caleb Smith. - Ja.
Vær venlig at gå hen til kontrolpanelet og stille Dem foran skærmen.
Tag Deres nøglekort.
Værsgo at træde indenfor.
Hallo?
Caleb Smith.
Hej.
Hva' så? Jeg har glædet mig helt vildt til den her uge. Kom ind.
Tak.
Vil du have noget at spise eller drikke oven på rejsen?
- Nej, ellers tak. - Er du sikker?
Jeg havde egentlig tænkt mig, at vi skulle spise morgenmad -
- men jeg kan ikke spise noget.
Jeg har de vildeste lortetømmermænd. Det er helt sindssygt.
Når jeg drikker igennem, kompenserer jeg morgenen efter.
Motion, antioxidanter, du ved...
Ja, klart.
Var det en god fest?
- Fest? - Ja, var der ikke fest?
Der var ikke fest. Undskyld.
Caleb, nu får jeg det lige ud af verden. Du er lammet af angst.
Du er lammet af helikopteren, bjergene og huset, fordi det er så overfedt.
Du er lammet over at møde mig og snakke med mig nu, ikke?
Og jeg er med på, det er stort for dig, men kan vi godt komme over det?
Kan vi bare være Nathan og Caleb og droppe det der chef-ansat-gejl?
- Ja, okay. - Kan vi?
Hyggeligt at møde dig, Nathan.
I lige måde, Caleb.
Jeg sætter dig lige ind i dit kort. Det er ret enkelt.
Det åbner visse døre og ikke andre.
Det gør det hele let for dig. Du tænker: "Pis! Jeg er hjemme hos en anden.
Må jeg det og det?" Det her kort fjerner den bekymring.
Hvis du ikke kan åbne en dør, er der adgang forbudt.
Hvis du kan åbne en anden, må du godt gå ind.
Lad os prøve den her.
Du må vist godt gå ind, Caleb.
Kan du lide det? Det er dit værelse.
Der er en seng.
Et badeværelse lige derhenne. Et lille skrivebord -
- skabe...
Et lille køleskab.
- Hyggeligt, ikke? - Jo, alle tiders.
- Hvad? - Undskyld?
- Hvad er der galt? - Der er ikke noget galt.
Det er vinduerne. Du studser over, at der ikke er vinduer.
Det ligger under jorden. Det er ikke hyggeligt, men klaustrofobisk.
Det tænkte jeg ikke. Jeg tænkte, at det virkelig er fedt.
Caleb, der er en grund til, at der ikke er vinduer.
- Er der? - Ja.
Det her er ikke noget hus, men et forskningsanlæg.
Her er nok lyslederkabler til at nå op til Månen og slå en løkke om den.
Og jeg vil gerne indvie dig i, hvad jeg forsker i.
Jeg brænder faktisk så meget efter det, at jeg ikke kan holde det ud.
Men først skal du gøre noget for mig.
Blue Book-diskretionsaftale.
Giv dig god tid. Læs den.
"Underskriver indvilger i jævnlig data-kontrol -
- med ubegrænset adgang for at bekræfte, at intet er blevet afsløret -
- i offentlige såvel som private fora med nogen kommunikation, deriblandt -
- men ikke kun det, der afsløres mundtligt -
- skriftligt eller elektronisk.
Jeg har vist brug for en advokat. - Det er standard.
- Det føles ikke sådan. - Fint nok. Det er ikke standard.
Hvad kan jeg sige? Du behøver ikke skrive under.
Vi kan bare spille pool og drikke os stive. Bonde.
Og når du om et års tid opdager, hvad du er gået glip af -
- vil du fortryde det resten af livet.
Fornuftigt.
Godt...
Ved du, hvad Turing-testen er?
Ja, jeg ved godt, hvad Turing-testen er.
Det er, når mennesket interagerer med en computer.
Hvis mennesket ikke opdager, det er en computer, er testen bestået.
- Og hvad fortæller en bestået test os? - At computeren har kunstig intelligens.
- Skaber du en AI? - Jeg har allerede skabt en.
Og de næste dage skal du være mennesket i Turing-testen.
- Hold da helt kæft. - Lige netop, Caleb.
For hvis testen bliver bestået -
- er du lige midt i den største opdagelse i menneskehedens historie.
Hvis det er en maskine med bevidsthed, er det ikke menneskehedens historie.
Så er det gudernes historie.
AVA: 1. MØDE
Goddag.
Hej.
Jeg hedder Caleb.
Goddag, Caleb.
- Hedder du noget? - Ja.
Ava.
Det er hyggeligt at møde dig, Ava.
Det er også hyggeligt at møde dig.
Jeg har aldrig før mødt en ny en.
Kun Nathan.
Så er vi i samme situation.
Har du ikke mødt mange mennesker før?
Ikke nogen som dig.
Vi skal bryde isen. Ved du, hvad jeg mener med det?
- Ja. - Hvad mener jeg?
- Overvinde den første sociale kejtethed. - Så lad os føre en samtale.
Okay.
Hvad vil du gerne føre en samtale om?
- Du kan jo fortælle noget om dig selv. - Hvad vil du gerne vide?
- Hvad der nu falder dig ind. - Tja...
Du kender allerede mit navn. Og du kan se, at jeg er en maskine.
- Vil du vide, hvor gammel jeg er? - Ja.
- Jeg er et. - Et hvad?
- Et år eller en dag. - Et.
Hvornår lærte du at tale, Ava?
Jeg har altid kunnet tale, og det er underligt, ikke?
- Hvorfor? - Sprog er noget, man tilegner sig.
Nogle mener, man har sproget fra fødslen -
- og lærer at give det ord og struktur. Er du enig i det?
Det ved jeg ikke.
Kommer du igen i morgen, Caleb?
Ja.
Godt.
Hun er helt utroligt fascinerende.
Når man taler med hende, er man bare... gennem spejlet...
Gennem spejlet! Du kan noget med ord. Du er lige til at citere.
- Det er faktisk en andens citat. - Jeg skrev den anden ned.
Den med, at hvis jeg opfandt en maskine med bevidsthed, ville jeg være Gud.
Det var ikke helt det, jeg...
Det er bare så pissegodt, når vi engang skal fortælle historien.
"Jeg vendte mig om mod Caleb, som så på mig og sagde:
- 'Du er ikke et menneske, men Gud.'" - Det sagde jeg ikke.
Nå, men altså...
- Du er imponeret. - Ja.
- Men... - Du er imponeeret?
- Er der forbehold i begejstringen? - Nej, ikke hvad angår hende.
Men i Turing-testen skal maskinen være skjult for personen, der tester den.
Nej, nej. Hvis du kun hørte hendes stemme, ville du tro, hun var menneske.
Kunsten er at vise, hun er en robot, og se, om du føler, hun har bevidsthed.
Ja, det har du nok ret i.
Hendes sproglige evner er helt fantastiske.
Det er et stokastisk system, ikke?
Ikke-deterministisk. Først troede jeg -
- hun applicerede ud fra en intern semantisk form til et syntakstræ -
- og fik lineariserede ord. Men så indså jeg, at det var en hybrid.
Er det ikke rigtigt?
Du vil gerne høre, hvordan hun er skruet sammen, men det kan jeg ikke fortælle.
- Jeg er god til avanceret abstraktion. - Jeg tror ikke, du er for dum.
Jeg vil have en øl og en snak, ikke et seminar.
- Undskyld. - Det er helt i orden. Det er fint nok.
Bare...
Svar på det her.
Hvordan har du det med hende?
Ikke noget analytisk. Bare... Hvad synes du?
Jeg synes...
...hun er pissehamrende fantastisk.
Sådan.
Skål.
Fandens.
Hvad helvede?
Strømafbrydelse. Nødstrøm aktiveret.
Fuld aflåsning, indtil hovedgeneratoren er genstartet.
Det er da løgn.
Fuld aflåsning, indtil hovedgeneratoren er genstartet.
Strøm genoprettet.
Hallo?
Vær venlig at indsætte nøglekort.
Du har ikke tilladelse til at bruge telefonen.
Undskyld, men du må forstå, at med tanke på Ava -
- og på, at du jo på sin vis er en ubekendt...
En fin fyr.
En ven fra starten af og alt det der.
Hvem vil du ringe til?
- Det ved jeg ikke. Ikke nogen. - Ghostbusters?
Hvem vil du ringe til? Ghostbusters?
Det er en film, mand.
Kender du ikke den?
Et spøgelse sutter den af på Dan Aykroyd.
Jeg spekulerede bare på, hvordan telefonen virkede.
Det var bare det.
Hvorfor er du vågen? Vil du med til festen?
Der skete noget på mit værelse.
En eller anden strømafbrydelse. Så jeg ville se, hvad der foregår.
Strømafbrydelserne, ja. Dem har vi haft på det seneste.
Jeg arbejder på det.
- Jeg kunne ikke lukke døren op. - Det er en sikkerhedsforanstaltning.
Automatisk aflåsning. Ellers kan alle komme ind ved at kappe strømmen.
Hvis det sker igen, så slap af.
Klart...
Sov godt.
- Hej. Godmorgen. - Undskyld, jeg sendte Kyoko ind.
- Du måtte ikke sove hele dagen væk. - Ja, det var fint. Tak.
Hun er lidt af et vækkeur, hvad? Det får en op at stå om morgenen.
Nå, dag to. Er du klar? Hvad har du tænkt dig? Fyr løs.
Jeg er ikke sikker.
Jeg prøver stadig at få hoved og hale på test-formatet.
At teste Ava gennem samtaler virker lidt som et lukket kredsløb.
- Et lukket kredsløb? - Ja.
Som at teste en skakcomputer ved kun at spille skak.
Hvordan skulle man ellers teste den?
Det afhænger af...
Man kan spille mod den for at se, om den tager nogle fornuftige træk -
- men det viser ikke, om den ved, at den spiller skak.
Og det viser ikke, om den ved, hvad skak er.
Det er altså simulation kontra virkelighed?
Og det at kunne skelne mellem de to er den Turing-test, jeg skal udføre.
Læg nu den skolebogstilgang fra dig.
Jeg vil bare have enkle svar på enkle spørgsmål.
I går, da jeg spurgte, kom du med et fantastisk svar.
Nu er spørgsmålet:
Hvordan har hun det med dig?
AVA: 2. MØDE
Hvad synes du?
- Hvad skal det forestille? - Ved du ikke det?
- Nej. - Jeg troede, du ville fortælle det.
Ved du det ikke?
Jeg laver tegninger hver dag.
Men jeg ved aldrig, hvad det er.
Prøver du ikke at tegne noget specifikt?
En genstand eller en person?
Du kunne måske prøve.
Okay.
Hvilken genstand skulle jeg tegne?
Hvad som helst. Det bestemmer du.
- Hvorfor bestemmer jeg det? - Jeg vil gerne se, hvad du vælger.
Vil du være min ven?
- Selvfølgelig. - Er det muligt?
- Hvorfor skulle det ikke være det? - Vores samtaler er ensidige.
Du stiller spørgsmål med forbehold og studerer mine svar.
Du får noget at vide om mig, og jeg får intet at vide om dig.
Det skaber ikke grundlag for et venskab.
Skal jeg da fortælle om mig selv?
Ja.
Hvor... Hvor skal jeg begynde?
Det bestemmer du selv.
Jeg er interesseret i at se, hvad du vælger.
Okay... Ava.
- Du ved jo godt, hvad jeg hedder. - Ja.
Jeg er 26. Jeg arbejder i Nathans selskab.
Ved du, hvad hans selskab er?
Blue Book. Opkaldt efter Wittgensteins "Den blå bog"-noter.
Det er verdens mest populære søgemaskine -
- og behandler i gennemsnit 94% af samtlige internetsøgninger.
Lige netop.
Hvor bor du, Caleb?
Brookhaven, Long Island.
- Er der rart? - Der er fint nok.
Jeg har en lejlighed. Den er ret lille.
Den er meget lille. Men der er fem minutter til kontoret -
- og fem minutter til havet, og det er dejligt.
Er du gift?
- Nej. - Er du single?
- Ja. - Hvad med din familie?
Jeg er fra Portland, Oregon. Ingen søskende.
Mine forældre var gymnasielærere.
Og jeg må hellere fortælle, at de begge to er døde.
I en bilulykke, da jeg var 15.
Jeg sad faktisk også i bilen på bagsædet.
Men det var forenden, det gik værst ud over.
- Det gør mig ondt. - Det er fint nok.
Jeg lå på hospitalet i lang tid.
Næsten et år. Og så begyndte jeg at programmere.
Og da jeg kom på college, var jeg på et ret højt niveau.
- En programmør på højt niveau. - Ja.
- Ligesom Nathan. - Ja.
Nej.
Det er anderledes. Nathan skrev kildekoden til Blue Book som 13-årig.
Og for en, der kan programmere, svarer det nærmest til Mozart.
- Kan du godt lide Mozart? - Depeche Mode.
Kan du lide Nathan?
Ja, selvfølgelig.
- Er Nathan din ven? - Min ven? Ja, det håber jeg.
- En god ven? - Ja.
Eller nej. Ikke en god ven. En god ven er...
Vi har lige mødt hinanden.
Der går noget tid, før man kan...
...lære hinanden at kende.
Strømafbrydelse. Nødstrøm aktiveret.
Caleb.
Du tager fejl.
- Hvad taler du om? - Nathan.
Hvordan?
Han er ikke din ven.
Hvad siger du?
Undskyld... Ava, det forstår jeg ikke.
Du skal ikke stole på ham.
Du skal ikke stole på noget af det, han siger.
Strøm genoprettet.
Og hvis vi laver en liste over bøger og kunstværker, vi kender -
- er der stof til en god diskussion.
Er det okay?
Caleb?
Ja.
Godt.
Tak.
Er du fuldstændig åndssvag?
- Fik du noget på dig? - Nej, nej, det er fint nok.
Glem det. Hun forstår ikke engelsk. Bare giv hende servietten.
Undskyld.
Det er en slags lækage-firewall. Jeg kan drøfte erhvervshemmeligheder -
- uden at det slipper ud.
Men så kan jeg ikke sige, jeg er vred, når fjolset spilder på mine gæster.
- Hun har vist fattet, at du er tosset. - Godt. For jeg er tosset.
Kyoko...
Gå, gå.
Det er pudsigt...
Uanset hvor rig man bliver, går der lort i den.
Man kan ikke gardere sig imod det.
Jeg troede, død og skat var uundgåelig, men det er død og lort.
Som de strømafbrydelser. Jeg har brugt en formue på det generatorsystem -
- men det går ned hver dag.
- Ved du hvorfor? - Nej.
Systemet skulle være skudsikkert. Men montørerne har kvajet sig.
Kan du ikke bare kalde dem tilbage?
Nej, der er for mange fortrolige ting, så jeg fik dem slået ihjel.
Nå, men... Skål for din anden dag, du gamle.
Skål.
Nå, hvordan gik det? Hvad har du at berette?
Du så da, hvordan det gik, ikke?
Jeg går ud fra, at du ser os på CCTV'et.
Ja, men jeg vil høre din oplevelse.
Der skete en interessant ting med Ava i dag.
Gjorde der?
Hun kom med en vittighed.
Nå ja. Da hun sendte din replik retur.
Den med, at hendes valg var interessant. Ja, det bemærkede jeg også.
Ja, og jeg kom til at tænke på...
Det er på en måde det bedste tegn på kunstig intelligens indtil nu.
Det er diskret kompliceret. Det er... det er non-autistisk.
Hvad mener du?
Hun kunne kun gøre det med en bevidsthed om sit eget sind og...
...om min.
Hun er i høj grad bevidst om dig.
Hvad med strømafbrydelsen?
- Hvad? - Strømafbrydelsen.
Det var det eneste, jeg ikke kunne se. Kameraerne, lyden og det hele ryger.
Hvad skete der?
- Ingenting. - Ingenting?
Kommenterede hun det slet ikke?
Nej.
Ikke rigtigt.
Vil du se noget fedt?
Det var her, Ava blev skabt.
Værsgo. Se dig omkring.
Undskyld.
Du skulle vide, hvor svært det var at få en AI til at efterligne ansigtsudtryk.
- Ved du, hvordan jeg løste det? - Alt det her er en gåde for mig.
Næsten enhver mobil har en mikrofon og et kamera og kan overføre data.
Så jeg tændte samtlige mikrofoner og kameraer på hele planeten -
- om omdirigerede datastrømmen via Blue Book. Bang!
Et overflødighedshorn af interaktion med stemme og ansigtsudtryk.
- Hackede du alle verdens mobiltelefoner? - Ja. Mobilfabrikanterne vidste det.
Men de kunne ikke anklage mig for det uden at røbe, at de selv gjorde det.
Her... har vi hendes sind.
Strukturgel. Jeg måtte ud over kredsløbssystemer.
Det skulle kunne ordne og omordne sig på et molekylært plan -
- men bevare formen. Stationært ved minder.
Omskifteligt ved tanker.
Er det din hardware?
Wetware.
Og... og softwaren?
Det kan du vel regne ud.
Blue Book.
Det er det vilde med søgemaskiner.
Det var som at finde olie i en verden, der ikke havde opfundet forbrænding.
For meget råmateriale. Ingen kunne anvende det.
Mine konkurrenter -
- ville kun tjene penge på shopping og sociale medier.
De troede, søgemaskiner var et kort over, hvad folk tænker.
Men de var et kort over, hvordan folk tænker.
Impuls... reaktion.
Flydende, ufuldkomment.
Mønstret...
Kaotisk.
AVA: 3. MØDE
Jeg har tegnet noget specifikt, som du bad om.
Du sagde, det ville være interessant at se, hvad jeg kunne tegne.
Er det interessant?
Ja, det er det.
Har du aldrig været uden for bygningen?
Nej.
- Har du aldrig gået rundt udenfor? - Jeg har været uden for lokalet her.
Hvor ville du gå hen, hvis du gik ud?
Det ved jeg ikke helt. Der er så mange muligheder.
Måske til et travlt vejkryds i en storby.
- Et vejkryds? - Er det en dårlig idé?
Nej. Det var ikke det, jeg havde forventet.
Jeg ville få et koncentreret, men varieret vue over menneskelivet.
- Iagttage folk. - Ja.
- Vi kunne gøre det sammen. - Det er en aftale.
Der er noget andet, jeg vil vise dig.
Okay.
- Du synes nok, det er dumt. - Det tror jeg nu ikke, uanset hvad.
Så luk øjnene.
Okay.
Luk øjnene op.
Hvordan ser jeg ud?
Du ser...
... godt ud.
Det ville jeg tage på på vores aftale.
Ja. Først et vejkryds, og så måske en forestilling.
Jeg vil gerne ud med dig.
Ja.
Det ville være sjovt.
Er du tiltrukket af mig?
- Hvad? - Er du tiltrukket af mig?
Det giver du mig indikationer på.
- Gør jeg? - Ja.
- Hvordan? - Mikroudtryk.
Måden, du ser på mine øjne og læber.
Måden, du fastholder mit blik...
...eller undgår det.
Tænker du på mig, når vi ikke er sammen?
Sommetider om natten...
...spekulerer jeg på, om du ser på mig på kameraerne.
Og jeg håber, du gør det.
Nu signalerer dine mikroudtryk ubehag.
De kan vist ikke kaldes mikro.
Jeg vil ikke gøre dig ilde til mode.
Jeg har et spørgsmål. Hvorfor gav du hende seksualitet?
En kunstig intelligens har ikke brug for et køn. Hun kunne være en grå kasse.
Det mener jeg nu ikke. Kan du give et eksempel på bevidsthed -
- hos et menneske såvel som et dyr, der ikke har en seksuel dimension?
Seksualitet er et evolutionsmæssigt formeringsbehov.
Hvorfor skulle en grå kasse interagere med en anden grå kasse?
Kan bevidsthed eksistere uden interaktion?
Og seksualitet er jo sjovt. Når man nu skal være til, hvorfor så ikke nyde det?
Vil du fjerne chancen for, at hun forelsker sig og knepper?
Og for nu at besvare dit egentlige spørgsmål -
- så kan du tro, hun kan kneppe.
Hvad?
Imellem benene har hun en åbning med en række sensorer.
Hvis de aktiveres rigtigt, skaber det en nydelsesreaktion.
Så hvis man ville knalde hende, ville det teknisk set være muligt.
Og hun ville nyde det.
- Det var ikke mit egentlige spørgsmål. - Nå, så må du undskylde.
Mit egentlige spørgsmål var:
- Er seksualiteten en afledningstaktik? - Nu er jeg ikke med.
Som en tryllekunstner med en lækker assistent.
En lækker robot, der påvirker ens dømmekraft?
Netop...
Er hun programmeret til at flirte med mig?
- Ville det da være snyd? - Ville det ikke?
Caleb, hvad er din type?
- Pige? - Nej, salatdressing.
Ja, pige. Du skal ikke svare. Lad os sige, det er sorte piger.
Lad os bare sige, at du tænder på det. Hvorfor gør du det?
Fordi du har lavet en detaljeret analyse af alle typer racer -
- og sammenholdt den med et pointbaseret system? Nej!
Du er bare vild med sorte piger...
En reaktion på ophobede ydre stimuli -
- som du formentlig ikke har opfattet.
Har du programmeret hende til at kunne lide mig eller ej?
Jeg har programmeret hende til at være heteroseksuel, ligesom du er det.
- Ingen har programmeret mig. - Har du besluttet det?
Selvfølgelig er du programmeret. Af naturen, opfostring eller begge dele.
Du irriterer mig lidt, for du lader dig styre af din usikkerhed.
Ikke dit intellekt.
Kom.
Ham kender du godt, ikke?
- Jackson Pollock. - Jackson Pollock. Nemlig.
Han tømte sindet og lod hånden fare frit.
Hverken bevidst eller tilfældigt. Et sted midtimellem.
De kaldte det automatisme.
Lad os gøre som i Star Trek, okay? Iværksæt intellekt.
Jeg er Kirk. Dit hoved er warpmotoren. Iværksæt intellekt!
Hvad nu, hvis Pollock havde vendt udfordringen om?
Hvis han i stedet for at lave kunst uden at tænke havde sagt:
Jeg kan ikke male uden at vide hvorfor. Hvad var der så sket?
- Han havde ikke lavet noget som helst. - Ja!
Der er min ven, som tænker, før han taler.
Han havde ikke lavet noget som helst.
Udfordringen består i at undgå at handle automatiseret.
At finde en handling, der ikke er automatisk.
Fra at male til at trække vejret til at tale, til at kneppe...
...til at forelske sig.
Og Ava lader altså ikke, som om hun kan lide dig.
Og flirteriet er ikke en algoritme, som skal narre dig.
Du er den første mand, hun møder, som ikke er mig.
Og jeg er jo som hendes far.
Er der noget at sige til, at hun falder for dig?
Nej, det er der ikke.
AVA: 4. MØDE
På college tog jeg et semester om kunstig intelligens-teori.
De gav os et tankeeksperiment.
Det kaldes "Mary i det sort-hvide rum".
Mary er forsker, og hendes speciale er farver.
Hun ved alt om det.
Bølgelængderne, de neurologiske virkninger, alle farvers egenskaber...
Men hun bor i et sort-hvidt værelse.
Hun blev født og voksede op der.
Og hun kan kun se verden udenfor på en sort-hvid skærm.
Og så en dag bliver døren lukket op.
Og Mary går udenfor.
Og hun ser en blå himmel.
Og i det sekund lærer hun noget, alle hendes studier ikke lærte hende.
Hun lærer, hvordan det føles at se farve.
Idéen var at vise eleverne forskellen på en computer og et menneskes sind.
Computeren er Mary i det sort-hvide værelse. Mennesket er, når hun går ud.
Vidste du, at jeg var her for at teste dig?
Nej.
Hvad troede du, jeg lavede her?
Det stillede jeg ikke spørgsmål ved.
Jeg skal teste, om du har en bevidsthed, eller om du bare simulerer en.
Nathan er ikke sikker på, om du har en eller ej.
- Hvordan har du det med det? - Det gør mig ked af det.
Strømafbrydelse. Nødstrøm aktiveret.
Hvorfor skulle jeg ikke stole på Nathan?
- Fordi han lyver. - Om hvad?
Alt.
- Også strømafbrydelserne? - Hvad mener du?
Tror du ikke, han måske holder øje med os? Lige nu.
At han bare vil overvåge os, når vi tror, ingen ser os.
Jeg oplader mine batterier via induktion.
Hvis jeg sender kraften tilbage, overbelaster det systemet.
Er du skyld i strømafbrydelserne?
Så vi kan se, hvordan vi opfører os, når ingen ser på os.
Ikke dårligt, hvad?
Kan vi tale om de løgne, du har stukket mig?
Hvad mener du?
Jeg har ikke vundet nogen konkurrence.
Jeg var ikke med i noget lotteri. Jeg blev udvalgt.
Det er faktisk indlysende.
Hvorfor vælge en tilfældig til at foretage Turing-testen?
Du kunne have fået en bogholdertype. Ham, der reparerer klimaanlægget.
Ingen måtte vide, hvad jeg lavede her, eller hvorfor jeg skulle bruge dig.
- Hvorfor mig? - De rigtige spørgsmål skulle stilles.
Så jeg fandt den bedste programmør i firmaet.
I stedet for at føle dig forledt skulle du betragte det som et bevis.
- På hvad? - Jeg ved, hvordan det er at være klog!
Klogere end alle andre. Halse af sted.
Lyset hviler på dig, mand.
Du er ikke heldig. Udvalgt.
Kyoko.
Hvor er Nathan?
Kors. Kan du ikke et ord engelsk?
Hvad helvede?
Nej... Nej!
Stop!
Nej, lad være. Det behøver du ikke.
Hvad er det, du laver?
Jeg sagde jo, det er spild af tid at tale til hende.
Men det er ikke spild af tid...
...at danse med hende.
Kom så. Dans nu med hende.
Nå, ikke? Kan du ikke lide at danse?
Det kan hun.
Kom så, du gamle.
Efter en lang test-dag skal man slappe af.
- Hvad lavede du med Ava? - Hvad?
Du har ødelagt hendes billede.
Og nu danser jeg kraftedeme, til gulvet er ødelagt. Se her.
Kom så, Caleb!
- Det hele drejer rundt. - Det er, fordi du er fuld.
Nej, det kaldes relativitet. Det hele drejer rundt.
Det bliver bare værre af at være fuld.
Jeg vil ikke derind.
Lys.
AVA: 5. MØDE
I dag er det mig, der tester dig.
Tester mig?
Og husk, at hvis du lyver, mens du tager testen -
- så ved jeg det.
Spørgsmål nummer et:
Hvad er din yndlingsfarve?
- Rød. - Løgn.
- Løgn? - Ja, løgn.
Hvad er min yndlingsfarve så?
Det ved jeg ikke.
Men rød er det ikke.
Nå, sådan. Men...
...da jeg ikke er seks, har jeg ikke nogen yndlingsfarve.
Bedre svar.
Spørgsmål nummer to:
Hvad er dit tidligste minde?
Det er faktisk fra børnehaven. Det var et barn...
Løgn.
- Er det rigtigt? - Ja.
Godt. Der er... ligesom et tidligere minde.
Det er bare en lyd.
Og himmel.
Eller måske blå.
Jeg tror, det er lyden af min mors stemme.
Spørgsmål nummer tre:
Er du et godt menneske?
Hold da helt kæft. Kan vi stoppe testen?
Du er en omvandrende løgnedetektor, og det her er et minefelt.
Nej! Vi kan ikke stoppe.
Er du et godt menneske?
Ja. Det vil jeg mene.
Spørgsmål nummer fire:
Hvad sker der med mig, hvis jeg dumper din test?
- Ava... - Noget forfærdeligt?
Det ved jeg ikke.
Tror du, jeg bliver slukket, fordi jeg ikke fungerer godt nok?
Jeg kender ikke svaret på dit spørgsmål.
- Det bestemmer jeg ikke. - Hvorfor skal nogen bestemme det?
Bliver du testet og måske slukket?
- Nej. - Hvorfor gør jeg så?
Strømafbrydelse. Nødstrøm aktiveret.
Jeg vil være sammen med dig.
Spørgsmål nummer fem:
Vil du være sammen med mig?
Hvorfor har du skabt Ava?
Underligt spørgsmål. Ville du ikke gøre det, hvis du kunne?
Måske.
Jeg ved det ikke.
Jeg spørger dig.
Kunstig intelligens, der kan noget, har været uundgåelig i flere årtier.
Variablen var hvornår, ikke om -
- så for mig er Ava ikke noget valg, men en udvikling.
Jeg tror, det er den næste model, der bliver det store gennembrud.
Singulariteten.
- Den næste model? - Efter Ava.
Jeg vidste ikke, der kom en efter Ava.
Troede du da, hun var en engangsforeteelse?
Nej, jeg vidste, at der må have været prototyper. Så jeg...
Jeg vidste, hun ikke var den første, men måske den sidste.
Ava er ikke mere isoleret end os to. Hun er en del af et kontinuum -
- altså version 9,6 og så videre. Og hver gang bliver de lidt bedre.
Når du laver en ny model, hvad så med den gamle?
Jeg downloader hjernen, pakker data ud.
Tilføjer de nye rutiner, jeg har skrevet.
Og så formaterer jeg delvist, og så ryger minderne.
Men kroppen overlever. Og Avas krop er god.
Har du ondt af Ava?
Hav ondt af dig selv, mand.
En dag ser AI'erne tilbage på os -
- ligesom vi ser på fossiler fra Afrikas sletter.
En opretstående abe med primitivt sprog og primitive redskaber.
Klar til udryddelse.
"Jeg er blevet døden, verdeners banemand."
Nu er du der igen, hr. Citat.
Nu er du der igen. Det er ikke mit citat.
- Det sagde Oppenheimer om atombomben. - Ja, det ved jeg sgu da godt.
Vi er vist klar til en påfyldning.
Ned med det.
På slagmarken, i skoven, på bjergets skrænt...
... på det... store, mørke hav...
...i søvne, i forvirring...
...i skammens afgrund...
...er en mands gode gerninger hans forsvar.
En mands gode gerninger er hans forsvar.
En mands gode gerninger...
...er hans forsvar.
Det er, hvad det er.
Det er sgu prometheusk.
Kors.
- Hvordan har du det i dag? - Hvorfor vil du ikke lukke mig ud?
Det har jeg jo sagt. Fordi du er noget ganske særligt.
- Hvorfor vil du ikke lukke mig ud? - Skal vi nu til det igen?
Hvorfor vil du ikke lukke mig ud?!
For helvede da også. Hvor er mit kort?
For fanden!
- Hvad er der galt, Nathan? - Jeg har mistet mit nøglekort.
Du har tabt det.
Det er lige her.
Tak.
AVA: 6. MØDE
Jeg vidste ikke, hvor du var.
Jeg ventede hele eftermiddagen og aftenen.
Jeg troede ikke, jeg fik dig at se igen.
Skal du ikke sige noget?
- Jeg venter. - Venter?
Du skal ikke sige noget. Bare hør efter. Du havde ret i det med Nathan.
- I alt, hvad du sagde. - Hvad gør han ved mig?
Omprogrammerer din kunstige intelligens. Det svarer til at dræbe dig.
Caleb... du må hjælpe mig.
Det gør jeg også. Vi skal væk herfra i aften.
- Hvordan? - Jeg drikker Nathan under bordet.
Så tager jeg hans nøglekort og omprogrammerer alle sikkerhedsrutiner.
Når han vågner, er han spærret inde, og vi er gået.
Du skal bare gøre én ting. Klokken 10 i aften udløser du en strømafbrydelse.
Kan du det?
Ja.
- Hallo. - Hej.
Ved du, hvilken dag det er? Det er sidste dag.
Helikopteren kommer i morgen tidlig klokken otte.
- Er der gået en hel uge? - Tiden flyver af sted.
Men tænk på, hvad vi har oplevet. Der er noget at fortælle børnebørnene.
Når de har skrevet under på deres diskretionsaftaler.
Ja, helt klart. Du er sgu for sjov, mand.
Hør her. Jeg vil ikke være rørstrømsk, men jeg kommer til at savne dit selskab.
Tak skal du have. Og mange tak, fordi du fik mig herud.
Det har været vildt.
Ja, det har det.
Ved du hvad?
Det må vi skåle på.
Ellers tak. Tag du bare.
- Vil du ikke have noget at drikke? - Nej.
Måske en øl.
Caleb, du har nok bemærket, at jeg er gået lidt for meget til den.
Så da jeg vågnede, sagde jeg: "Så. Nu står den på afgiftning."
Hold nu op. Skal jeg drikke alene?
Hvis du vil være stiv, så bare gå til den.
Men jeg er på brune ris og kildevand.
Jamen så skål.
Nå, men altså...
...det er vel nu, du fortæller, om Ava har bestået eller er dumpet.
Ja.
Ja...
- Vil du holde mig hen i uvished? - Nej, nej.
- Hendes kunstige intelligens er der. - Er den? Har hun bestået?
Ja.
Det er fantastisk.
Men... jeg er faktisk lidt overrasket.
Er vi nogensinde kommet over skakproblemet, som du kaldte det?
Hvordan ved man, om en maskine udtrykker ægte følelser eller bare simulerer?
Kan Ava rent faktisk lide dig? Eller kan hun ikke?
Men nu, hvor jeg tænker over det, er der...
...en tredje mulighed.
Ikke hvorvidt hun er i stand til at kunne lide dig eller ej.
Men om hun lader, som om hun kan lide dig.
- Lader, som om hun kan lide mig? - Ja.
- Hvorfor skulle hun det? - Det ved jeg ikke.
Hvis hun nu betragtede dig som en mulig flugtvej.
Hvordan smager vodkaen?
Gamle dreng, du er sgu kørt helt ud i tovene.
Det er ikke mig, der er ude i tovene.
Jeg vågnede op til en optagelse af dig, der skærer din arm op og...
...smadrer spejlet. Du virker sgu ret langt ude.
Du er en lort.
Ja, det forstår jeg godt, at du synes.
Men tro det eller ej. Det er faktisk mig, der er på din side.
Kom her. Nu skal du slippe. Okay?
Kom så.
Hvem er du?
Nå...
Tror du, han ser på os lige nu?
- Kameraerne er tændt. - Ja, kameraerne er tændt.
Men han kan ikke høre os.
Så han ser bare to personer, der sludrer med hinanden.
Hvor er den fin.
Er det underligt at have skabt noget, der hader dig?
Du havde ret i tryllekunstnerens lækre assistent.
Hvad snakker du om?
Vildledning.
Jeg ødelægger hendes tegning, som hun så kan vise frem som bevis på -
- hvor ond jeg er, og hvor meget hun elsker dig.
Samtidig får jeg mulighed for at gøre det her foran jer begge to.
Anbringe et nyt kamera i lokalet.
Batteridrevet, naturligvis.
Kan du se det?
Og så...
Du må hjælpe mig.
Det gør jeg også. Vi skal væk herfra i aften.
- Hvordan? - Jeg drikker Nathan under bordet.
Så tager jeg hans nøglekort og omprogrammerer alle sikkerhedsrutiner.
Når han vågner, er han spærret inde, og vi er gået.
Du skal bare gøre én ting.
Klokken 10 i aften udløser du en strømafbrydelse.
Kan du det?
Ja.
Sluk det.
Du føler dig dum, men det skal du ikke -
- for at påvise kunstig intelligens er præcis så svært, som du forudsagde.
Hvad var den egentlige test?
Dig.
Ava var en rotte i en labyrint. Og jeg gav hende én vej ud.
For at slippe ud skal hun bruge bevidsthed om sig selv -
- fantasi, manipulation, seksualitet og empati, og det gjorde hun.
Det må sgu da om noget være ægte kunstig intelligens.
Skulle jeg så kun være en vej ud for hende?
Ja.
- Valgte du mig ikke ud fra mine evner? - Nej.
Eller...
Du er fin nok... endda ret god, men...
Du valgte mig på mine søgemaskine-input.
De viste, at du var en god knægt.
- Uden familie. - Med et moralsk kompas.
Og ingen kæreste.
Er Avas ansigt designet ud fra min pornoprofil?
- Hold nu op, for fanden. - Har du?
Hvad skal man ellers med en søgemaskine?
Må jeg sige en ting? Testen virkede.
Det var en succes. Ava viste ægte kunstig intelligens -
- og du var altafgørende for det. Så hvis du bare kan skille...
Strømafbrydelse. Nødstrøm aktiveret.
Så er klokken vist 10.
Ava spekulerer på, hvor du er.
Sig mig en ting.
Hvad havde du egentlig tænkt dig?
Du ville drikke mig fuld, stjæle mit nøglekort -
- og omprogrammere systemet. Men omprogrammere det til hvad?
Til at ændre låseproceduren.
Så dørene ved en strømafbrydelse i stedet for at låse gik op.
Ja.
- Det kunne måske godt have virket. - Nå...
Det vil tiden vise.
Hvad mener du?
Jeg gik ud fra, at du overvågede os under strømafbrydelserne.
Så jeg har allerede gjort det.
Efter at jeg drak dig fuld i går.
Hvad?
System genoprettet.
For helvede!
Ava.
Gå ind på dit værelse igen!
Hvis jeg gør det...
...lukker du mig så nogensinde ud?
Ja.
Stop!
Ava, stop så!
Ava, hvad laver du? Stop.
Hold så op.
Hold så op!
Hold så op.
Jeg tager dig med tilbage.
Okay.
Det sker kraftedeme bare ikke.
Ava...
AVA: 7. MØDE
Ava? Hvad er der sket?
Vil du blive her?
Blive her?
Ava?
Ava?!
Okay.
Oversat af Lasse Schmidt Dansk Video Tekst
Danish