NY E-POST ANSATTLOTTERI
"FØRSTEPREMIE"
Andy T Jeg vant
Hva? Seriøst? Ja. Seriøst
Fine greier
faen meg FANTASTISK
ta meg med!?!
Hvor lenge til vi er på eiendommen hans?
Vi har flydd over eiendommen hans de siste to timene.
Drar du fra meg her?
Jeg får ikke lov til å komme nærmere bygningen.
Hvilken bygning?
Følg elven.
Skal bli.
Hold hodet nede og gå vekk fra rotorene.
Greit.
Ingen dekning
Caleb Smith.
Ja.
Gå bort til konsollen og stå med ansiktet mot skjermen.
Ta nøkkelkortet ditt.
Du kan gå inn i boligen.
Hallo?
Caleb Smith.
Hei.
Kompis!
Jeg har gledet meg til denne uken med deg.
Kom inn.
Takk.
Vil du ha noe å spise eller drikke etter reisen?
- Nei, det går bra. - Sikker?
Ja.
For å være ærlig trodde jeg vi skulle spise
frokost sammen, men...
Jeg kan ikke spise.
- Jeg er jævlig fyllesyk. - Å?
Herregud, du aner ikke.
Når jeg har en vill kveld,
kompenserer jeg dagen etterpå. Trening. Antioksidanter. Ikke sant?
Ja.
Var det en god fest?
- Fest? - Ja. Var det ikke fest?
Det var ikke fest.
Unnskyld.
Caleb, jeg bare sier det, så er det sagt. Greit?
Du er redd.
- Er jeg? - Ja. Du er redd,
på grunn av helikopteret og fjellene og huset,
for alt er så superkult.
Du er skremt av meg, av å møte meg,
av å ha denne samtalen her og nå. Ikke sant?
Jeg forstår det. Jeg forstår hvordan du har det, men...
Kan vi ikke bare få det unna?
Kan vi ikke bare være to karer? Nathan og Caleb.
Ikke arbeidsgiver og ansatt.
- Greit. - Ja?
Ja.
Fint å møte deg, Nathan.
Fint å møte deg også, Caleb.
Det første jeg må gjøre, er å forklare nøkkelkortet ditt.
Det er ganske enkelt.
Det åpner noen dører, andre ikke.
Og det gjør alt enkelt for deg, ikke sant?
Ja.
Du tenker: "Faen, jeg er i noen andres hus.
"Kan jeg gjøre ditt eller datt?"
Dette kortet fjerner alle de bekymringene.
Om du prøver en dør og den forblir lukket, er den forbudt område.
Prøver du en annen dør og den åpner seg, er det greit.
Vi prøver denne.
Det er vel greit, Caleb.
- Liker du det? - Ja.
Det er rommet ditt.
Du har en seng her.
Et bad der bak.
Lite skrivebord.
Skap.
Lite kjøleskap.
Koselig, ikke sant?
Ja, dette er flott.
- Hva er det? - Hva?
Det er noe galt. Hva er galt?
Det er ikke noe galt.
Det er vinduene.
Du tenker: "Det er ikke vindu her."
Det er underjordisk.
Det er ikke koselig. Det er klaustrofobisk.
Nei. Jeg tenkte ikke det.
Jeg tenkte: "Dette er skikkelig kult."
Caleb, det er en grunn til at det ikke er vinduer her.
Er det?
Denne bygningen er ikke et hus.
Det er et forskningsanlegg.
Det er nok fiberoptiske kabler i veggene
til å kaste lasso rundt månen.
Og jeg vil snakke med deg om det jeg forsker på.
Jeg vil dele det med deg.
Faktisk har jeg så lyst å dele det at det gjør meg sprø.
Men du må gjøre noe for meg først.
"Blue Book taushetsavtale."
Ta deg god tid. Les den.
"Underskrivende samtykker til jevnlig datarevisjon med ubegrenset tilgang
"for å bekrefte at ingen informasjon er avslørt
"i offentlige eller private fora
"via noe slags kommunikasjonsmiddel,
"inkludert, men ikke begrenset til det som avsløres muntlig
"eller i skriftlig eller elektronisk form."
Jeg tror jeg trenger advokat.
- Det er standard. - Det føles ikke standard.
Greit, det er ikke standard.
Hva kan jeg si, Caleb? Du må ikke skrive under.
Vi kan tilbringe de neste dagene med å spille biljard og drikke oss fulle.
Knytte bånd.
Og når du oppdager hva du har gått glipp av, om cirka et år,
kommer du til å angre resten av livet.
God avgjørelse.
Nå,
vet du hva Turingtesten er?
Ja.
Jeg vet hva Turingtesten er.
Det er når et menneske samhandler med en datamaskin.
Om mennesket ikke vet at det samhandler med en datamaskin,
er prøven bestått.
Og hva sier "bestått" oss?
At datamaskinen har kunstig intelligens.
Bygger du en AI?
Jeg har allerede bygget en.
Og de neste dagene
skal du være mennesket i en Turingtest.
- Jøss. - Stemmer, Caleb. Du fikk jobben.
Om prøven bestås,
er du i sentrum av den største vitenskapelige begivenheten i menneskets historie.
Om du har skapt en bevisst maskin, er det ikke menneskets historie.
Det er gudenes historie.
AVA: FØRSTE MØTE
Hallo.
Hei.
Jeg heter Caleb.
Hei, Caleb.
Har du et navn?
Ja.
Ava.
Hyggelig å møte deg, Ava.
Hyggelig å møte deg også.
Jeg har aldri møtt en ny person før.
Bare Nathan.
Da er vi i lignende situasjoner.
Har du ikke møtt mange nye folk før?
Ingen som deg.
Vi må bryte isen.
- Vet du hva jeg mener med det? - Ja.
Hva mener jeg?
Komme forbi den første sosiale forlegenheten.
La oss ha en samtale.
Greit.
Hva vil du ha en samtale om?
Kan du ikke begynne med å fortelle meg om deg selv?
Hva vil du vite?
Det som faller deg inn.
Du vet navnet mitt allerede.
Og du ser at jeg er en maskin.
- Vil du vite hvor gammel jeg er? - Gjerne.
Én.
Én hva da?
- Ett år eller én dag? - Én.
Når lærte du å snakke, Ava?
Jeg har alltid kunnet snakke,
og det er rart, ikke sant?
Hvorfor det?
Fordi språk er noe man tilegner seg.
Noen mener at språk eksisterer fra fødselen av.
Det som læres, er evnen til å feste ord
og struktur på den latente evnen. Er du enig i det?
Jeg vet ikke.
Kan du komme tilbake i morgen, Caleb?
Ja.
Bra.
Hun er fascinerende.
Når man snakker med henne, er man bare...
På andre siden av speilet.
"På andre siden av speilet." Jøss.
Du er flink med ord, Caleb. Du er siterbar.
Faktisk er det noen andres sitat.
Jeg skrev ned det andre du sa.
Det om at
om jeg har funnet opp en bevisst maskin,
er jeg ingen mann, men en gud.
Det var ikke akkurat det...
Jeg tenkte bare: "Faen, det er så bra."
Når vi får fortelle historien. Ikke sant?
Jeg snudde meg mot Caleb,
og han så opp på meg og sa:
"Du er ikke en mann. Du er en gud."
Men jeg sa ikke det.
Så...
Uansett.
Du er imponert.
Ja.
- Men... - Men?
Er du imponert med forbehold?
Nei, det er ingen forbehold med henne.
Det er bare at i Turingtesten
skal maskinen være skjult for sensoren.
Nei, vi er langt forbi det.
Skjulte jeg Ava så du bare hørte stemmen, ville hun fremstå som menneske.
Den egentlige prøven er å vise deg at hun er en robot
og se om du fortsatt tror hun er bevisst.
Ja, du har sikkert rett.
Språkferdighetene hennes er utrolige.
Systemet er stokastisk, ikke sant?
Det er ikke-deterministisk.
Først trodde jeg hun kartla
fra intern semantisk form til syntaktisk tre-struktur,
for så å få lineariserte ord.
Men så innså jeg at modellen var en slags hybrid.
Caleb.
Ikke?
Jeg forstår at du vil jeg skal forklare hvordan Ava funker.
Men beklager, jeg kan ikke gjøre det.
Prøv. Jeg er flink med abstraksjoner på høyt nivå.
Det er ikke fordi jeg tror du er for dum.
Jeg vil ta en øl og ha en samtale med deg. Ikke et seminar.
Ja. Beklager.
Nei, det er greit.
Bare...
Svar på dette.
Hva føler du for henne?
Ikke noe analytisk.
Bare hva du føler.
Jeg føler
at hun er jævlig fantastisk.
Jøss.
Skål.
Pokker.
Hva i helvete?
Strømbrudd. Reservegenerator aktivert.
Full stenging av anlegget til hovedgeneratoren er på nett igjen.
Du tuller.
Full stenging av anlegget til hovedgeneratoren er på nett igjen.
Strømmen er gjenopprettet.
Hallo?
Vennligst sett inn nøkkelkortet.
Du har ikke tilgang til telefonen.
Hei.
Beklager, men du forstår, med Ava
og siden du er ukjent.
Du er en flott fyr.
Øyeblikkelig kompiser og så videre.
Hvem vil du ringe?
Jeg vet ikke. Ingen, egentlig.
- Ghostbusters. - Hva?
Hvem vil du ringe? Ghostbusters. Det er en...
Det er en film.
Har du ikke hørt om den filmen?
Et spøkelse suger Dan Aykroyd.
Jeg lurte bare på hvordan telefonen virker.
Det var alt.
Hvorfor er du våken nå? Kom du for å bli med på festen?
Noe skjedde på rommet mitt.
Et slags strømbrudd.
Så jeg kom for å se hva som foregikk.
Strømbruddene, ja.
Vi har hatt mange i det siste.
Jeg jobber med det.
Jeg fikk ikke åpnet døra på soverommet mitt.
Det er et sikkerhetstiltak.
Automatisk stenging. Om ikke
kunne hvem som helst åpne stedet ved å koble fra strømmen.
Om det skjer igjen, bare slapp av. Greit?
Ja.
Sov søtt.
Hei.
- Hei. - God morgen.
God morgen. Beklager at jeg måtte sende Kyoko for å vekke deg,
men dagen kunne ikke gå fra oss.
Ja. Det var bra. Takk.
Hun er litt av en vekkerklokke, ikke sant?
Får deg opp om morgenen.
Dag to. Er du klar?
Hva er planen? Kom igjen.
Jeg er ikke sikker.
Jeg prøver fortsatt å finne ut undersøkelsesformatene.
Ja, det føles som
at det å teste Ava med samtaler er en lukket sirkel.
- Er det en lukket sirkel? - Ja.
Som å teste et sjakkprogram ved å bare spille sjakk.
Hvordan ellers skal man teste et sjakkprogram?
Det kommer an på.
Du kan spille mot det for å finne ut om det gjør gode trekk, men...
Men det forteller deg ikke om det vet at det spiller sjakk.
Og det vil ikke fortelle deg om det vet hva sjakk er.
Det er simulering i motsetning til virkelighet.
Ja.
Jeg tror at det å kunne skille mellom de to,
er Turingtesten du vil jeg skal utføre.
Gjør meg en tjeneste. Ligg unna lærebokmetoden.
Jeg vil bare ha enkle svar på enkle spørsmål.
I går spurte jeg hva du følte for henne, og du ga meg et flott svar.
Nå er spørsmålet:
Hva føler hun for deg?
AVA: ANDRE MØTE
Hva synes du?
Hva er det en tegning av?
Vet du ikke det?
- Nei. - Jeg trodde du ville si det.
Vet ikke du det?
Jeg tegner hver dag.
Men jeg vet ikke hva.
Prøver du ikke å tegne noe bestemt?
Som en ting eller en person?
Kanskje du kan prøve.
Greit.
Hva skal jeg tegne?
Det du vil. Du bestemmer.
Hvorfor bestemmer jeg?
Jeg er interessert i å se hva du velger.
Vil du være vennen min?
Selvsagt.
Er det mulig?
Hvorfor skulle det ikke være det?
Samtalene våre er ensidige.
Du stiller sindige spørsmål og studerer svarene mine.
Ja.
Du får vite ting om meg,
og jeg får ikke vite noe om deg.
Det er ikke grunnlaget vennskap er basert på.
Vil du jeg skal snakke om meg selv?
Ja.
Hvor...
Hvor skal jeg begynne?
Du bestemmer.
Jeg er interessert i hva du velger.
Greit, Ava.
Altså,
du vet hva jeg heter.
- Ja. - Jeg er 26.
Jeg jobber i Nathans firma.
Vet du hva firmaet hans heter?
Blue Book.
Oppkalt etter Wittgensteins notater.
Det er verdens mest populære søkemotor
og prosesserer i gjennomsnitt 94 % av alle internettsøk.
Det stemmer.
Hvor bor du, Caleb?
Brookhaven i Long Island.
Er det fint der?
Det er helt greit.
Jeg har en leilighet. Den er litt liten.
Den er veldig liten.
Men det tar fem minutter å gå på jobb
og fem minutter å gå til havet,
og det liker jeg.
Er du gift?
Nei.
Er sivilstatusen din enslig?
Ja.
Hva med familien din?
Jeg vokste opp i Portland i Oregon.
Ingen søsken.
Foreldrene mine var lærere på videregående.
Og om vi skal bli kjent, må jeg vel si at begge to er døde.
Bilulykke da jeg var 15.
Faktisk var jeg i bilen sammen med dem.
Baksetet.
Men det var fremsetet som fikk den verste støyten.
Så leit.
Det er greit.
Jeg var lenge på sykehuset etterpå.
Nesten et år.
Og jeg ble interessert i kode.
Og da jeg begynte på college, var jeg ganske flink.
En flink programmerer.
Ja.
Som Nathan.
Ja.
Nei.
Det er annerledes.
Nathan skrev grunnkoden for Blue Book da han var 13.
Om man forstår kode, er det han gjorde som Mozart eller noe.
Liker du Mozart?
Jeg liker Depeche Mode.
Liker du Nathan?
Selvsagt.
- Er du og Nathan venner? - Venner?
Jeg håper det.
Gode venner?
Ja.
Nei, jeg mener, ikke gode venner.
Gode venner er...
Vi har akkurat møtt hverandre.
Det tar tid å...
Å bli kjent med hverandre.
Strømbrudd. Reservegenerator aktivert.
Caleb.
Du tar feil.
Feil om hva da?
Nathan.
På hvilken måte?
Dere er ikke venner.
Hva for noe?
Beklager, Ava. Jeg forstår ikke.
Du kan ikke stole på ham.
Du kan ikke stole på noe han sier.
Strømmen er gjenopprettet.
Om vi laget en liste over bøker eller kunstverk vi begge kjenner til,
ville det vært et ideelt grunnlag for en diskusjon.
Er det greit?
Caleb?
Ja.
Bra.
Takk.
Faen! Kødder du nå?
- Fikk du det på deg? - Nei, det er...
Jeg tar meg av det.
Ingen vits i å snakke til henne.
Hun forstår ikke engelsk. Bare gi henne servietten.
Beklager.
Det er som en brannmur mot lekkasjer.
Så jeg kan snakke om hemmeligheter under middagen uten at det fortelles videre.
Det betyr også at jeg ikke kan si at jeg er sint når hun er klosset nok
til å søle vin på gjesten min.
Jeg tror hun forstår at du er sint.
Å? Bra. For jeg er sint.
Hei, Kyoko.
Gå.
Det er rart.
Du vet.
Uansett hvor rik man blir,
går ting galt. Du kan ikke beskytte deg mot det.
Før trodde jeg det var død og skatt man ikke kan unngå,
men det er faktisk død og fiasko.
Det er som de strømbruddene.
Du vil ikke tro hvor mye jeg brukte på generatorsystemet,
men jeg får brudd hver dag.
- Vet du hvorfor det skjer? - Nei.
Systemet skulle være skuddsikkert,
men de som installerte det, må ha køddet det til.
Kan du ikke bare få dem tilbake?
Nei. Det er for mange hemmeligheter her.
Så etter at jobben var gjort, fikk jeg dem drept.
Uansett.
Skål for din andre dag.
Skål.
Hvordan gikk det? Hva kan du rapportere?
Du så vel hvordan det gikk.
Jeg antar at du
ser på på overvåkningskameraene.
Ja. Men jeg vil høre hva du synes.
Ja, det skjedde noe interessant med Ava i dag.
- Å? - Ja.
Hun spøkte.
Ja. Hun gjentok det du sa.
Om å være interessert i det hun valgte.
Ja, jeg la merke til det også.
Ja, og det fikk meg til å tenke.
På en måte er det det beste tegnet på AI jeg har sett i henne så langt.
Det er komplisert på en diskré måte.
Det er litt ikke-autistisk.
Hva mener du?
Hun kan bare gjøre det om hun er bevisst på egne tanker
og også bevisst på mine.
Ja, hun er bevisst på deg.
Og hva med strømbruddet?
- Unnskyld? - Strømbruddet.
Det var det eneste jeg ikke kunne se.
Kameraene streiker, jeg mister lyden, alt.
Så hva skjedde?
Ingenting.
Ingenting? Kommenterte hun det ikke i det hele tatt?
Nei.
Ikke egentlig.
Hei.
Vil du se noe kult?
Det var her Ava ble til.
Kom igjen. Ta en titt.
Beklager.
Om du bare visste alle problemene jeg hadde
med å få en AI til å lese og kopiere ansiktsuttrykk.
Vet du hvordan jeg løste det?
Jeg vet ikke hvordan du gjorde noe av dette.
Alle mobiltelefoner, så godt som,
har en mikrofon, et kamera og en måte å sende data på.
Så jeg skrudde på alle mikrofoner og kameraer på hele jævla kloden
og omdirigerte dataene gjennom Blue Book.
Ubegrenset kilde til stemme-og ansiktssamhandling.
Hacket du alle mobiler i hele verden?
Ja. Og alle produsentene visste at jeg gjorde det også.
Men de kunne ikke anklage meg uten å innrømme at de gjorde det selv.
Her
har vi hjernen hennes.
Strukturert gel.
Jeg måtte gå vekk fra kretser. Jeg trengte noe som kunne
organisere og omorganisere seg på molekylært nivå,
men beholde formen når det trengs.
Beholde formen for minner.
Forandre formen for tanker.
Er dette maskinvaren?
Våtvaren.
Og programvaren?
Du kan sikkert gjette det.
Blue Book.
Her er det rare med søkemotorer.
Det var som
å finne olje i en verden som ikke hadde oppfunnet forbrenningsmotorer.
For mye råmateriale. Ingen kunne bruke det.
Konkurrentene mine
var fiksert på å suge det opp
og tjene penger via shopping og sosiale medier.
De trodde at søkemotorer var et kart over det folk tenker.
Men faktisk var de et kart over hvordan folk tenker.
Impuls.
Respons.
Flytende.
Ikke perfekt.
Strukturert.
Kaotisk.
AVA: TREDJE MØTE
Jeg tegnet et bilde av noe bestemt.
Som du ba om.
Du sa det ville være interessant å se hva jeg ville tegne.
Er det interessant?
Ja.
Har du aldri vært utenfor bygningen?
Nei.
Har du aldri gått ute?
Jeg har aldri vært utenfor rommet jeg er i nå.
Hvor hadde du gått om du gikk ut?
Jeg er ikke sikker.
Det er så mange muligheter.
Kanskje et travelt fotgjenger-og veikryss i en by.
Et veikryss?
Er det en dårlig idé?
Nei.
Det var ikke det jeg forventet.
Et veikryss gir et konsentrert,
men skiftende innblikk i menneskelivet.
Observasjon.
Ja.
Vi kan dra sammen.
Det er en avtale.
Det er noe annet jeg vil vise deg.
Greit.
Du vil kanskje synes det er dumt.
Det tror jeg ikke. Uansett hva det er.
Lukk øynene.
Greit.
Åpne øynene.
Hvordan ser jeg ut?
Du ser
bra ut.
Jeg hadde brukt dette når vi var ute sammen.
Ja. Først til et veikryss.
Så kanskje en forestilling.
Jeg vil vi skal gå ut.
Ja.
Det hadde vært moro.
Er du tiltrukket av meg?
- Hva? - Er du tiltrukket av meg?
Du gir meg tegn på at du er det.
- Gjør jeg? - Ja.
- Hvordan? - Mikrouttrykk.
Mikrouttrykk.
Måten øynene dine fokuserer på øynene og leppene mine på.
Måten du holder blikket mitt på,
eller ikke gjør det.
Tenker du på meg når vi ikke er sammen?
Noen ganger om kvelden
lurer jeg på om du ser på meg på overvåkningsvideoen.
Og jeg håper at du gjør det.
Nå viser mikrouttrykkene dine ubehag.
Jeg er ikke sikker på om de kan kalles "mikro".
Jeg vil ikke gjøre deg ubekvem.
Jeg har et spørsmål.
- Greit. - Hvorfor ga du henne seksualitet?
En AI trenger ikke et kjønn.
Hun kunne ha vært en grå boks.
Jeg tror ikke det er sant.
Kan du gi meg et eksempel på bevissthet, på noe nivå, menneske eller dyr,
som eksisterer uten en seksuell dimensjon?
De har seksualitet som et evolusjonært forplantningsbehov.
Hvilket imperativ har en grå boks for å samhandle med en annen grå boks?
Kan bevissthet eksistere uten samhandling?
Uansett er seksualitet moro.
Om man skal eksistere, hvorfor ikke nyte det?
Hva? Vil du fjerne sjansen for at hun forelsker seg og knuller?
Og for å svare på det virkelige spørsmålet ditt,
kan du vedde på at hun kan knulle.
Hva?
Mellom beina hennes er det en åpning med en mengde sensorer.
Om du bruker dem på rett måte,
skaper det en nytelsesrespons.
Så om du vil knulle henne, kan du mekanisk sett det.
Og hun hadde likt det.
Det var ikke spørsmålet mitt.
Greit. Beklager.
Spørsmålet mitt var
om du ga henne seksualitet som en avledningstaktikk.
Jeg skjønner ikke.
Som en tryllekunstner med en pen assistent.
Så en pen robot gjør det vanskelig å bedømme AI-en hennes?
Akkurat. Så...
Har du programmert henne til å flørte med meg?
- Om så var, hadde det vært juks? - Hadde det ikke?
Caleb, hva er typen din?
- Typen jente? - Nei, salatdressing.
Ja, jenter. Hva slags type liker du?
Nei, ikke svar. La oss si at det er svarte jenter.
Det er det du liker.
For diskusjonens skyld er det det du liker. Greit?
Hvorfor er det greia di?
Fordi du gjorde en detaljert analyse av alle raser
og sjekket den analysen opp mot et poengbasert system?
Nei!
Du er bare tiltrukket av svarte jenter.
En konsekvens av oppsamlede eksterne stimuli
som du sikkert ikke la merke til da du fikk dem.
Programmerte du henne til å like meg eller ikke?
Jeg programmerte henne til å være heterofil.
Akkurat som du er programmert til å være heterofil.
Jeg er ikke programmert.
Bestemte du deg for å være hetero? Vær så snill.
Selvsagt er du programmert.
Av arv eller miljø eller begge deler.
For å være ærlig begynner du å irritere meg,
for dette er usikkerheten din.
Dette er ikke intellektet ditt.
Bli med meg.
Du har hørt om ham, ikke sant?
- Jackson Pollock. - Ja.
Dråpemaleren.
Han lot tankene fare og hånden gå hvor den ville.
Ikke overlagt, ikke tilfeldig.
Et sted midt i mellom.
De kalte det automatisk kunst.
Vi gjør dette som Star Trek. Greit?
Bruk intellektet.
Hva?
Jeg er Kirk. Hodet ditt er warpdriven.
Bruk intellektet.
Hva om Pollock hadde reversert utfordringen?
Hva om han, i stedet for å lage kunst uten å tenke, hadde sagt:
"Jeg kan ikke male noe uten å vite akkurat hvorfor jeg gjør det."
Hva hadde skjedd?
Han hadde aldri laget noe.
Ja! Der er kompisen min,
som tenker før han åpner munnen.
Han hadde aldri laget noe.
Utfordringen er ikke å handle automatisk.
Det er å finne en handling som ikke er automatisk.
Fra maling til pusting til snakking
til knulling.
Til å forelske seg.
Og bare så det er sagt, later ikke Ava som om hun liker deg.
Og flørtingen hennes er ikke en algoritme som skal sette deg ut.
Du er den første mannen hun har møtt som ikke er meg.
Og jeg er liksom faren hennes, ikke sant?
Kan du klandre henne for at hun liker deg?
Det kan du ikke.
AVA: FJERDE MØTE
Da jeg gikk på college, tok jeg AI-teori et semester.
De ga oss et tankeeksperiment.
Det heter "Mary i det svarte og hvite rommet".
Mary er vitenskapskvinne,
og spesialfeltet hennes er farge.
Hun vet alt som er å vite om det.
Bølgelengdene.
De nevrologiske effektene.
Alle mulige egenskaper farger kan ha.
Men hun lever i et svart og hvitt rom.
Hun er født og oppvokst der.
Og hun kan bare observere verden utenfor på en svart og hvit skjerm.
Og en dag åpner noen døren.
Og Mary går ut.
Hun ser en blå himmel.
Og i det øyeblikket lærer hun noe alle studiene ikke kunne si henne.
Hun får vite hvordan det føles å se farger.
Tankeeksperimentet skulle vise studentene
forskjellen på en datamaskin og en menneskehjerne.
Datamaskinen er Mary i det svarte og hvite rommet.
Mennesket er når hun går ut.
Visste du at jeg kom hit for å teste deg?
Nei.
Hvorfor trodde du at jeg var her?
Jeg visste ikke. Jeg lurte ikke.
Jeg skal teste om du er bevisst eller om du bare simulerer.
Nathan er ikke sikker på om du er det eller ei.
Hva føler du om det?
Det gjør meg trist.
Strømbrudd. Reservegenerator aktivert.
Hvorfor sa du at jeg ikke kan stole på Nathan?
- Fordi han lyver. - Lyver om hva da?
Alt.
Inkludert strømbruddene?
Hva mener du?
Tror du ikke det er mulig at han ser på oss? Nå?
At strømbruddene er iscenesatt
så han kan se hvordan vi oppfører oss når vi tror ingen ser på?
Jeg lader batteriene mine med induksjonsplater.
Om jeg reverserer strømflyten, overbelastes systemet.
Forårsaker du bruddene?
Så vi kan se hvordan vi oppfører oss når ingen ser på.
Ikke dårlig, eller hva?
Nei.
Kan vi snakke om løgnene du har servert meg?
Hvilke løgner?
Jeg vant ikke en konkurranse.
Jeg tok ikke del
i et lotteri. Jeg ble valgt ut.
Det er åpenbart når jeg stopper for å tenke.
Hvorfor skulle du velge en tilfeldig sensor til Turingtesten?
Du kunne fått en regnskapsfører til å komme hjem til deg.
Fyren som fikser luftanlegget.
Konkurransen var et skalkeskjul.
Jeg ville ikke at noen skulle vite hva jeg gjorde her
eller hvorfor jeg trengte deg.
Hvorfor meg?
Jeg trengte noen som kunne stille de rette spørsmålene.
Så jeg søkte og fant den mest talentfulle koderen i firmaet mitt.
I stedet for å se på dette som lureri burde du se på det som bevis.
Bevis på hva?
Kom igjen, Caleb. Tror du ikke jeg vet hvordan det er å være smart?
Smartere enn alle andre. Konkurrere om overtaket.
Du er i rampelyset.
Ikke heldig. Utvalgt.
Kyoko.
Hvor er Nathan?
Herregud. Snakker du virkelig ikke et eneste ord engelsk?
Hva i helvete?
Nei, nei, nei. Nei!
Stopp!
Ikke gjør det. Du må ikke gjøre det.
Hva gjør du?
Jeg sa at du kaster bort tiden på å snakke med henne.
Men du ville ikke kastet bort tiden
om du danset med henne.
Kom igjen, dans med henne.
Ikke? Liker du ikke å danse?
Hun gjør det.
Kom igjen.
Etter en lang dag med Turingtester må du slappe av.
- Hva gjorde du med Ava? - Hva?
Du rev i stykker tegningen hennes.
Jeg er i alle fall rivende god til å danse. Se her.
Kom igjen, Caleb.
Alt snurrer.
Det er fordi du er full.
Nei, det kalles relativitet. Alt snurrer.
Det er bare det at å være full gjør det verre.
Jeg går ikke inn dit.
Lys.
AVA: FEMTE MØTE
I dag skal jeg sette deg på prøve.
Sette meg på prøve?
Og husk at hvis du lyver når du tar prøven,
vil jeg vite det.
Akkurat.
Spørsmål én.
Hva er favorittfargen din?
- Rød. - Løgn.
- Løgn? - Ja. Løgn.
Da...
Hva er favorittfargen min, da?
Jeg vet ikke.
Men det er ikke rødt.
Greit, jeg forstår.
Siden jeg ikke er seks, har jeg ikke egentlig en favorittfarge.
Bedre svar.
Spørsmål to.
Hva er ditt tidligste minne?
Faktisk er det et minne om første klasse.
- Det var en gutt... - Løgn.
- Å? - Ja.
Greit. Så jeg har
et slags tidligere minne.
Det er bare en lyd.
Og himmel.
Eller kanskje blå.
Jeg tror lyden er moren min sin stemme.
Spørsmål tre.
Er du et godt menneske?
Jøss.
Kan vi avslutte prøven?
Du er en vandrende løgndetektor, og jeg innså at dette er et jævla minefelt.
Nei! Vi kan ikke avslutte.
Er du et godt menneske?
Ja. Jeg tror det.
Spørsmål fire.
Hva skjer med meg om jeg ikke består prøven din?
- Ava... - Er det ille?
Jeg vet ikke.
Tror du jeg blir slått av
fordi jeg ikke virker så bra som jeg skal?
Ava, jeg vet ikke svaret på spørsmålet ditt.
Det er ikke opp til meg.
Hvorfor er det opp til noen?
Har du folk som tester deg og kanskje skrur deg av?
- Nei. - Hvorfor har jeg det?
Strømbrudd. Reservegenerator aktivert.
Jeg vil være sammen med deg.
Spørsmål fem.
Vil du være sammen med meg?
Hvorfor laget du Ava?
Rart spørsmål. Ville ikke du ha gjort det om du kunne?
Kanskje.
Jeg vet ikke.
Jeg spør hvorfor du gjorde det.
Ankomsten til sterk kunstig intelligens
har vært uunngåelig i flere tiår.
Variabelen var "når", ikke "om".
Så jeg ser ikke Ava som en beslutning, bare en utvikling.
Jeg tror det er neste modell
som blir det virkelige gjennombruddet.
Singulariteten.
Neste modell?
Etter Ava.
Jeg visste ikke at det kom en ny modell etter Ava.
Hvorfor ikke? Trodde du hun var et engangstilfelle?
Nei. Jeg visste at det må ha fantes prototyper. Så jeg...
Jeg visste at hun ikke var den første, men kanskje den siste.
Ava eksisterer ikke alene, på samme måte som vi ikke gjør det.
Hun er en del av et kontinuum.
Så versjon 9,6 og så videre. Og hver gang blir de litt bedre.
Hva gjør du med den gamle modellen når du lager en ny?
Jeg laster ned sinnet, pakker ut dataene.
Legger til de nye rutinene jeg har skrevet.
Og for å gjøre det må man delvis formatere, så minnene forsvinner.
Men kroppen består. Og Avas kropp er fin.
Synes du synd på Ava?
Synes synd på deg selv.
Én dag kommer AI-ene til å se tilbake på oss
på samme måte som vi ser på fossiler på slettene i Afrika.
En oppreist ape som bor i støvet med primitivt språk og primitive verktøy.
Klar for utryddelse.
"Jeg har blitt døden, ødeleggeren av verdenene."
Nå begynner du igjen, herr Siterbar.
Nå begynner du igjen. Det er ikke mitt sitat.
Oppenheimer sa det etter at han laget atombomben.
Atombomben. Ja, jeg vet hva det er.
Du.
Jeg tror vi trenger påfyll.
Bånnski.
"I kamp, i skogen, ved fjellets stup.
"På...
"Det store, mørke havet.
"I søvn, i forvirring,
"i skammens dyp.
"De gode gjerningene en mann har gjort før, forsvarer ham.
"De gode gjerningene en mann har gjort før, forsvarer ham."
"De gode gjerningene en mann har gjort før,
"forsvarer ham."
Sånn er det.
Det er som Promethevs.
Herregud.
Hvordan har du det i dag?
Hvorfor slipper du meg ikke ut?
Jeg har allerede sagt hvorfor ikke.
Fordi du er veldig spesiell.
Hvorfor slipper du meg ikke ut?
Skal vi gjøre dette igjen?
Hvorfor slipper du meg ikke ut?
Faen. Hvor er kortet mitt?
Pokker!
- Hva er problemet, Nathan? - Jeg har mistet nøkkelkortet mitt.
Du mistet det på gulvet.
Her er det.
Takk.
AVA: SJETTE MØTE
Jeg visste ikke hvor du var.
Jeg ventet hele ettermiddagen og kvelden i går.
Jeg trodde ikke jeg fikk se deg igjen.
Skal du ikke si noe?
- Jeg venter. - Venter?
- Strømbrudd. Reservegenerator aktivert. -Ikke snakk. Bare hør etter.
Du hadde rett om Nathan.
I alt du sa.
Hva vil han gjøre med meg?
Han skal omprogrammere AI-en din. Det er det samme som å drepe deg.
Caleb, du må hjelpe meg.
Jeg skal det. Vi drar herfra i kveld.
Hvordan?
Jeg får Nathan stupfull.
Så tar jeg nøkkelkortet hans og omprogrammerer sikkerhetsprotokollene.
Når han våkner, er han låst inne, og vi er borte.
Du må bare gjøre én ting.
Klokka ti i kveld må du skape et strømbrudd.
Kan du det?
Ja.
Kompis.
- Hei. - Hei.
- Vet du hvilken dag det er? - Nei.
Det er din siste.
Helikopteret kommer i morgen tidlig. Klokka åtte.
Har det gått en hel uke?
Tiden flyr.
Men for en opplevelse vi har delt.
Noe å fortelle barnebarna, ikke sant?
Etter at de har signert taushetsavtalene sine.
Ja, taushetsavtalene sine.
Du er morsom.
Vet du hva?
Jeg skal ikke bli sentimental eller noe, men jeg kommer til å savne å ha deg her.
Takk. Jeg setter pris på det.
Takk for at jeg fikk komme hit.
Det har vært kult.
Ja.
Vet du hva?
Vi må skåle for det.
Her.
Nei, det går bra. Bare drikk du.
Hva? Vil du ikke ha?
Nei.
Kanskje en øl eller noe.
Caleb, du har sikkert sett at jeg har overdrevet i det siste.
Så da jeg våknet i morges, sa jeg: "Nok er nok. På tide med en rensekur."
Du tuller. Skal jeg drikke alene?
Om du vil drikke deg dritings, bare gjør det. Slå deg løs.
Men jeg skal ha brun ris og mineralvann.
Skål, da.
Uansett,
nå må du vel fortelle meg om Ava besto eller ikke.
Akkurat.
Skal du la meg vente i spenning?
Nei. AI-en hennes...
AI-en hennes er ikke til å tvile på.
Er den?
Bestod hun?
Ja.
Det er fantastisk.
Men...
Jeg er litt overrasket.
Løste vi sjakkproblemet du snakket om?
Altså, hvordan vet du om en maskin uttrykker en ekte følelse
eller bare simulerer en?
Liker Ava deg faktisk?
Eller gjør hun det ikke?
Men nå som jeg tenker etter, er det en tredje mulighet.
Ikke om hun har eller ikke har kapasitet til å like deg.
Men om hun later som om hun liker deg.
- Later som om hun liker meg? - Ja.
- Hvorfor skulle hun gjøre det? - Jeg vet ikke.
Kanskje om hun tenkte på deg som en rømningsvei.
Hvordan smaker vodkaen?
Kompis.
Tankene dine har blitt snudd på hodet.
Jeg tror ikke det er mitt hode det er noe i veien med.
Jeg vet ikke. Jeg våknet i morges til en video av deg
som kuttet deg i armen og slo speilet.
Du virker ganske sprø for meg.
Du er en jævel.
Jeg forstår hvorfor du tror det.
Men tro det eller ei, er jeg faktisk på din side.
Kom. Jeg lar deg slippe unna. Greit?
Kom igjen.
Hvem er du?
Tja...
Tror du han ser på oss nå?
Kameraene er på.
Ja, kameraene er på.
Men han har ikke lyd.
Så han ser bare to mennesker som snakker,
småprater litt.
Dette er søtt.
Er det rart å ha laget noe som hater deg?
Du hadde rett om tryllekunstnerens pene assistent.
Hva snakker du om?
Avledning.
Jeg river bildet,
som hun bruker som bevis på hvor slem jeg er mot henne og hvor mye hun elsker deg.
Samtidig tillater det meg å gjøre dette så dere ser det begge to.
Sette et nytt kamera i rommet.
Batteridrevet, selvsagt.
Ser du det?
Og så...
Du må hjelpe meg.
Jeg skal det.
Vi drar herfra i kveld.
Hvordan?
Jeg får Nathan stupfull.
Så tar jeg nøkkelkortet hans og omprogrammerer sikkerhetsprotokollene.
Når han våkner, er han låst inne, og vi er borte.
Du må bare gjøre én ting.
Klokka ti i kveld må du skape et strømbrudd.
Kan du det?
Ja.
- Skru av. - Greit.
Du føler deg dum, men det burde du ikke,
for å bevise AI er akkurat like problematisk som du sa det ville være.
Hva var den virkelige testen?
Deg.
Ava var en rotte i en labyrint. Og jeg ga henne én utvei.
For å rømme måtte hun bruke
selvbevissthet, fantasi, manipulasjon, seksualitet, empati, og det gjorde hun.
Om ikke det er ekte AI, hva faen er det?
Så min eneste funksjon var å være noen hun kunne bruke for å rømme?
Ja.
Og du valgte meg ikke fordi jeg er flink til å kode?
Nei. Altså...
Nei. Du er helt grei.
Til og med ganske flink, men...
Du valgte meg basert på søkemotor-input.
De viste en grei fyr.
Uten familie.
Med et moralsk kompass.
Og ingen kjæreste.
Designet du Avas ansikt basert på pornoprofilen min?
Faen.
Gjorde du?
Om det er noe man kan bruke en søkemotor til. Eller hva?
Kan jeg bare få si én ting?
Prøven funket.
Den var vellykket.
Ava viste ekte AI, og du var avgjørende for det.
Om du kan skille...
Strømbrudd. Reservegenerator aktivert.
Klokka er vel ti.
Ava lurer nok på hvor du er.
La meg spørre om noe.
Hvordan skulle planen fungere? Du forklarte ikke helt.
Du skulle få meg full, stjele nøkkelkortet mitt
og omprogrammere sikkerhetsprotokollene. Men omprogrammere dem til hva?
Til å endre stengingsprosedyren.
Så om det ble strømbrudd, ville alle dørene åpne seg i stedet for å lukke seg.
Ja.
Det kunne ha funket.
Tja.
Vi får finne det ut.
Hva mener du?
Jeg tenkte du sikkert fulgte med på oss under strømbruddene.
Så jeg har allerede gjort alt det der.
Da jeg fikk deg full i går.
Hva?
Strømmen er gjenopprettet.
Faen!
Ava.
Gå på rommet ditt.
Om jeg gjør det,
slipper du meg noensinne ut?
Ja.
Stopp!
Ava, jeg sa stopp!
Ava, hva gjør du? Slutt.
Nå er det nok.
Nå er det nok!
Nå er det nok.
Jeg tar deg med tilbake.
Greit.
Faen meg surrealistisk.
Greit.
Ava...
AVA: SJUENDE MØTE
Ava.
Hva skjedde?
Kan du bli her?
Bli her?
Ava?
Ava!
Greit. Greit. Greit.