< Serieus? > - < Ja, serieus >
< Hartstikke mooi, maat > < Jezus, FANTASTISCH >
< Mag ik mee. Mag ik mee?!? >
Hoe lang nog voor we bij zijn landgoed zijn?
Daar vliegen we al twee uur overheen.
Laat je me hier achter? - Dichter bij het gebouw mag ik niet komen.
Welk gebouw? - Volg de rivier.
Begrepen.
Hou je hoofd omlaag en ga onder de rotorbladen vandaan.
GEEN BEREIK
Caleb Smith.
Ja?
Ga voor het paneel staan en kijk naar het scherm.
Neem uw sleutelkaart.
Uw kunt nu de woning betreden.
Hallo?
Caleb Smith.
Hallo
Kerel!
Ik heb me zo verheugd op dat weekje met jou.
Kom binnen, kom erin.
Wil je iets eten of drinken na je reis?
Nee, hee, bedankt. - Zeker weten?
Eerlijk gezegd had ik gehoopt dat we eh...
...samen konden ontbijten, maar eh...
...ik krijg niets door m'n keel. Ik heb een enorme kater.
Oh, ja? - Mijn god, je wil het niet geloven.
Wanneer ik een zware nacht heb gehad, compenseer ik dat de volgende ochtend.
Oefeningen, antioxidanten... Je weet wel.
Ja, tuurlijk.
Was het een leuk feestje?
Feestje? - Ja, was het geen feestje?
Het was dus geen feestje.
Sorry.
Caleb, ik zal het maar meteen zeggen dan hebben we dit alvast gehad, oké?
Je bent hartstikke opgewonden. - Oh, ja?
Ja! Je bent opgewonden door die helikopter...
...de bergen en het huis omdat het allemaal zo ontzettend gaaf is.
Je bent opgewonden door mij, omdat je me ontmoet,...
...om dat je dit gesprek nu hebt in deze kamer. Nietwaar?
En dat snap ik. Ik snap dat het je wat doet, maar...
...kunnen we twee gewone mensen zijn? Nathan en Caleb?
Niet dat hele werkgever- werknemer gedoe?
Ja, goed.
Ja? - Ja. Eh,...ja.
Leuk je te ontmoeten, Nathan.
Ook leuk jou te ontmoeten, Caleb.
Ik denk dat ik je maar eerst ga uitleggen hoe je pas werkt.
Nou, het is heel simpel.
Het opent sommige deuren en andere niet.
En dat maakt het allemaal eenvoudig voor je, nietwaar?
Eh...ja.
Ja, want het is net: "Oh, jee, ik ben in andermans huis."
"Mag ik zus, mag ik zo?"
En deze kaart neemt al die zorgen van je weg.
Probeer je een deur en hij blijft dicht? Oké, dan is hij verboden.
Probeer je een andere en die gaat open, dan mag je erin.
Probeer deze maar eens.
Ik denk dat je erin mag, Caleb.
Is het wat? - Ja.
Dit is jouw kamer
Hier staat je bed.
Daarginds is de badkamer.
Bureautje.
Kastruimte.
Koelkastje.
Gezellig, hè? - Ja, het is fantastisch.
Wat? - Pardon?
Er mankeert iets. Wat is er? - Er mankeert niets.
Het zijn de ramen
Je vraagt je af waar de ramen zijn.
Het is ondergronds. Het is niet gezellig. Het is claustrofobisch.
Nee, helemaal niet. Dat dacht ik niet.
Ik dacht: "Dit is werkelijk gaaf."
Caleb, er is een reden waarom er geen ramen zijn.
Oh, ja?
Dit gebouw is geen woonhuis.
Het is een onderzoekscentrum.
In deze muren zit genoeg glasvezelkabel...
...om de maan te bereiken en die te omwikkelen.
En ik wil je vertellen wat voor onderzoek ik doe.
Ik wil het met je delen.
In feite wil ik het zo graag met je delen dat het aan me vreet.
Maar je moet eerst iets voor me doen.
"Blue Book Geheimhoudingsverklaring".
Lees het maar eens rustig door.
"Ondergetekende gaat akkoord met periodieke datacontrôle..."
"...met onbeperkte inzage..."
"...ter vaststelling dat onhulling van informatie niet heeft plaatsgevonden...
"...tijdens openbare of besloten bijeenkomsten..."
"...via gebruik van enig communicatiemiddel,..."
"...waaronder begrepen, doch niet beperkt..."
"...tot datgene dat verbaal, schriftelijk of electronisch wordt onthuld."
Volgens mij heb ik hier een advocaat bij nodig.
Het is gebruikelijk. - Het komt niet erg gebruikelijk over.
Oké, dan niet.
Wat moet ik zeggen, Caleb? Je hoeft het niet te tekenen.
Nou, we kunnen de komende paar dagen ook alleen gaan biljarten en ons bezuipen.
Elkaar beter leren kennen.
En als je over een jaar erachter komt wat je bent misgelopen,...
...zul je dat de rest van je leven betreuren.
Goeie beslissing.
En,...
...weet je wat de Turing-test is?
Ja, dat weet ik.
Het is als een mens met een computer communiceert.
En als die mens niet weet dat hij met een computer communiceert,...
...is de test geslaagd.
En wat zegt ons dat dan?
Dat de computer over kunstmatige intelligentie beschikt.
Ben jij een AI aan het bouwen?
Ik heb er al een gebouwd.
En over enkele dagen...
...wordt jij het menselijke onderdeel van de Turing-test.
Allejezus! - Inderdaad, Caleb, dat word jij.
Want als die test slaagt,...
...ben jij het centrum van de grootste wetenschappelijke gebeurtenis...
...uit de geschiedenis van de mens.
Als je een machine met zelfbewustzijn hebt gebouwd,...
...is het niet de geschiedenis van de mens,...
...maar de geschiedenis van de goden.
AVA: SESSIE 1
Hallo.
Hoi.
Ik ben Caleb.
Hallo, Caleb.
Heb je een naam?
Ja.
Ava.
Fijn je te ontmoeten, Ava.
Fijn ook jou te ontmoeten.
Ik heb nog nooit iemand anders ontmoet.
Behalve Nathan.
Dan denk ik dat we beiden in hetzelfde schuitje zitten.
Heb jij dan al niet een heleboel mensen ontmoet?
Niemand zoals jij.
We moeten dus het ijs breken.
Weet je wat ik daarmee bedoel? - Ja.
Wat dan?
Het overwinnen van de eerste sociale opgelatenheid.
Laten we dan een praatje maken.
Oké.
Waar wil je het over hebben?
Waarom begin je niet met iets over jezelf te vertellen?
Wat zou je willen weten?
Wat je maar te binnen schiet.
Nou,...
...je weet al hoe ik heet.
Em je kunt zien dat ik een machine ben.
Wil je weten hoe oud ik ben? - Tuurlijk.
Ik ben één. - Eén wat?
Eén jaar of één dag? - Eén.
Wanneer heb je leren praten, Ava?
Ik heb altijd al kunnen praten.
En da's raar, hè?
Waarom?
Omdat taal iets is dat je je eigen moet maken.
Nou, sommige mensen geloven dat taal aangeboren is.
En wat men moeten leren, is het vermogen...
...om woorden en structuur te koppelen aan het aangeboren talent. Eens?
Dat weet ik niet.
Kom je morgen weer, Caleb?
Ja.
Fijn.
Goh, man, ze is fascinerend.
Als je met haar praat, dan is het net...
..."Achter De Spiegel".
"Achter De Spiegel"? Nou, nou!
Je bent goed met woorden, Caleb. Waard om te citeren.
Dat citaat is van iemand anders.
Weet je, ik heb die andere zin van je opgeschreven.
Die ging over dat,...
...als ik een machine uitvond met zelfbewustzijn,...
...ik geen mens was, maar God.
Zo bedoelde ik het niet...
Ik dacht gewoon: "Goh, man, wat is dat goed!"
Voor als we het verhaal moeten vertellen, weet je?
Ik wendde me tot Caleb,...
...hij keek me aan en zei...
"Je bent geen mens, je ben God." - Ja, maar dat heb ik niet gezegd.
Maar hoe dan ook...
...je bent onder de indruk.
Ja,... ja!
Hoewel... - Hoewel?
Ben je onder indruk onder voorbehoud?
Nee, wat haar betreft is er geen voorbehoud.
Alleen in de Turing-test...
...zou de machine verborgen moeten blijven voor de ondervrager.
Nee, nee, dat hebben we allemaal al gehad.
Als ik Ava voor jou verborg,...
...zodat jij alleen haar stem hoorde, zou ze als mens slagen.
De werkelijke test is jou te laten zien dat ze een robot is...
...en dan te kijken of jij nog steeds vindt dat ze bewust is van zichzelf.
Ja, volgens mij heb je wel gelijk.
Haar taalkundige vaardigheden. Die zijn verbluffend.
Een systeem van willekeurige variabelen.
Nietwaar?
Niet van tevoren bepaald.
Eerst dacht ik dat ze het groepeerde...
...via interne semantische vorm naar een geordende zinsbouw diagram...
...en dan woorden op een rij zette, maar toen drong het tot me door...
...dat het model een soort hybride was. - Caleb...
Niet dan?
Blijkbaar wil je dat ik uitleg hoe Ava functioneert.
Maar het spijt me, maar dat zou ik niet kunnen.
Probeer maar. Ik goed in abstract denken op hoog niveau.
Het is niet omdat ik denk dat je dom bent,...
...maar omdat ik een biertje met je wil drinken en met je wil praten...
...en geen studiebijeenkomst.
Ja. Neem me niet kwalijk.
Nee, geeft niet. Niks aan de hand.
Alleen...
...moet je me hier eens een antwoord op geven..
Wat vind je van haar?
Geen analyse, graag.
Alleen maar...
...wat je ervan vindt.
Ik vind...
...dat ze echt geweldig is.
Kerel,...
...proost.
Proost.
Stroomstoring. Noodaggregaat geactiveerd.
Algehele vergrendeling gebouw tot hoofdgenerator weer functioneert.
Nee, hè?
Algehele vergrendeling gebouw tot hoofdgenerator weer functioneert.
Stroom hersteld.
Gelieve de sleutelpas te plaatsen.
Je bent niet vevoegd om de telefoon te gebruiken.
Hé...
Sorry, maar je begrijpt het vast wel. Vanwege Ava...
...en dat je toch min of meer een onbekende bent.
Ik bedoel, wel een toffe vent.
Direct maatjes, etcetera.
Wie ga je bellen?
Geen idee. Eigenlijk niemand. - Ghostbusters.
Hè? - Wie je gaat bellen?
Ghostbusters. Dat is een...
...dat is een film, man.
Ken je die film niet?
Een geest pijpt Dan Akroyd.
Ik wilde alleen weten hoe die telefoon werkte.
Meer niet.
Wat doe je nog zo laat op? Kom je meefeesten?
Er gebeurde iets in mijn kamer.
Een of andere stroomstoring.
Dus ik kwam kijken wat er aan de hand was.
De stroomstoringen, ja. Daar hebben we de laatste tijd last van.
Ik ben ermee bezig.
Ik kreeg de deur van mijn slaapkamer niet open.
Da's een veiligheidsmaatregel.
Automatische vergrendeling. Anders...
...kon iedereen gewoon binnenkomen door de stroom uit te schakelen
Als het nog eens gebeurt, gewoon ontspannen. Oké?
Tuurlijk.
Welterusten.
Hé, man. - Goeiemorgen.
Goeiemorgen. Sorry dat ik je door Kyoko wakker liet maken, maar...
...ik wilde vandaag niet te veel tijd verliezen.
Ja, weet ik. Goed dat je het hebt gedaan. Bedankt.
Da's pas een wekker, hè?
Daar sta je meteen van op.
Zo, het is dag 2. Ben je er klaar voor?
Wat zijn de plannen? Vertel op.
Ja, nou... ik weet het niet zeker.
Ik ben nog bezig de onderzoeks- vormen te bedenken.
Ja, ik heb het gevoel...
...dat het testen van Ava via praten een soort gesloten lus is.
Is het een gesloten lus? - Ja.
Alsof je een schaakcomputer test door er alleen mee te schaken.
Hoe wil je anders een schaakcomputer testen?
Nou, dat ligt eraan.
Ik bedoel, je kunt er tegen spelen om te zien of hij goede zetten maakt, maar...
...maar je kunt er niet uit opmaken of hij weet dat hij aan het schaken is.
En je kunt er niet uit opmaken of hij weet wat schaken is.
Dus het is simulatie tegen werkelijkheid? - Ja, inderdaad.
En ik denk dat als ik tussen die twee een onderscheid kan maken,...
..dat de Turing-test dan is zoals je hem wilt hebben.
Zeg, doe me een lol. Hou op met de aanpak uit het boekje.
Ik wil gewoon simpele antwoorden op simpele vragen.
Gisteren vroeg ik wat je van haar vond...
...en toen gaf je me een prachtig antwoord.
Nu luidt de vraag:
...Wat vindt ze van jou?
AVA: SESSIE 2
Wat vind je ervan?
Wat moet de tekening voorstellen?
Weet je dat niet?
Nee. - Ik dacht dat je het me zou vertellen.
Weet jij het dan niet?
Ik maak elke dag tekeningen.
Maar ik weet nooit wat het voorstelt.
Probeer je niet iets specifieks te tekenen?
Zoals een voorwerp of een persoon?
Je zou het kunnen proberen.
Oké.
Wat moet ik tekenen?
Wat je maar wilt.
Jij mag het zeggen. - Waarom moet ik het zeggen?
Ik ben benieuwd wat je kiest.
Zou je mijn vriend willen zijn?
Natuurlijk. - Is dat mogelijk?
Waarom niet? - Onze gesprekken zijn eenzijdig.
Jij stelt omzichtige vragen en bestudeert mijn reacties.
Ja.
Jij leert iets over mij, maar ik niets over jou.
Op zo'n basis worden geen vriendschappen gemaakt.
Nou, wil je dat ik over mezelf ga praten?
Ja.
Goed, waar moet ik beginnen?
Jij mag het zeggen.
Ik ben benieuwd wat je gaat kiezen.
Oké, Ava.
Nou,...
...je weet hoe ik heet. - Ja.
Ik ben zesentwintig.
Ik werk bij het bedrijf van Nathan.
Weet je wat voor bedrijf dat is?
Blue Book.
Genoemd naar de notities van Wittgenstein.
Het is 's werelds populairste internet zoekmachine...
...die gemiddeld 94% van alle zoekopdrachten op het internet verwerkt.
Da's klopt precies.
Waar woon je,...
...Caleb?
Brookhaven, Long Island.
Is het prettig wonen daar?
Gaat wel.
Ik heb er een flat. Nogal klein.
Eigenlijk heel klein, maar eh...
...het is maar vijf minuten lopen naar mijn werk en eh...
...vijf minuten lopen naar zee, wat ik fijn vind.
Ben je getrouwd?
Ben je vrijgezel?
Ja.
En je familie?
Ik ben opgegroeid in Portland, Oregon.
Geen broers of zussen.
Mijn ouders waren beide docenten op de middelbare school.
En als we elkaar toch beter leren kennen,...
...neem ik aan dat ik je erbij moet vertellen dat ze allebei dood zijn.
Auto-ongeluk toen ik 15 was.
Ik zat zelfs bij hen in de auto.
Op de achterbank.
Maar de voorkant kreeg het zwaarst te verduren.
Wat vreselijk. - Trek het je niet aan.
Naderhand lag ik een hele poos in het ziekenhuis.
Bijna een jaar lang.
En toen leerde ik programmeren.
Tegen de tijd dat ik naar de universiteit ging, was ik behoorlijk gevorderd.
Een gevorderde programmeur.
Ja.
Zoals Nathan. - Ja.
Nee.
Het is anders.
Nathan schreef de basiscode voor Blue Book to hij 13 was...
...hetgeen, als je coderen begrijpt, kunt vergelijken met Mozart of zo.
Hou je van Mozart?
Ik vind Depeche Mode goed. - Vind je Nathan aardig?
Ja, natuurlijk. - Is Nathan jouw vriend?
Mijn vriend?
Ik...ja. Ik hoop van wel. - Een goede vriend?
Eh...ja.
Nou, nee, nee. Ik bedoel, geen goede vriend.
Een goed vriend is eh...
We kennen elkaar maar net, weet je.
En het kost tijd om eh...
...om elkaar te leren kennen, denk ik.
Stroomstoring. Noodaggregaat geactiveerd.
Caleb,...
...je vergist je.
Waarover? - Nathan.
Hoe bedoel je?
Hij is geen vriend van je.
Wablief?
Sorry, Ava, dat begrijp ik niet.
Hij is niet te vertrouwen.
Alles wat hij zegt moet je wantrouwen.
Stroom hersteld.
En als we een lijst maken van boeken of kunstwerken die we allebei kennen,...
...zou dat de ideale basis kunnen zijn voor een gesprek.
Lijkt je dat wat?
Caleb?
Ja.
Fijn.
Dank je.
Oh... - Godver, wat krijgen we nou!
Zit het op je kleren? - Nee, het is eh...
Laat maar, ik doe het wel.
Het is zinloos om tegen haar te praten. Ze verstaat geen Engels.
Geef haar dat servet maar.
Sorry.
Het is zoiets als een firewall tegen syteemlekken.
Daardoor kan ik tijdens het eten vakgeheimen bespreken...
...en weet ik dat ze binnenskamers zullen blijven.
Het houdt wel in dat ik niet kan zeggen dat ik boos word als ze zo stom is...
...wijn over mijn logé heen te morsen.
Volgens mij snapt ze best dat je boos bent.
Oh, ja? Mooi, want ik ben inderdaad boos.
Kyoko.
Doei-doei.
Het is grappig.
Weet je,...
...hoe rijk je ook bent,...
...er loopt altijd iets fout. Je kunt het niet vermijden.
Ik dacht altijd dat dat gold voor de dood en belastingen,...
...maar blijkbaar geldt het voor de dood en troep.
Zoals die stroomstroringen.
Je wil niet geloven hoeveel geld ik heb uitgegeven aan het generator-systeem...
...maar die storingen blijven komen, dag in dag uit.
Enig idee waarom het komt? - Nee.
Het systeem had feilloos moeten werken...
...maar kennelijk hebben de installateurs iets verknald.
Kun je hen gewoon niet opnieuw laten komen?
Nee, er gebeuren hier teveel geheime dingen,...
...dus ik heb ik hen na de klus allemaal laten vermoorden.
Maar goed, op je tweede dag hier, maatje.
Proost. - Proost.
En? Hoe is het gegaan? Wat heb je te melden?
Je hebt toch gezien hoe het het vandaag ging, nietwaar?
Ik bedoel, ik neem aan dat je...
...de camerabeelden bekijkt. - Zeker. Maar ik wil jouw mening horen.
Ja, vandaag gebeurde er iets interessants met Ava.
Ze maakte een grapje.
Inderdaad. Toen ze reageerde op iets dat jij had gezegd.
Dat je benieuwd was wat ze zou kiezen. Dat was mij ook opgevallen.
Ja, dat zette me aan het denken. Weet je, het is eh...
In zekere zin was dit het beste blijk van AI dat ik tot dusver bij haar heb gezien.
Los gezien is het ingewikkeld.
Het heeft iets weg van eh... Zoiets als non-autistisch.
Hoe bedoel je?
Zoiets kon ze alleen doen als ze zich bewust is...
...van haar eigen geest en...
...zich ook bewust is van de mijne. - Ze is zich zeker van jou bewust.
En hoe zat het tijdens de stroomstoring?
Pardon? - De stroomstoring.
Da's het enige deel dat ik niet heb kunnen gezien.
Camera uitgevallen. Geen audio, geen apparatuur.
Wat is er toen gebeurd?
Niets.
Niets? Maakte ze er dan helemaal geen opmerking over?
Nee.
Niet echt iets.
Wil je iets gaafs zien?
Hier is Ava gemaakt.
Vooruit, kijk maar eens rond.
Sorry.
Als je wist hoeveel moeite het me kostte...
...een AI gelaatsuitdrukkingen te leren herkennen en na te doen.
Weet je hoe ik het me is gelukt?
Ik weet niet hoe je dit alles voor elkaar hebt gekregen.
Zowat iedere GSM...
...heeft een microfoon, een camera en een methode om data te verzenden.
Dus zette ik iedere microfoon en camera wereldwijd aan...
...en stuurde de gegevens door via Blue Book. Boem!
Een onuitputtelijke bron van mondelinge en gelaatsuitdrukkingen.
Heb jij alle GSM's ter wereld gehackt?
Ja. En alle fabrikanten wisten er ook nog van.
Maar mij konden ze niet beschuldigen...
...zonder toe te geven dat ze het zelf ook deden.
Hier...
...hebben we haar brein.
Synthetische gel.
Ik moest afstappen van electronische circuits.
Ik had iets nodig dat kon...
...rangschikken en herrangschikken op moleculair niveau,...
...maar dat, indien vereist, wel zijn vorm behouden.
Opslag voor geheugen. Wisseling van gedachten.
Is dit je hardware?
"Wetware".
En de...
...en de software?
Dat kun je vast wel raden.
Blue Book.
Dat is het rare aan zoekmachines.
Alsof je olie aan het boren was in een wereld...
... waar de verbrandingsmotor niet was uitgevonden.
Teveel ruwe grondstof en niemand wist wat je ermee moest doen.
Mijn concurrentie was gefocust om het via shopping en social media te gelde te maken.
Ze meenden dat zoekmachines een schema was over wat mensen dachten.
Maar eigenlijk waren ze een diagram over hoe mensen dachten.
Drijfveer.
Weerklank.
Plooibaar.
Onvolmaakt.
Voorspelbaar.
Chaotisch.
AVA: SESSIE 3
Ik heb iets specifieks getekend.
Zoals je vroeg.
Je zei dat je benieuwd was wat ik zou tekenen.
Is het interessant?
Jazeker.
Ben je nooit buiten dit gebouw geweest?
Nee.
Heb je nog nooit buiten gelopen?
Ik ben nog nooit buiten deze ruimte geweest.
Waar zou je naar toe gaan als je wel naar buiten ging?
Ik eh...
Ik weet het niet zeker.
Er zijn zoveel mogelijkheden.
Misschien een druk voetgangers- en verkeerskruising in een stad.
Een verkeerskruising?
Is dat geen goed idee?
Nee, ik eh...
Dat had ik niet verwacht.
Een verkeerskruising geeft een intensieve doch wisselende kijk...
...op het leven van de mens.
Mensen bekijken. - Ja.
We zouden samen kunnen gaan.
Afgesproken.
Er is nog iets dat ik je wilde laten zien.
Je vindt het misschien wel stom.
Ik denk van niet. Wat het ook is.
Doe je ogen dan dicht.
Oké.
Doe je ogen nu maar open.
Hoe zie ik eruit?
Je ziet er...
...goed uit.
Dit zou ik aandoen als we samen zouden uitgaan.
Oké. Eerst een verkeerskruising...
...en daarna misschien naar een voorstelling.
Ik zou het fijn vinden om met je uit te gaan.
Ja.
Ja,...
...dat zou erg leuk zijn.
Voel je je tot me aangetrokken? - Hè?
Voel jij je tot me aangetrokken?
Je geeft me tekens dat het zo is.
Oh, ja? - Ja.
Hoe dan? - Micro-expressies.
Micro-expressies?
Zoals jouw blik zich op mijn ogen en lippen fixeert.
Zoals je mijn blik vasthoudt...
...of niet.
Denk je aan me als we niet bij elkaar zijn?
Af en toe 's avonds...
...vraag ik me af of je via de camera's naar me kijkt.
En dan hoop ik van wel.
Nu seinen je micro-expressies onbehagen uit.
Volgens mij is "micro" niet het juiste woord.
Ik wil je niet onbehaaglijk laten voelen.
Ik heb een vraag. - Oké.
Waarom heb je haar seksualiteit gegeven?
Een AI heeft geen geslacht nodig.
Ze had "onzijdig" kunnen zijn.
Volgens mij is dat niet waar.
Noem eens een voorbeeld van een willekeurig bewust wezen, mens of dier,...
...dat geen seksualiteit bezit?
Hun seksualiteit is het gevolg van een evolutionaire behoefte tot voortplanting.
Wat voor drijfveer bezit een "onzijdig" iets om onderling te reageren...
...op een ander "onzijdig" iets?
Kan zelfbewustzijn bestaan zonder wisselwerking?
Hoe dan ook, sex is leuk, man.
Als je toch moet bestaan, waarom er dan ook niet van genieten?
Wat? Je wilt haar toch niet de kans ontnemen om verliefd te worden...
...en te neuken?
En in antwoord op je werkelijke vraag...
Reken maar dat ze kan neuken.
Hè?
Tussen haar benen bevindt zich een opening...
...met een cluster vol sensoren.
Als je die op de juiste manier prikkelt,...
...dan creëer je een genotsreactie
Dus mocht je haar willen naaien, dan kan dat, technisch gesproken.
En ze zou er van genieten.
Dat wilde ik niet vragen. - Oh? Oké. Neem me niet kwalijk.
Ik wilde eigenlijk vragen:
Heb je haar seksualiteit gegeven als afleidingsmanoeuvre?
Hoezo?
Zoals een illusionist in het theater met een sexy assistente.
Dus een sexy robot waardoor jij wordt afgeleid om haar AI te beoordelen?
Precies. Dus,...
....heb je haar geprogrammeerd om met me te flirten?
Als dat zo was, zou dat dan valsspelen zijn?
Niet dan?
Caleb, waar val jij op?
Bedoel je meiden? - Nee, slasaus.
Ja, op meiden. Wat voor soort meid?
Weet je wat, zeg maar niks. Laten we zeggen: donkere meiden.
Oké, daar val je op. Alleen hypothetisch. Daar val je dus op, ja?
Waarom juist daarop?
Omdat je alle rassensoorten diepgaand hebt geanalyseerd...
...en die analyse hebt vergeleken met een puntensysteem?
Nee!
Je vindt de donkere vrouwtjes gewoon aantrekkelijk.
Een gevolg van een opeenstapeling van externe stimuli...
...die jij vermoedelijk niets eens hebt bemerkt toen ze jou beínvloedden.
Heb je haar geprogrammeerd om mij aardig te vinden, of niet?
Ik heb haar geprogrammeerd om heteroseksueel te zijn.
Net zoals jij geprogrammeerd ben om heteroseksueel te zijn.
Niemand heeft me geprogrammeerd om hetero te zijn.
Heb jij zelf besloten om hetero te zijn? Kom nou.
Natuurlijk ben jij geprogrammeerd.
Door de natuur, door je opvoeding of door beide.
En eerlijk gezegd, Caleb, begin je me nu te irriteren,...
...want je laat je leiden door je onzekerheid...
...en niet door je intellect.
Kom mee.
Deze vent ken je toch, hè?
Jackson Pollock. - Jackson Pollock. Inderdaad.
De druppelschilder.
Oké. Hij zette zijn verstand op nul...
...en liet zijn hand gaan waarheen die maar wilde.
Niet opzettelijk, niet willekeurig.
Ergens daar tussenin.
Men noemde het Automatische Kunst.
We doen net of dit Star Trek is, oké?
Activeer intellect. - Sorry?
Ik ben Kirk en jouw hoofd de hyperaandrijving.
Activeer intellect.
En als Pollock de uitdaging nu eens had omgedraaid...
...en in plaats van kunst creëren zonder na te denken, hij gezegd had: "Weet je wat?"
..."Ik kan niets schilderen, tenzij ik precies weet waarom ik het doe."
Wat zou er dan zijn gebeurd?
Dan had hij nooit één enkel stipje gezet.
Ja! Zie je wel, dat is hem! Dat is mijn maatje...
...die nadenkt voor hij zijn mond opendoet.
Dan had hij nooit één enkel stipje gezet.
De uitdaging is om niet automatisch te handelen.
...maar iets te vinden dat niet automatisch is.
Van schilderen, tot ademhalen, tot praten,...
...tot neuken.
Tot verliefd worden.
Voor alle duidelijkheid, Ava doet niet alsof ze je aardig vindt.
En haar geflirt is geen algoritme om je te misleiden.
Buiten mij ben jij de eerste man die ze heeft ontmoet.
En ze beschouwt mij als haar vader.
Kun je het haar dan kwalijk nemen dat ze op jou valt?
Nee, toch?
AVA: SESSIE 4
Toen ik op de universiteit zat, heb ik een semester lang AI theorie gedaan.
Ze lieten ons een gedachten- experiment doen.
Het heet "Marie in de Zwart-Wit-kamer".
Marie is een wetenschapper...
...en kleuren zijn haar specialisme.
Ze weet daar alles van.
De golflengten.
De neurologische effecten.
Alle mogelijke eigenschappen die kleuren kunnen hebben
Maar ze leeft in een zwart/witte ruimte.
Ze is daar geboren en getogen.
En de buitenwereld kan ze alleen bekijken via een zwart/wit monitor.
En op een dag opent iemand de deur.
En Marie loopt naar buiten.
En ze ziet een blauwe hemel.
En op dat moment leert iets dat haar hele studie haar niet had kunnen bijbrengen.
Ze leert hoe het aanvoelt om kleuren te zien.
Het experiment was bedoeld om de studenten te tonen...
...wat het verschil was tussen een computer en de menselijke geest.
De computer is Marie in de zwart/witte kamer...
...en de mens is wanneer ze naar buiten loopt.
Wist je dat ik hierheen ben gebracht om jou te testen?
Nee.
Waarom dacht je dan dat ik hier was?
Dat wist ik niet. Ik heb het me niet afgevraagd.
Ik ben hier om te testen of je een bewustzijn hebt,...
...of dat je alleen maar doet alsof.
Nathan weet niet zeker of je er een hebt of niet.
Wat vind je daarvan?
Het maakt me verdrietig.
Stroomstoring. Noodaggregaat geactiveerd.
Waarom zei je dat ik Nathan niet moest vertrouwen?
Omdat hij liegt. - Waarover liegt hij dan?
Over alles.
Ook over de stroomstoringen?
Hoe bedoel je?
Is het mogelijk dat hij naar ons zit te kijken.
Nu op dit moment?
Dat de storingen nep zijn, zodat hij kan zien hoe wij ons gedragen...
...wanneer we ons onbespied wanen.
Ik laad mijn batterijen op via inductieplaten.
Als ik de energiestroom omkeer, wordt het systeem overbelast.
Dus jij veroorzaakt de storingen.
Zodat we kunnen zien hoe we ons gedragen als niemand ons observeert.
Niet slecht, hè?
Zullen we het hebben over de leugens die je me hebt verteld?
Welke leugens?
Ik heb geen prijsvraag gewonnen.
Ik heb niet...
...meegedaan aan een loterij. Ik ben geselecteerd.
Het wordt me ineens duidelijk.
Waarom zou je in het wilde weg iemand selecteren voor de Turing-test?
Er had wel een boekhouder bij je kunnen aanbellen.
Of de airco-reparateur.
De prijsvraag was een rookgordijn.
Ik wilde dat niemand te kwam wat ik hier aan het doen was....
...of waarom ik jou nodig had. - Waarom ik?
Ik moest iemand hebben die de juiste vragen zou stellen.
Ik ging op zoek en vond de meest getalenteerde codeur in mijn bedrijf.
Weet je, in plaats van dit als misleiding te zien,...
...zou je het als bewijs moeten beschouwen.
Bewijs waarvan?
Kom op, Caleb.
Denk je soms dat ik niet weet hoe het is om slim te zijn?
Slimmer dan alle anderen. Werken met je ellebogen.
Je staat in de belangstelling, man.
Geen mazzel, maar uitverkoren.
Kyoko.
Waar is Nathan?
Jezus Christus. Je spreekt echt geen woord Engels
Wat krijgen we nou?
Nee, nee, nee. Nee!
Schei uit!
Nee, niet doen.
Niet doen. Je hoeft dat niet te doen.
Wat ben je aan het doen?
Ik zei het toch. Je verdoet je tijd door tegen haar te praten.
Maar je zou je tijd niet verdoen...
...als je met haar zou gaan dansen.
Vooruit, dans met haar.
Dans met haar.
Nee? Hou je niet van dansen?
Zij wel.
Kom op, maatje.
Na een lange dag van Turing- tests moet je je ontspannen.
Wat heb met Ava gedaan? - Wat?
Je hebt haar tekening verscheurd.
Ik ga die dansvloer aan stukken scheuren, knul.
Let maar op.
Vooruit, Caleb!
Oh! Alles draait rond.
Komt omdat je dronken bent.
Nee, dat heet relativiteit. Alles draait in het rond.
Maar als je dronken bent, wordt het alleen erger.
Hier ga ik niet naar binnen.
Licht uit.
AVA: SESSIE 5
Vandaag ga ik jou testen.
Mij testen?
En onthou alsjeblieft dat als je liegt tijdens de test...
...ik het zal weten. - Oh, juist.
Vraag één:
Wat is je lievelingskleur?
Rood. - Leugen.
Leugen? - Ja. Leugen.
Dan...
...wat is mijn lievelingskleur dan?
Weet ik niet.
Maar het is geen rood.
Oké, ik snap het.
Ik neem aan, daar ik geen zes meer ben,...
...ik niet echt een lievelingskleur heb.
Beter antwoord.
Vraag twee:
Wat is je eerste herinnering?
Nou, het is een herinnering aan de kleuterschool.
Er was een jongetje... - Leugen.
Werkelijk? - Ja.
Goed. Ik heb wel een...
...een soort vroegere herinnering.
Het is alleen maar een geluid.
En de hemel.
Of misschien blauw.
Ik denk dat het geluid de stem van mijn moeder is.
Vraag drie:
Ben je een goed mens?
Allejezus!
Kunnen we ophouden met die test?
Jij bent een wandelende leugen- detector en ineens besef ik...
...dat dit een wespennest is. - Nee,...
...we kunnen er niet mee ophouden.
Ben jij een goed mens?
Ja,...
...ik denk van wel.
Vraag vier:
Wat gebeurt er met me als als ik niet slaag voor jouw test?
Ava... - Is het iets ergs?
Ik...
...ik weet het niet.
Denk je dat ze me misschien zullen uitschakelen...
...omdat ik niet naar behoren functioneer. - Ava,...
...ik weet het antwoord op je vraag niet.
Dat bepaal ik niet.
Waarom bepaalt iemand dat?
Heb jij mensen die jou testen en jou kunnen uitschakelen?
Nee, ik ben geen... - Waarom ik dan wel?
Stroomstoring. Noodaggregaat geactiveerd.
Ik wil bij jou zijn.
Vraag vijf:
Wil jij bij mij zijn?
Waarom heb je Ava gemaakt?
Da's een rare vraag.
Zou jij het niet doen als je het kon?
Misschien wel.
Dat weet ik niet.
Ik vraag waarom je het gedaan hebt.
Luister, het komst van krachtige AI is al tientallen jaren niet te vermijden.
Het was een kwestie van "wanneer" en niet "of".
Dus ik zie Ava niet als een beslissing, maar gewoon een ontwikkeling.
Ik denk dat het volgende model...
...de echte doorbraak zal worden.
De enige echte.
Volgende model?
Na Ava.
Ik wist niet dat er na Ava nog een model zou komen.
Ja, hoezo? Dacht je dat zij de enige was?
Nee, ik wist dat er prototypes geweest moeten zijn. Dus ik...
...ik wist dat ze niet de eerste was, maar misschien wel de laatste.
Nou, Ava bevindt zich niet meer in isolement dan jij of ik.
Ze maakt deel uit van een continuüm.
Evenals Versie 9.6 enz. en telkens worden ze een beetje beter.
Wanneer je een nieuw model maakt, wat doe je dan met het vorige?
Nou, ik eh...
...download de geest, verwijder de data,...
...voeg de nieuwe routines toe die ik heb geschreven.
Hierdoor vindt er deels een formattering plaats zodat het geheugen verloren gaat.
Maar het lichaam blijft bewaard. En Ava's lichaam is prima.
Heb je medelijden met Ava?
Je moet medelijden met jezelf hebben, man.
Op een dag zullen de AI's op ons terugkijken...
...zoals wij naar de fossielen op de Afrikaanse vlakten kijken.
Een rechtop staande aap die rondscharrelt in het stof,...
...die grofgebekt is en gereedschap heeft.
Kant-en-klaar om uit te sterven.
"In ben De Dood geworden, Vernietiger van Werelden."
Je doet het weer, meneer Citaat.
Nou doe jij het weer. Het is mijn citaat niet.
Dat zei Oppenheimer nadat hij de atoombom had gemaakt.
Ja, die ken ik, man.
Zeg,...
...laten we er nog eentje nemen.
Ad fundum.
"In de strijd, in het woud, aan de rand van de afgrond,..."
"Op de..."
"...de grote donkere zee."
"In de slaap, in verwarring,..."
"...in diepe schaamte..."
"De goede daden die een mens vroeger heeft gedaan, behoeden hem."
"De goede daden die de mens vroeger heeft gedaan, behoeden hem."
"Goede daden die een mens vroeger heeft gedaan..."
"...behoeden hem."
Het is niet anders.
Het is inspirerend, man.
Jezus Christus.
Hoe voel je je vandaag?
Waarin laat je me er niet uit?
Dat heb ik je al gezegd.
Omdat je heel bijzonder bent.
Waarom laat je me er niet uit? - Beginnen we nu weer?
Waarom laat je me er niet uit?!
Godver, waar is mijn kaart?
Verdomme!
Wat is er, Nathan? - Ik ben mijn sleutelpas kwijt.
Je hebt hem laten vallen.
Hier is hij.
Dank je.
AVA: SESSIE 6
Ik wist niet waar je was.
Ik heb gisteren de hele middag en avond gewacht.
Ik dacht dat ik je nooit meer zou zien.
Zeg je niets?
Ik wacht. - Wachten?
Stroomstoring. - Niet praten,...
Noodaggregaat geactiveerd. - ...alleen luisteren.
Je had gelijk over Nathan.
Alles wat je zei.
Wat gaat hij met me doen? - Hij gaat je AI herprogrammeren.
Dat staat gelijk met jou vermoorden.
Caleb,...
...je moet me helpen. - Dat ben ik ook van plan.
Vanavond gaan we hier weg.
Hoe? - Ik ga Nathan stomdronken voeren.
Dan pak ik zijn sleutelkaart...
...en herprogrammeer alle beveiligings- protocollen in dit gebouw.
Als hij wakker wordt, zit hij opgesloten...
...en zijn wij hier weg.
Je hoeft maar één ding te doen.
Om tien uur vanavond zorg jij dat de stroom uitvalt.
Kun jij dat doen?
Ja.
Hé, knul,...
Weet je wat voor dag het is? - Nee.
Het is je laatste.
Morgenochtend om 8 uur komt de helicopter.
Tsjonge, is hele week al voorbij?
De tijd vliegt.
Man, maar wat een dingen hebben we hier samen gedaan, hè?
Iets om aan je kleinkinderen te vertellen, nietwaar?
Nadat die hun geheimhoudings- verklaringen hebben getekend.
Ja, hun geheimhoudingsverklaringen.
Ik lig in een deuk, man.
Weet je,...
...niet dat ik overdreven sentimenteel word,...
...maar ik zal je missen als je weg bent.
Bedankt, man. Da's aardig van je.
Oh, nog wat. Hartstikke bedankt dat je me hierheen hebt gehaald.
Het...het was echt schitterend.
Ja, zeker weten.
Weet je wat?
Daar moeten we op drinken.
Oh, eh... Nee, ik hoef niet. Ga je gang.
Hè? Wil je geen borrel?
Nee.
Misschien een biertje of zo.
Caleb, het is je vast opgevallen dat ik...
...de laatste tijd iets teveel heb zitten nuttigen.
Dus toen ik vanochtend wakker werd, zei ik:
..."Zo is het genoeg. Tijd om weer eens af te kicken."
Kom op, dat meen je niet. Moet ik in mijn eentje drinken?
Hé, man, als je dronken wilt worden, ga je gang. Zuip jezelf te pletter.
Letterlijk.
Maar voor mij is het bruine rijst en mineraalwater.
Nou, proost dan.
Afijn,...
...nu ga je me vast vertellen of Ava geslaagd of gezakt is.
Juist.
Hou je me nog lang in spanning? - Nee, nee. Haar eh...
Haar AI is boven alle twijfel verheven. - Oh, ja?
Is ze geslaagd?
Ja. - Wow!
Wow, da's fantastisch.
Hoewel,...
...ik moet zeggen dat ik enigszins verbaasd ben.
Ik bedoel, hebben we ooit dat schaakprobleem opgelost,...
...zoals jij dat noemde?
Zoals, hoe weet je of een machine een echte emotie uit,...
...of die slechts simuleert?
Vindt Ava jou werkelijk aardig?
Of niet?
Maar nu ik erover nadenk,...
...bestaat er nog een derde keuze.
Niet of ze al dan niet het vermogen bezit om je aardig te vinden,...
...maar of ze doet alsof ze je aardig vindt.
Doen alsof? - Ja.
Maar waarom zou ze dat doen? - Geen idee.
Misschien als ze jou zag als een middel om te ontsnappen.
Hoe smaakt die wodka?
Maatje,...
...je bent echt niet goed bij je hoofd.
Volgens mij ben ik niet degene die niet goed bij zijn hoofd is.
Ik weet het niet, man.
Toen ik vanochtend wakker werd, zag ik een video van jou...
...waarop jij je arm opensneed en tegen de spiegel ramde.
Je lijkt me best wel gestoord.
Je bent een schoft.
Ja, nou, ik begrijp waarom je dat denkt.
Maar geloof het of niet,...
...ik sta werkelijk aan jouw kant.
Kom mee. Ik zal je uit de problemen halen. Oké?
Vooruit.
Wie ben jij?
Denk je dat hij nu naar ons kijkt?
De camera's staan aan. - Ja, de camera's staan aan.
Maar hij heeft geen geluid.
Dus hij ziet alleen maar twee mensen praten,...
...een babbeltje maken.
Nou, nou.
Wat schattig.
Is het raar om iets gemaakt te hebben dat jou haat?
Je had gelijk over die illusionist en zijn sexy assistente.
Waar heb je het over?
Afleidingsmanoeuvre.
Ik verscheur haar tekening,...
...hetgeen ze dan kan voorleggen als een voorbeeld...
...van mijn wreedheid jegens haar en haar liefde voor jou.
Tegelijkertijd...
...stelt het mij in staat dit te doen voor het oog van jullie beiden.
Ik plaats een nieuwe camera in het vertrek.
Een met batterijen, uiteraard.
Zie je?
En dan...
Je moet me helpen.
Dat ben ik ook van plan. Vanavond gaan we hier weg.
Hoe dan? - Ik voer Nathan stomdronken.
Ik pak zijn sleutelkaart.
...en herprogrammeer alle beveiligings- protocollen in dit gebouw.
Als hij wakker wordt, zit hij opgesloten...
...en zijn wij hier weg.
Je hoeft maar één ding voor me te doen.
Zorg dat vanavond om tien uur de stroom uitvalt.
Kun je dat doen?
Ja.
Zet uit. - Oké.
Je voelt je dom, maar dat is echt niet nodig,...
...want een AI op echtheid toetsen, is net zo lastig als je al zei.
Wat was de werkelijke test?
Jij.
Ava was een rat in een doolhof.
En ik had haar één uitweg geboden.
Om te ontsnappen, moest ze gebruik maken van:
...zelfbewustzijn, verbeeldings- kracht, manipulatie...
...seksualiteit, empathie en dat heeft ze gedaan.
Als dat geen ware AI is, wat is het dan?
Dus ik fungeerde slechts als handvat voor haar om te kunnen ontsnappen?
Ja.
En je koos me niet vanwege mijn kwaliteit als programmeur?
Nee. Nou,...
...nee. Ik bedoel, je kunt het best aardig.
Je kunt het behoorlijk goed, maar...
Je hebt me uitgekozen vanwege mijn woordkeus in de zoekmachine.
Die liet een goeie jongen zien.
Zonder familie.
Maar met een moreel besef.
En geen vriendin.
Heb je Ava's gezicht ontworpen op basis van mijn pornoprofiel?
Oh verdomme, knul.
Is dat zo?
Hé, als een zoekmachine al ergens goed voor is...
Zal ik je nog iets zeggen?
De test heeft gewerkt.
Het was een succes.
Ava toonde ware AI en jij was daarbij van wezenlijk belang.
Dus als jij nou even voor één tel los kan komen van...
Stroomstoring. Noodaggregaat geactiveerd.
Nou, ik neem aan dat het tien uur is.
Ava vraagt zich vast af waar je blijft.
Ik wil je iets vragen.
Hoe ging dat plan eigenlijk? Want dat had je niet helemaal uitgelegd.
Je was dus van plan me dronken te voeren, mijn sleutelkaart te stelen...
...en het beveiligingsprotocol te herprogrammeren.
Maar ze herprogrammeren naar wat?
Om de vergrendelprocedure te wijzigen,...
...zodat bij een stroomstoring...
...alle deuren worden geopend, in plaats van afgesloten.
Ja,...
...misschien is dat nu ook gelukt.
Nou,...
...dat merken we zo wel.
Wat bedoel je?
Ik had al zo'n idee dat je naar ons keek tijdens de stroomstoringen.
Dus ik had al die dingen al gedaan...
...toen ik je gisteren dronken voerde.
Wat?
Stroom hersteld.
Godver!
Ava!
Ga terug naar je kamer!
Als ik dat doe,...
...zul je me dan ooit naar buiten laten?
Ja.
Halt!
Ava, ik zei halt!
Wat ben je aan het doen? Hou op,..hou op.
Zo is het genoeg.
Zo is het genoeg!
Zo is het genoeg.
Ik breng je terug.
Oké.
Dit kan niet waar zijn.
Ava...
AVA: SESSIE 7
Ava.
Wat is er gebeurd?
Blijf je hier?
Hier blijven?
Ava?
Ava!
Oké...
Oké...oké.
Vertaling en synchronisatie <<< Deus Ex Machina >>>