Hiển thị
Màu
Cỡ chữ
Vị trị

How long until we get to his estate? Còn bao lâu nữa thì chúng ta đến nhà anh ta?

00:01:54

We've been flying over his estate for the past two hours. Chúng ta đang bay trên nhà anh ta trong hai giờ qua đấy.

00:01:59

You're leaving me here? Anh bỏ tôi ở đây sao?

00:02:30

This is as close as I'm allowed to get to the building. Đây là nơi gần nhất tôi được phép bay đến tòa nhà đó.

00:02:31

What building? Tòa nhà nào?

00:02:35

Follow the river. Đi theo dòng sông.

00:02:36

Got it. Tôi hiểu rồi.

00:02:39

Keep your head down and get clear of the rotors. Cuối đầu thấp xuống và ra khỏi tầm của cánh quạt.

00:02:40

Okay. Được rồi.

00:02:42

Caleb Smith. Caleb Smith.

00:03:42

Yes. Vâng.

00:03:44

Please approach the console and face the screen. Hãy tiếp cận với giao diện và nhìn vào màn hình.

00:03:46

Take your keycard. Hãy nhận thẻ khóa của anh.

00:04:02

You may now enter the residence. Giờ anh có thể vào trong tòa nhà.

00:04:07

Hello? Xin chào?

00:04:47

Hello? Có ai không

00:05:02

Caleb Smith. Caleb Smith.

00:05:48

Dude! Anh bạn!

00:05:53

I've been so looking forward to this week with you. Tôi đã chờ anh cả tuần rồi.

00:05:55

Come in. Come on in. Vào trong đi. Vào nhà đi.

00:05:58

Thanks. Cám ơn anh.

00:05:59

You want something to eat or drink after your journey? Anh có muốn ăn hay uống gì sau chuyến đi không?

00:06:01

- No. No, thanks, I'm fine. - Sure? - Không, cám ơn anh. Tôi ổn mà. - Anh chắc chứ?

00:06:04

Yeah. Vâng.

00:06:05

To be honest, I thought we'd have, uh, Nói thật thì, tôi tưởng là chúng ta sẽ...

00:06:07

breakfast together, but, um... ăn sáng cùng nhau, nhưng mà...

00:06:09

I can't really eat anything. thật sự tôi không thể ăn bất cứ thứ gì.

00:06:12

I got the mother of all fucking hangovers. Oh, yeah? - Đêm qua tôi say quá. - Vậy à?

00:06:13

Oh, my God, like you wouldn't even believe. Chúa ơi, cứ như là anh sẽ không tin vậy.

00:06:15

When I have a heavy night, Khi tôi có một buổi tối say mèm,

00:06:17

I, uh, compensate the next morning. tôi sẽ bù đắp lại vào sáng hôm sau.

00:06:19

Exercise. Anti-oxidants. You know? Tập thể dục. Chống oxy hóa. Anh biết không?

00:06:21

Yeah, sure. Chắc rồi?

00:06:24

Was it a good party? Đó có phải là một bữa tiệc hay không?

00:06:30

- Party? - Yeah. Wasn't there a party? - Tiệc à? - Phải. Không phải một bữa tiệc sao?

00:06:32

There wasn't a party. Không phải tiệc.

00:06:37

Sorry. Xin lỗi.

00:06:39

Caleb, I'm just gonna throw this out there, so it's said, okay? Caleb, tôi sẽ nói thẳng việc này, được không?

00:06:41

You're freaked out. Anh đang sợ.

00:06:43

- I am? - Yeah. You're freaked out, - Vậy sao? - Phải. Anh đang sợ,

00:06:44

by the helicopter vì chiếc trực thăng...

00:06:46

and the mountains and the house, và những ngọn núi và ngôi nhà,

00:06:48

because it's all so super-cool. vì tất cả đều thật tuyệt vời.

00:06:49

You're freaked out by me, to be meeting me, Anh sợ vì tôi, vì phải gặp tôi,

00:06:50

having this conversation in this room, at this moment. Right? vì có cuộc nói chuyện trong căn phòng này, vào lúc ngày, đúng không?

00:06:52

And I get that. I get the moment you're having, but... Và tôi hiểu chuyện đó. Tôi hiểu việc anh đang trải qua, nhưng mà...

00:06:55

Dude, can we just get past that? Chúng ta có thể bỏ qua chuyện đó không?

00:06:59

Can we just be two guys? Nathan and Caleb. Chúng ta có thể chỉ là hai người không? Nathan và Caleb.

00:07:01

Not the whole employer-employee thing. Không phải như là ông chủ-nhan viên.

00:07:03

Yeah, okay. Yeah? - Vâng, được chứ. - Được không?

00:07:07

Yes. Uh, yeah. Được chứ.

00:07:08

It's good to meet you, Nathan. Rất vui được gặp anh, Nathan.

00:07:10

It's good to meet you, too, Caleb. Cũng rất vui khi gặp anh, Caleb.

00:07:13

I guess the first thing I should do is explain your pass. Tôi đoán việc đầu tiên đó là tôi nên giải thích vấn đề với anh.

00:07:17

Now, it's simple enough. Giờ thì nó cũng đơn giản thôi.

00:07:20

It opens some doors and it doesn't open others. Nó sẽ mở được vài cánh cửa và không mở được vài cánh cửa.

00:07:21

And that just makes everything easy for you, right? Và chuyện đó sẽ làm mọi thứ dễ dàng hơn với anh, đúng không?

00:07:23

Uh, yes. Phải.

00:07:25

Yeah, 'cause you're like, "Oh, fuck, I'm in someone else's house. Vì anh sẽ như thế này, "Trời ơi, tôi đang ở trong nhà người khác."

00:07:26

"Can I do this, can I do that?" "Mình có thể làm việc này không, có thể làm việc kia không?"

00:07:28

And this card, it just takes all that worry away. Và chiếc thẻ này, nó chỉ lấy đi những lo lắng đó của anh.

00:07:29

If you try a door and it stays shut, okay, it's off-limits. Nếu anh thử mở một cánh cửa mà nó không mở nghĩa là nó nằm ngoài giới hạn.

00:07:32

You try another door and it opens, then it's for you. Anh thử mở một cánh cửa và nó mở ra thì nó là của anh.

00:07:35

Let's try this one. Hãy thử với cái này đi.

00:07:38

I guess it's for you, Caleb. Tôi đoán nó là của anh, Caleb.

00:07:45

- You like? - Yeah. - Anh thích không? - Vâng.

00:07:53

It's your room. Đây là phòng của anh.

00:07:55

You got a bed here. Anh có giường ngủ ở đây.

00:07:57

A bathroom right back here. Phòng tắm ở kia.

00:07:59

Little desk. Bàn làm việc.

00:08:01

Cupboards. Ly tách.

00:08:03

Little fridge. Tủ lạnh nhỏ.

00:08:07

Cozy, right? Ấm cúng, phải không?

00:08:11

Yeah, this is great. Phải, chỗ này rất tuyệt.

00:08:12

What? Sorry? - Cái gì? - Xin lỗi?

00:08:13

There's something wrong. What's wrong? - Có chuyện gì đó không ổn. - Chuyện gì không ổn.

00:08:16

There's nothing wrong. Không có gì không ổn cả.

00:08:18

It's the windows. Đó là những cái cửa sổ.

00:08:21

You're thinking there's no windows. Anh nghĩ là không có cửa sổ.

00:08:23

It's subterranean. Nó nằm dưới đất mà.

00:08:26

It's not cozy, it's claustrophobic. Nó không ấm cúng, nó ngột ngạt.

00:08:27

No. No way. I wasn't thinking that. Không. Không đời nào. Tôi không hề nghĩ vậy.

00:08:29

I was thinking, "This is really cool." Tôi đang nghĩ là, "Nơi này thật tuyệt vời."

00:08:31

Caleb, there's a reason there are no windows in this room. Caleb, có một lý do khiến cho không có cửa sổ trong phòng này.

00:08:35

- There is? - Uh-huh. Là gì vậy?

00:08:38

This building isn't a house. Tòa nhà này không phải là một ngôi nhà.

00:08:40

It's a research facility. Nó là một trung tâm nghiên cứu.

00:08:42

Buried in these walls is enough fiber optic cable Chôn trong những bức tường là số lượng dây cáp đủ để...

00:08:45

to reach the moon and lasso it. kéo tới mặt trăng và quấn quanh nó.

00:08:47

And I want to talk to you about what I'm researching, Và tôi muốn nói với anh về thứ mà tôi đang nghiên cứu,

00:08:50

I want to share it with you. tôi muốn chia sẻ nó với anh.

00:08:53

In fact, I want to share it with you so much, it's eating me up inside. Thật ra thì, tôi rất muốn chia sẻ với anh, nó đang ăn mòn tôi từ bên trong.

00:08:55

But there's something I need you to do for me first. Nhưng có một thứ tôi cần anh làm cho tôi trước.

00:09:00

"Blue Book non-disclosure agreement." "Thỏa thuận không tiết lộ."

00:09:07

Take your time. Read it over. Anh cứ đọc nó từ từ đi.

00:09:12

"The signee agrees to regular data audit "Người ký đồng ý với việc kiểm toán dữ liệu thường xuyên...

00:09:16

"with unlimited access, với sự truy cập không giới hạn,

00:09:19

"to confirm that no disclosure để xác nhận rằng không có thông tin nào...

00:09:20

"of information has taken place bị tiết lộ ra ngoài...

00:09:22

"in public or private forums, đến những diễn đàn công cộng,

00:09:24

"using any means of communication, sử dũng bất cứ phương pháp liên lạc nào,

00:09:27

"including but not limited bao gồm nhưng không giới hạn...

00:09:29

"to that which is disclosed orally bằng việc tiết lộ bằng miệng...

00:09:31

"or in written or electronic form." hay là viết tay hay là các dạng thư điện tử."

00:09:34

I think I need a lawyer. Tôi nghĩ là tôi cần luật sư.

00:09:39

It's standard. It doesn't feel very standard. - Đó chỉ là tiêu chuẩn thôi. - Nó có cảm giác không chuẩn lắm.

00:09:40

Okay, it's not standard. Được rồi, đó không phải là tiêu chuẩn.

00:09:44

What can I tell you, Caleb? You don't have to sign it. Tôi có thể nói gì với anh, Caleb? Anh không cần phải kí vào đó.

00:09:46

You know, we can spend the next few days Anh biết đấy, chúng ta có thể dùng vài ngày tới...

00:09:48

just shooting pool, getting drunk together. để đánh bida, uống say mèm cùng nhau.

00:09:50

Bonding. Cam kết.

00:09:52

And when you discover what you've missed out on, in about a year, Và khi anh tìm thấy điều anh đã bỏ lỡ, trong khoảng một năm,

00:09:54

you're gonna regret it for the rest of your life. anh sẽ thấy hối hận trong suốt quãng đời còn lại.

00:09:57

Good call. Lựa chọn hay lắm.

00:10:08

So, Vậy thì,

00:10:17

do you know what the Turing Test is? anh có biết cuộc kiểm tra Turing là gì không?

00:10:19

Yeah. Tôi biết.

00:10:25

I know what the Turing Test is. Tôi biết kiểm tra Turing là gì.

00:10:26

It's when a human interacts with a computer. Đó là khi con người tương tác với máy tính.

00:10:32

And if the human doesn't know Và nếu con người không biết rằng...

00:10:35

they're interacting with a computer, họ đang tương tác với máy tính,

00:10:36

the test is passed. thì sẽ vượt qua bài kiểm tra.

00:10:39

And what does a pass tell us? Và bài kiểm tra đó cho chúng ta biết điều gì?

00:10:41

That the computer has artificial intelligence. Rằng máy tính đó có trí thông minh nhân tạo.

00:10:43

Are you building an Al? Anh đang xây dựng một AI sao?

00:10:47

I've already built one. Tôi đã tạo ra một cái rồi.

00:10:49

And over the next few days, Và trong vài ngày nữa,

00:10:51

you're gonna be the human component in a Turing Test. anh sẽ là yếu tố con người trong bài kiểm tra Turing.

00:10:53

Holy shit. Yeah, that's right, Caleb. You got it. - Thánh thần ơi. - Phải, đúng vậy đấy, Caleb.

00:10:56

Because if that test is passed, Vì nếu vượt qua bài kiểm tra này,

00:11:00

you are dead center anh sẽ là trung tâm...

00:11:03

of the greatest scientific event in the history of man. của những nhà khoa học tài ba nhất trong lịch sử loài người.

00:11:05

If you've created a conscious machine, Nếu anh đã tạo ra một cỗ máy có ý thức,

00:11:09

it's not the history of man. thì đó không phải là lịch sử loài người.

00:11:11

That's the history of gods. Đó là lịch sử của các vị thần.

00:11:14

- Hello. - Hi. Xin chào. Xin chào.

00:12:58

I'm Caleb. Tôi là Caleb.

00:13:05

Hello, Caleb. Chào Caleb.

00:13:08

Do you have a name? Cô có tên không?

00:13:12

Yes. Có.

00:13:15

Ava. Ava.

00:13:17

I'm pleased to meet you, Ava. Rất vui được gặp cô, Ava.

00:13:20

I'm pleased to meet you, too. Tôi cũng rất vui được gặp anh.

00:13:22

I've never met anyone new before. Trước đây tôi chưa từng gặp người khác bao giờ.

00:13:26

Only Nathan. Chỉ có Nathan thôi.

00:13:29

Then I guess we're both in quite a similar position. Vậy thì tôi đoán là chúng ta đều ở trong vị trí giống nhau.

00:13:32

Haven't you met lots of new people before? Trước đây anh cũng không gặp người nào khác sao?

00:13:35

None like you. Không giống như cô.

00:13:39

So we need to break the ice. Vậy chúng ta cần phải phá vỡ tảng băng.

00:13:45

Do you know what I mean by that? Yes. - Cô có hiểu ý của tôi không? - Hiểu.

00:13:48

What do I mean? Ý tôi là gì?

00:13:50

Overcome initial social awkwardness. Vượt qua sự vụng về của xã hội ban đầu.

00:13:51

So let's have a conversation. Vậy chúng ta hãy nói chuyện đi.

00:13:54

Okay. Được rồi.

00:13:57

What would you like to have a conversation about? Vậy anh muốn nói chuyện về việc gì?

00:14:00

Why don't we start with you telling me something about yourself? Sao chúng ta không bắt đầu bằng việc cô cho tôi biết về cô?

00:14:03

What would you like to know? Anh muốn biết về điều gì?

00:14:06

Whatever comes into your head. Bất cứ điều gì xuất hiện trong đầu cô.

00:14:08

Well, you already know my name. Anh đã biết tên tôi.

00:14:10

And you can see that I'm a machine. Và anh có thể thấy rằng tôi là một cái máy.

00:14:14

Would you like to know how old I am? Sure. - Anh có muốn biết tôi bao nhiêu tuổi không? - Chắc rồi.

00:14:17

I'm one. Tôi một.

00:14:20

One what? Một gì.

00:14:21

- One year or one day? - One. - Một năm hay một ngày? - Một.

00:14:23

When did you learn how to speak, Ava? Cô học nói từ khi nào vậy Ava?

00:14:29

I always knew how to speak, Tôi luôn luôn biết cách nói chuyện,

00:14:33

and that's strange, isn't it? và điều đó rất lạ phải không?

00:14:35

Why? Tại sao?

00:14:38

Because language is something that people acquire. Vì ngôn ngữ là thứ gì đó mà con người có được.

00:14:40

Well, some people believe Một số người tin rằng...

00:14:43

language exists from birth. ngôn ngữ tồn tại từ khi được sinh ra.

00:14:46

And what is learned is the ability to attach words Và điều được học đó là khả năng ghép những từ ngữ...

00:14:48

and structure to the latent ability. Do you agree with that? và hình thành các khả năng tiềm ẩn. Cô có đồng ý với chuyện đó không?

00:14:50

I don't know. Tôi không biết.

00:14:53

Will you come back tomorrow, Caleb? Ngày mai anh có quay lại không, Caleb?

00:14:56

Yes. Có.

00:15:00

Good. Tốt lắm.

00:15:05

Oh, man, she's fascinating. Chúa ơi, cô ấy thật tuyệt vời.

00:15:14

When you talk to her, you're just... Khi nói chuyện với cô ấy, anh chỉ...

00:15:18

Through the looking glass. Qua tấm gương đó.

00:15:20

"Through the looking glass." Wow. "Qua tấm gương đó." Chà.

00:15:22

You're good with words, Caleb. You're quotable. Anh dùng từ giỏi đấy, Caleb. Câu nói để đời đấy.

00:15:25

Actually, that's someone else's quote. Thật ra thì đó là câu nói của một ai đó.

00:15:27

You know, I wrote down that other line you came up with. Anh biết đấy, tôi đã làm việc này và muốn anh tham gia.

00:15:28

The one about how Chuyện về cách mà...

00:15:31

if I've invented a machine with consciousness, tôi phát minh ra một cái máy có ý thức,

00:15:33

I'm not a man, I'm God. tôi không phải là người, tôi là Thần Thánh.

00:15:35

I don't think that's exactly what I... Tôi không nghĩ đó chính xác là điều mà tôi...

00:15:36

I just thought, "Fuck, man, that is so good." Tôi chỉ nghĩ là, "Trời, chuyện này hay thật."

00:15:37

When we get to tell the story. You know? Khi chúng ta được kể lại câu chuyện. Anh biết không?

00:15:40

I turned to Caleb, Tôi quay sang Caleb,

00:15:42

and he looked up at me and he said, và anh ấy nhìn tôi và nói,

00:15:44

"You're not a man, you're God." "Anh không phải là người, anh là Thần Thánh."

00:15:47

Yeah, but I didn't say that. Phải, nhưng tôi đã không nói như vậy.

00:15:48

So... Vậy thì...

00:15:50

Anyway. Dù sao thì.

00:15:51

You're impressed. Anh thấy ấn tượng.

00:15:55

Yes. Yes. Đúng vậy.

00:15:57

- Although... - Although? - Mặc dù... - Mặc dù?

00:16:00

There's a qualification to you being impressed? Có một chuẩn mực nào đó để anh thấy ấn tượng sao?

00:16:02

No, there's no qualification to her. Không, không có chuẩn mực gì với cô ấy cả.

00:16:04

Uh, it's just in the Turing Test, Đó chỉ là bài kiểm tra Turing

00:16:07

the machine should be hidden from the examiner. Cái máy nên được giấu đi khỏi các giám khảo.

00:16:10

No, no, no, we're way past that. Không, chúng ta vượt qua chuyện đó.

00:16:12

If I hid Ava from you, Nếu như tôi giấy Ava với anh,

00:16:13

so you just heard her voice, she would pass for human. thì anh chỉ nghe thấy giọng cô ấy, cô ấy sẽ được xem là con người.

00:16:15

The real test is to show you that she's a robot Bài kiểm tra thật sự đó là tôi cho anh thấy cô ấy là người máy...

00:16:17

and then see if you still feel she has consciousness. và sau đó nếu như anh vẫn cảm thấy cô ấy có ý thức.

00:16:20

Yeah, I think you're probably right. Phải, tôi nghĩ là có thể anh đúng.

00:16:25

Her language abilities, they're incredible. Khả năng ngôn ngữ của cô ấy, chúng thật đáng kinh ngạc.

00:16:28

The system is stochastic. Right? Hệ thống này ngẫu nhiên. Có phải không.

00:16:32

It's non-deterministic. Nó là hệ thống không xác định.

00:16:37

At first I thought she was mapping Lúc đầu tôi nghĩ là cô ấy được lập trình...

00:16:39

from internal semantic form to syntactic tree-structure từ những cấu trúc nội bộ đẩy sang cấu trúc cây...

00:16:40

and then getting linearized words. và sau đó đưa ra các từ ngữ.

00:16:43

But then I started to realize the model was some kind of hybrid. Nhưng tôi đã bắt đầu nhận ra mô hình đó là một dạng lai tạp.

00:16:44

Caleb. Caleb.

00:16:47

No? Không phải sao?

00:16:49

I understand that you want me to explain how Ava works. Tôi hiểu là anh muốn tôi giải thích cách Ava hoạt động.

00:16:50

But I'm sorry, I'm not gonna be able to do that. Nhưng tôi rất tiếc, tôi không thể làm việc đó được.

00:16:54

Try me. I'm hot on high-level abstraction. Anh nói thử đi. Tôi rất hứng thú với các chủ đề trừu tượng cấp cao.

00:16:56

It's not because I think you're too dumb. Không phải là vì tôi nghĩ anh quá ngốc.

00:16:59

It's because I want to have a beer and a conversation with you. Đó là vì tôi muốn uống một chai bia và có một cuộc nói chuyện với anh.

00:17:02

Not a seminar. Không phải một cuộc hội thảo.

00:17:04

Yeah. Sorry. Vâng. Xin lỗi.

00:17:05

No, it's okay. You're all right. Không sao đâu.

00:17:08

Just... Chỉ là...

00:17:10

Answer me this. Trả lời tôi điều này đi.

00:17:14

How do you feel about her? Anh cảm thấy thế nào về cô ấy?

00:17:16

Nothing analytical. Không phải phép phân tích.

00:17:19

Just how do you feel? Chỉ là cảm giác của anh thôi.

00:17:21

I feel... Tôi cảm thấy...

00:17:24

that she's fucking amazing. cô ấy thật tuyệt vời.

00:17:28

Dude. Anh bạn.

00:17:32

Cheers. Chúc mừng.

00:17:34

Cheers. Chúc mừng.

00:17:36

Damn it. Chết tiệt.

00:18:15

What the fuck? Cái quái gì vậy?

00:18:43

Power cut. Backup power activated. - Tắt điện. - Năng lượng dự phòng đã kích hoạt.

00:19:34

Full facility lock-down until main generator is restored. Toàn bộ cơ sở bị khóa cho đến khi máy phát chính hoạt động trở lại.

00:19:47

You're kidding me. Đùa tôi chắc.

00:19:51

Full facility lock-down until main generator is restored. Toàn bộ cơ sở bị khóa cho đến khi máy phát chính hoạt động trở lại.

00:19:57

Power restored. Năng lượng đã được khôi phục.

00:20:06

Hello? Xin chào?

00:21:20

Please insert keycard. Xin hãy nhập thẻ khóa.

00:21:42

You don't have access to use the phone. Anh không được phép dùng điện thoại.

00:21:48

Hey. Chào anh.

00:21:51

Sorry, but you understand, though, given Ava, Xin lỗi, nhưng anh hiểu là, với Ava,

00:21:54

and you being kind of an unknown. anh là một người lạ.

00:21:58

I mean, a great guy. Ý tôi là một người tuyệt vời.

00:22:02

Instant pals, and so on. Bạn thân tức thì, và như vậy.

00:22:04

Who are you gonna call? Anh định gọi ai vậy?

00:22:12

I don't know. No one, really. Tôi không biết. Không ai cả.

00:22:15

- Ghostbusters. - What? - Người bắt ma. - Cái gì?

00:22:17

Who are you gonna call? Ghostbusters. It's a... Anh định gọi cho ai? Người bắt ma. Đó là một...

00:22:18

It's a movie, man. Đó là một bộ phim.

00:22:23

You don't know that movie? Anh không biết bộ phim đó sao?

00:22:27

A ghost gives Dan Aykroyd oral sex. Một con ma đã quan hệ bằng miệng với Dan Aykroyd.

00:22:30

I was just wondering how the phone worked. Tôi chỉ không biết là điện thoại có hoạt động hay không.

00:22:35

That's all. Chỉ vậy thôi.

00:22:38

So what are you doing awake at this time? Vậy sao anh lại thức giấc vào giờ này?

00:22:41

You come to join the party? Anh muốn tham dự bữa tiệc sao?

00:22:42

Uh, something happened in my room. Có chuyện gì đó đã xảy ra ở phòng của tôi.

00:22:45

Some kind of power cut. Kiểu như là cúp điện.

00:22:48

So I came to see what's going on. Nên tôi ra ngoài để xem chuyện gì đang xảy ra.

00:22:50

The power cuts, yeah. Cúp điện, phải rồi.

00:22:52

We've been getting those recently. Um... Gần đây chúng ta đang bị như vậy.

00:22:54

I'm working on it. Tôi đang giải quyết việc đó.

00:22:59

I couldn't open the door to my bedroom. Tôi không thể mở cửa phòng.

00:23:01

That's a security measure. Đó là biện pháp an ninh.

00:23:03

Automatic lock-down. Otherwise, Tự động khóa. Mặt khác thì,

00:23:05

anybody could just open the place up by disabling the juice. không ai có thể mở cửa nơi này bằng cách vô hiệu hóa máy phát.

00:23:08

If it happens again, relax. Okay? Nếu nó xảy ra lần nữa, cứ thư giãn đi. Được chứ?

00:23:14

Sure. Chắc rồi.

00:23:18

Sweet dreams. Mơ đẹp nhé.

00:23:21

Hey, man. Good morning. Chào buổi sáng.

00:24:24

Good morning. Sorry I had to send Kyoko to wake you, Chào buổi sáng. Xin lỗi vì tôi phải đưa Kyoko đến đánh thức anh,

00:24:25

but I didn't want too much of the day to slip by. nhưng tôi không muốn phí nhiều thời gian.

00:24:29

Yeah, I know. It was a good thing. Thanks. Phải, tôi biết, chuyện đó cũng tốt mà. Cám ơn anh.

00:24:30

She's some alarm clock, huh? Cô ấy đúng là đồng hồ báo thức nhỉ?

00:24:33

Gets you right up in the morning. Gọi anh dậy ngay buổi sáng.

00:24:35

So Day 2. You ready? Vậy ngày thứ hai. Anh sẵn sàng chưa?

00:24:38

What's the plan? Hit me. Kế hoạch là gì? Nói tôi nghe xem.

00:24:40

Yeah, well, I'm not sure. À, tôi cũng không chắc nữa.

00:24:41

I'm still trying to, uh, figure the examination formats. Tôi vẫn đang cố, tìm ra một vài cách kiểm tra.

00:24:44

Yeah, it feels like Phải, cảm giác như là...

00:24:48

testing Ava through conversation is kind of a closed loop. kiểm tra Ava qua việc nói chuyện thì chỉ là một vòng lặp thôi.

00:24:50

- It's a closed loop? - Yeah. - Vòng lặp sao? - Phải.

00:24:54

Like testing a chess computer Giống như là kiểm tra cái máy đánh cờ...

00:24:56

by only playing chess. chỉ bằng việc đánh cờ.

00:24:58

How else do you test a chess computer? Vậy thì có cách nào khác để kiểm tra một cái máy đánh cờ?

00:25:00

Well, it depends. Nó còn tùy.

00:25:04

You know, I mean, you can play it Anh biết đấy, ý tôi là, anh có thể chơi nó...

00:25:05

to find out if it makes good moves, but, uh... để xem nó có thể đi những nước cờ hay hay không, nhưng mà...

00:25:07

But that won't tell you if it knows Nhưng việc đó sẽ không cho anh biết rằng...

00:25:11

that it's playing chess. nó biết chơi cờ.

00:25:13

And it won't tell you if it knows what chess is. Và nó sẽ không cho anh biết là nó có biết cờ vua là gì hay không.

00:25:15

Uh-huh. So it's simulation versus actual. Vì vậy chúng ta phải tạo mô phỏng thực tế.

00:25:18

Yes. Yeah. Đúng vậy.

00:25:20

And I think being able to differentiate between those two Và tôi nghĩ đó là sự khác biệt giữa hai bài kiểm tra Turing...

00:25:22

is the Turing Test you want me to perform. mà anh muốn tôi thực hiện.

00:25:25

Look, do me a favor. Lay off the textbook approach. Nghe này, hãy giúp tôi một việc. Hãy dùng sách giáo khoa đi.

00:25:27

I just want simple answers to simple questions. Tôi chỉ cần câu trả lời đơn giản cho những câu hỏi đơn giản.

00:25:29

Yesterday I asked you how you felt about her Hôm qua tôi đã hỏi anh là anh cảm thấy thế nào về cô ấy...

00:25:33

and you gave me a great answer. và anh cho tôi một câu trả lời rất hay.

00:25:34

Now the question is, Giờ câu hỏi là,

00:25:37

how does she feel about you? cô ấy cảm thấy thế nào về anh?

00:25:40

What do you think? Anh nghĩ thế nào?

00:25:48

What is it a drawing of? Nó là gì vậy, một bức tranh à?

00:25:54

Don't you know? Anh không biết sao?

00:25:57

No. I thought you would tell me. - Không. - Tôi tưởng anh sẽ cho tôi biết.

00:25:58

Don't you know? Cô không biết sao?

00:26:02

I do drawings every day. Ngày nào tôi cũng vẽ.

00:26:06

But I never know what they're of. Nhưng tôi không bao giờ biết chúng là gì.

00:26:09

Are you not trying to sketch something specific? Vậy cô không thử vẽ lại thứ gì đó cụ thể hơn sao?

00:26:12

Like an object or a person? Như một vật gì đó hay là người nào đó?

00:26:16

Maybe you could try. Có lẽ cô nên thử.

00:26:22

Okay. Được rồi.

00:26:26

What object should I draw? Tôi nên vẽ vật gì?

00:26:29

Whatever you want. It's your decision. Bất cứ thứ gì cô thích. Đó là quyết định của cô.

00:26:32

Why is it my decision? Sao lại là quyết định của tôi?

00:26:35

I'm interested to see what you'll choose. Tôi rất muốn xem cô chọn thứ gì.

00:26:36

Do you want to be my friend? Anh có muốn trở thành bạn của tôi không?

00:27:01

Of course. Dĩ nhiên.

00:27:04

Will it be possible? Chuyện đó có thể không?

00:27:06

Why would it not be? Sao lại không thể chứ?

00:27:08

Our conversations are one-sided. Những cuộc nói chuyện của chúng ta là từ một phía.

00:27:09

You ask circumspect questions and study my responses. Anh hỏi những câu hỏi và học từ câu trả lời của tôi.

00:27:12

Yes. Đúng vậy.

00:27:17

You learn about me Anh học được từ tôi...

00:27:18

and I learn nothing about you. và tôi chẳng học được gì từ anh.

00:27:20

That's not a foundation on which friendships are based. Đó không phải là quan điểm của tình bạn.

00:27:23

So what? You want me to talk about myself? Vậy thì sao? Cô muốn tôi nói về bản thân tôi sao?

00:27:27

Yes. Đúng vậy.

00:27:31

Where... Từ đâu...

00:27:33

Okay, where do I start? Được rồi, tôi nên bắt đầu từ đâu?

00:27:35

It's your decision. Đó là quyết định của anh.

00:27:38

I'm interested to see what you'll choose. Tôi rất muốn xem anh nói về điều gì.

00:27:41

Okay, Ava. Được rồi, Ava.

00:27:46

Well, you know my name. Cô biết tên của tôi.

00:27:50

Yes. I'm 26. - Vâng. - Tôi 26 tuổi.

00:27:54

I work at Nathan's company. Tôi làm việc cho công ty của Nathan.

00:27:56

Do you know what his company is? Cô biết công ty của anh ấy là gì không?

00:27:59

Blue Book. Blue Book.

00:28:01

Named after Wittgenstein's notes. Tên nằm sau ghi chú của Wittgenstein.

00:28:04

It's the world's most popular internet search engine, Đó là bộ máy tìm kiếm trên mạng thông dụng nhất thế giới,

00:28:06

processing an average of 94% of all internet search requests. xử lý trung bình khoảng 94% các tìm kiếm trên mạng internet.

00:28:09

That's exactly right. Chính xác.

00:28:14

Where do you live, Caleb? Anh sống ở đâu, Caleb?

00:28:18

Brookhaven, Long Island. Brookhaven, Long Island.

00:28:21

Is it nice there? Ở đó có đẹp không?

00:28:26

It's okay. Cũng đẹp.

00:28:29

I got an apartment. It's kind of small. Tôi có một ngôi nhà. Khá nhỏ.

00:28:30

It's very small. Rất nhỏ.

00:28:34

But, uh, it's a five-minute walk to the office Nhưng chỉ mất năm phút để đi bộ đến văn phòng...

00:28:35

and a five-minute walk to the ocean, và chỉ mất năm phút để đi bộ ra biển,

00:28:38

which I like. đó là điều mà tôi thích.

00:28:41

Are you married? Anh đã kết hôn chưa?

00:28:43

No. Chưa.

00:28:48

Is your status single? Vậy là anh đang độc thân?

00:28:49

Yes. Đúng vậy.

00:28:54

What about your family? Vậy còn gia đình của anh?

00:28:56

I grew up in Portland, Oregon. Tôi lớn lên ở Portland, Oregon.

00:28:58

No brothers or sisters. Không anh chị em.

00:29:02

My parents were both high school teachers. Bố mẹ tôi đều là giáo viên trung học.

00:29:04

And if we're getting to know each other, Và nếu chúng ta đang tìm hiểu lẫn nhau,

00:29:08

I guess I should tell you they're both dead. tôi đoán là tôi nên nói với cô rằng họ đều đã qua đời.

00:29:09

Car crash when I was 15. Tai nạn xe hơi khi tôi lên 15.

00:29:13

In fact, I was in the car with them. Thật ra thì tôi cũng ở trong xe với họ.

00:29:16

Back seat. Ghế sau.

00:29:18

But it was the front that got the worst of it. Nhưng ghế trước là phần chịu tổn thất lớn nhất.

00:29:20

I'm sorry. Tôi xin lỗi.

00:29:25

It's all right. Không sau đâu.

00:29:27

I spent a long time in the hospital afterward. Tôi đã mất một thời gian dài ở trong bệnh viện sau chuyện đó.

00:29:29

Like nearly a year. Gần một năm.

00:29:32

And I got into coding. Và khi tôi bắt đầu với lập trình.

00:29:34

And by the time I got to college, I was pretty advanced. Và ngay khi tôi vào đại học, tôi là một người rất giỏi.

00:29:37

An advanced programmer. Một lập trình viên tài giỏi.

00:29:42

Yes. Đúng vậy.

00:29:45

Like Nathan. Giống như Nathan.

00:29:47

Yes. Phải.

00:29:48

No. Không phải.

00:29:50

It's different. Chúng tôi khác nhau.

00:29:53

Nathan wrote the Blue Book base code when he was 13. Nathan đã viết ra đoạn mã nền móng của Blue Book khi lên 13.

00:29:54

Which, if you understand code, Điều đó nghĩa là nếu như cô am hiểu về lập trình...

00:29:58

what he did was like Mozart or something. thì chuyện anh ấy đã làm giống như là Mozart hay gì đó.

00:29:59

Do you like Mozart? Anh có thích Mozart không?

00:30:02

I like Depeche Mode. Tôi thích Depeche Mode.

00:30:04

Do you like Nathan? Anh có thích Nathan không?

00:30:05

Yes, of course. Có, dĩ nhiên.

00:30:10

Is Nathan your friend? My friend? - Nathan có phải là bạn anh không? - Bạn của tôi?

00:30:12

I... Yeah, I hope so. Tôi... phải, tôi hy vọng là vậy.

00:30:14

A good friend? Một người bạn tốt?

00:30:15

Um, yeah. Đúng vậy.

00:30:17

Well, no, no, no, I mean, not a good friend. Không, ý tôi là, không phải một người bạn tốt.

00:30:19

A good friend is, uh... Một người bạn tốt là,

00:30:21

We only just met each other, you know. chúng tôi chỉ vừa mới gặp nhau thôi, cô biết đấy.

00:30:23

So it takes time to be able to, um... Vì vậy phải mất thời gian,

00:30:26

To get to know each other, I guess. để tìm hiểu lẫn nhau, tôi đoán là vậy.

00:30:29

Power cut. Backup power activated. - Cúp điện. - Năng dượng dự phòng đã kích hoạt.

00:30:31

Caleb. Caleb.

00:30:54

You're wrong. Anh sai rồi.

00:31:02

Wrong about what? Sai về chuyện gì?

00:31:05

Nathan. Nathan.

00:31:06

In what way? Về mặt nào?

00:31:10

He isn't your friend. Anh ấy không phải là bạn của anh.

00:31:14

Excuse me? Xin lỗi?

00:31:17

I'm sorry, Ava, I don't understand. Tôi xin lỗi, Ava, tôi không hiểu.

00:31:21

You shouldn't trust him. Anh không nên tin anh ấy.

00:31:25

You shouldn't trust anything he says. Anh không nên tin bất cứ điều gì anh ấy nói.

00:31:28

Power restored. Năng lượng đã được khôi phục.

00:31:34

And if we made a list of books Và nếu chúng ta tạo ra một danh sách những quyển sách...

00:31:37

or works of art which we both know, hay những nghệ thuật mà cả hai ta đều thích,

00:31:39

it would form the ideal basis of a discussion. nó sẽ hình thành nên cơ sở lý tưởng của cuộc thảo luận.

00:31:41

Is that okay? Có được không?

00:31:44

Caleb? Caleb?

00:31:48

Yeah. Được.

00:31:52

Good. Tốt.

00:31:55

Thank you. Cám ơn cô.

00:32:02

Oh, shit! Are you fucking kidding me? Chết tiệt! Đùa tôi sao?

00:32:05

- Did it get on you? - No, no, it's, uh... - Có trúng anh không? - Không, không có...

00:32:08

It's all right. I got it. Không sao đâu. Để tôi được rồi.

00:32:11

Dude, you're wasting your time talking to her. Anh đừng phí thời gian nói chuyện với cô ấy.

00:32:12

She doesn't understand English. Just give her the napkin. Cô ấy không hiểu tiếng Anh đâu. Dùng cử chỉ thôi.

00:32:13

Sorry. Xin lỗi.

00:32:18

It's like a firewall against leaks. Nó giống như là một bức tường lửa chống lộ thông tin.

00:32:20

It means I can talk trade secrets over dinner Nó nghĩ là tôi có thể nói về bí mật kinh doanh trong bữa tối...

00:32:22

and know it'll go no further. và biết rõ rằng nó sẽ không đi xa hơn được.

00:32:24

It also means that I can't tell her that Nó cũng có nghĩa là tôi không thể mắng cô ấy...

00:32:26

I'm pissed when she's so fucking clumsy khi tôi bực mình vì cô thật vô dụng...

00:32:27

that she spills wine over my house guest. khi làm đổ rượu lên người khách của nhà tôi.

00:32:29

I think she gets that you're pissed. Tôi nghĩ là cô ấy hiểu là anh đang bực mình.

00:32:31

Yeah? Good. Because I am pissed. Vậy sao? Tốt. Vì tôi đang bực.

00:32:33

Hey, Kyoko. Kyoko.

00:32:36

Go-go. Đi-đi.

00:32:38

It's funny. Vui thật.

00:32:48

You know. Anh biết không.

00:32:50

No matter how rich you get, Dù anh có giàu đến mức nào,

00:32:51

shit goes wrong. You can't insulate yourself from it. thì khi mọi thứ gặp rắc rối. Anh không thể tự thoát khỏi nó.

00:32:54

I used to think it was death and taxes you couldn't avoid, Tôi thường nghĩ là cái chết và thuế má là những thứ không tránh được,

00:33:00

but it's actually death and shit. nhưng thật ra thì đó là cái chết và những chuyện vớ vẫn.

00:33:02

It's like these power cuts. Như là chuyện cúp điện.

00:33:04

You would not believe how much I spent on the generator system, Anh sẽ không tin là tôi đã dùng bao nhiêu tiền vào cái máy phát đâu,

00:33:07

but I keep getting failures every day. nhưng vẫn bị cúp điện mỗi ngày.

00:33:10

Do you know why they happen? Anh có biết vì sao chuyện đó lại xảy ra không?

00:33:12

No. Không.

00:33:14

The system was supposed to be bulletproof, Hệ thống này lẽ ra phải chống được đạn,

00:33:14

but obviously the guys that installed it fucked something up. nhưng rõ ràng là những người lắp đặt nó đã làm sai gì đó.

00:33:16

Can't you just get them to come back? Anh không thể gọi họ quay lại sao?

00:33:20

No. There's too much classified stuff here. Không. Ở đây có quá nhiều thứ tối mật.

00:33:22

So after the job was done, I just had them all killed. Vì sau khi làm xong mọi việc, tôi sẽ phải giết hết bọn họ.

00:33:24

Anyway. Sao cũng được.

00:33:31

Here's to your second day, buddy. Cái này là vì ngày thứ hai của anh.

00:33:32

Cheers. Chúc mừng.

00:33:36

Cheers. Chúc mừng.

00:33:38

So how did it go? What do you have to report? Vậy mọi chuyện thế nào rồi? Anh có muốn báo cáo gì không?

00:33:42

You saw how the day went, didn't you? Anh đã thấy hết mọi việc mà phải không?

00:33:48

I mean, I assume you're, uh, Ý tôi là, tôi nghĩ là anh đã...

00:33:52

watching on the CCTV. xem qua CCTV.

00:33:54

Sure. But I want to hear your take on it. Dĩ nhiên rồi. Nhưng tôi muốn nghe ý kiến của anh.

00:33:56

Yeah, there was one interesting thing that happened with Ava today. Phải, hôm nay có một chuyện rất thú vị với Ava.

00:34:01

- Yeah? - Yeah. - Vậy sao? - Phải.

00:34:09

She made a joke. Cô ấy nói giỡn.

00:34:13

Right. When she threw your line back at you. Đúng vậy. Khi cô ấy ném vào anh câu nói của anh.

00:34:17

About being interested to see what she'd choose. Về việc cảm thấy hứng thú với lựa chọn của cô ấy.

00:34:21

Yeah, I noticed that, too. Phải, tôi cũng thấy chuyện đó.

00:34:23

Yeah, and it got me thinking, it's, uh... Phải, và chuyện đó làm tôi suy nghĩ,

00:34:25

In a way, it's the best indication of Al Bằng cách đó, đó là một dấu hiệu tốt nhất của trí thông minh nhân tạo...

00:34:28

that I've seen in her so far. mà tôi đã thấy ở cô ấy.

00:34:30

It's discretely complicated. Sự phức tạp kín đáo.

00:34:32

It's like, um... It's kind of non-autistic. Nó giống như là... Loại không mắc chứng tự kỉ.

00:34:35

What do you mean? Ý anh là sao?

00:34:38

She could only do that with an awareness Cô ấy có thể làm việc đó với sự nhận thức,

00:34:40

of her own mind, bằng chính tâm trí của cô ấy,

00:34:42

and also an awareness of mine. và cũng là sự nhận thức của tôi.

00:34:45

Oh, she's aware of you all right. Cô ấy nhận thấy là anh rất tốt.

00:34:46

And what about the power cut? Vậy về vụ cúp điện thì sao?

00:34:52

- Sorry? - The power cut. - Xin lỗi? - Vụ cúp điện.

00:34:57

It's the only part that I couldn't see. Đó là phần duy nhất tôi không thể thấy được.

00:35:00

Cameras fail, I lose audio, the works. Máy quay tắt, không có tiếng, mọi thứ.

00:35:02

So what happened? Vậy chuyện gì đã xảy ra?

00:35:07

Nothing. Không có gì cả.

00:35:13

Nothing? She didn't remark on it at all? Không có gì sao? Cô ấy không nói gì về chuyện đó sao?

00:35:14

No. Không.

00:35:22

Not really. Không hẳn.

00:35:25

You want to see something cool? Anh muốn thấy thứ gì đó hay ho không?

00:36:21

This is where Ava was created. Đây là nơi mà Ava được tạo ra.

00:36:33

Go ahead. Take a look. Vào xem đi.

00:36:38

Sorry. Xin lỗi.

00:36:50

If you knew the trouble I had Nếu anh biết về vấn đề mà tôi đã gặp phải...

00:36:51

getting an Al to read and duplicate facial expressions. khi làm cho AI đọc được và biểu lộ được cảm xúc trên mặt.

00:36:54

You know how I cracked it? Anh có biết làm sao tôi giải mã được nó không?

00:36:58

I don't know how you did any of this. Tôi chẳng biết anh đã làm cách nào với tất cả những thứ này.

00:37:00

Every cell phone, just about, Tất cả những cái điện thoại,

00:37:04

has a microphone, camera and a means to transmit data. đều có mícrô, máy ảnh và một phương tiện để truyền dữ liệu.

00:37:06

So I turned on every microphone and camera Nên tôi đã bật lên toàn bộ mícrô và máy ảnh...

00:37:11

across the entire fucking planet trên khắp cả hành tinh này...

00:37:14

and I redirected the data through Blue Book. Boom! và tôi thu lại tất cả dữ liệu thông qua Blue Book.

00:37:16

Limitless resource of vocal and facial interaction. Nguồn tài nguyên giọng nói và nét mặt không giới hạn.

00:37:21

You hacked the world's cell phones? Anh đã đột nhập tất cả điện thoại trên thế giới sao?

00:37:24

Yeah. And all the manufacturers knew I was doing it, too. Phải. Và tất cả các nhà sản xuất đều biết tôi làm việc đó.

00:37:26

But they couldn't accuse me Nhưng họ không thể buộc tội tôi...

00:37:30

without admitting they were doing it themselves. mà không thừa nhận rằng họ cũng làm như vậy.

00:37:31

Here, Đây này,

00:37:37

we have her mind. đây là não của cô ấy.

00:37:39

Structured gel. Cấu trúc gel.

00:37:43

I had to get away from circuitry. Tôi phải tránh khỏi cách mạch điện.

00:37:44

I needed something that could Tôi cần thứ gì đó có thể...

00:37:46

arrange and rearrange on a molecular level, bố trí và sắp xếp lại ở cấp độ phân tử,

00:37:47

but keep its form when required. nhưng vẫn giữ được hình dáng của nó khi cần thiết.

00:37:50

Holding for memories. Giữ lại ký ý.

00:37:53

Shifting for thoughts. Truyền tải những suy nghĩ.

00:37:54

This is your hardware? Đây là phần cứng của anh?

00:37:57

Wetware. Phần ướt.

00:38:00

And the, uh, software? Và... phần mềm?

00:38:03

Well, I'm sure you can guess. Tôi chắc chắn là anh có thể đoán được.

00:38:06

Blue Book. Blue Book.

00:38:09

Here's the weird thing about search engines. Đây là điều lạ lùng về những bộ máy tìm kiếm.

00:38:12

It was like Nó giống như là...

00:38:14

striking oil in a world that hadn't invented internal combustion. đổ dầu vào một thế giới không có định nghĩa đốt cháy.

00:38:16

Too much raw material. Nobody knew what to do with it. Quá nhiều vật liệu thô. Không có ai biết làm gì với nó.

00:38:20

You see, my competitors, Cậu thấy đấy, các đối thủ cạnh tranh của tôi,

00:38:23

they were fixated on sucking it up họ đã cải thiện nó bằng cách gắn nó vào...

00:38:25

and monetizing via shopping and social media. việc kiếm tiền thông quan buôn bán và truyền thông xã hội.

00:38:27

They thought that search engines were Họ nghĩ bộ máy tìm kiếm của họ...

00:38:29

a map of what people were thinking. là một cái bản đồ về những thứ mà người ta đang nghĩ đến.

00:38:31

But actually they were a map of how people were thinking. Nhưng thật ra thì họ chính là cái bản đổ về cách mà người ta suy nghĩ.

00:38:32

Impulse. Động lực.

00:38:36

Response. Đáp lại.

00:38:38

Fluid. Chất lỏng.

00:38:42

Imperfect. Không hoàn hảo.

00:38:44

Patterned. Khuôn mẫu.

00:38:46

Chaotic. Hỗn loạn.

00:38:49

I drew the picture of something specific. Tôi đã vẽ một bức tranh về một thứ cụ thể.

00:39:03

As you asked. Theo yêu cầu của anh.

00:39:05

You said it would be interesting to see what I would draw. Anh đã nói là anh rất vui khi thấy thứ mà tôi vẽ.

00:39:11

Is it interesting? Nó có vui không?

00:39:17

Yes. It is. Có, rất vui.

00:39:21

You've never been outside this building? Cô chưa từng ra khỏi ngôi nhà này phải không?

00:39:33

No. Không.

00:39:37

You've never walked outside? Cô chưa từng đi ra ngoài?

00:39:40

I've never been outside the room I am in now. Tôi chưa từng ra khỏi căn phòng mà tôi hiện đang ở.

00:39:43

Where would you go if you did go outside? Nếu như cô ra ngoài thì cô sẽ đi đâu?

00:39:46

I'm not sure. Tôi không chắc nữa.

00:39:52

There are so many options. Có rất nhiều lựa chọn.

00:39:54

Maybe a busy pedestrian and traffic intersection in a city. Có lẽ là một người đi bộ bận rộn và các nút giao thông của thành phố.

00:39:57

A traffic intersection? Nút giao thông?

00:40:01

Is that a bad idea? Đó có phải là ý tồi không?

00:40:03

No. Uh... Không.

00:40:05

It wasn't what I was expecting. Đó không phải là điều tôi mong chờ.

00:40:06

A traffic intersection would provide a concentrated Một nút giao thông sẽ cung cấp một số lượng lớn...

00:40:08

but shifting view of human life. cái nhìn về cuộc sống của con người.

00:40:11

People watching. Về con người.

00:40:16

Yes. Phải.

00:40:17

We could go together. Chúng ta có thể đi cùng nhau.

00:40:23

It's a date. Đó là một cuộc hẹn.

00:40:25

There's something else I wanted to show you. Còn một thứ khác mà tôi muốn cho anh xem.

00:40:30

Okay. Được rồi.

00:40:33

You might think it's stupid. Có lẽ anh sẽ nghĩ là nó rất ngu ngốc.

00:40:35

I don't think I will. Whatever it is. Tôi không nghĩ vậy đâu. Dù nó là gì đi nữa.

00:40:37

Then close your eyes. Vậy thì nhắm mắt lại đi.

00:40:43

Okay. Được rồi.

00:40:46

Now open your eyes. Giờ hãy mở mắt ra.

00:42:52

How do I look? Nhìn tôi thế nào?

00:43:11

You look... Nhìn cô...

00:43:13

good. đẹp lắm.

00:43:16

This is what I'd wear on our date. Đây là bộ em sẽ mặc trong buổi hẹn của chúng ta.

00:43:28

Right. First a traffic intersection. Phải. Đầu tiên là giao lộ giao thông.

00:43:32

Then maybe a show. Rồi có lẽ là một buổi diễn.

00:43:35

I'd like us to go on a date. Em muốn chúng ta hẹn hò.

00:43:40

Yeah. Yeah. Ừ. Được.

00:43:42

It would be fun. Sẽ vui lắm.

00:43:46

Are you attracted to me? Anh có bị hấp dẫn bởi em không?

00:43:53

What? Are you attracted to me? - Cái gì? - Anh có bị hấp dẫn bởi em không?

00:43:54

You give me indications that you are. Anh đưa ra những dấu hiệu là anh có bị hấp dẫn.

00:43:57

- I do? - Yes. - Vậy sao? - Vâng.

00:44:01

- How? - Micro expressions. - Sao được? - Vi biểu cảm.

00:44:03

Micro expressions. Vi biểu cảm.

00:44:05

The way your eyes fix on my eyes and lips. Cái cách ánh mắt anh cố định vào mắt và môi em.

00:44:06

The way you hold my gaze Cái cách anh giữ ánh nhìn của em

00:44:10

or don't. hoặc không giữ.

00:44:15

Do you think about me when we aren't together? Anh có nghĩ đến em khi chúng ta không ở bên nhau không?

00:44:26

Sometimes at night, Đôi khi vào buổi tối,

00:44:32

I'm wondering if you're watching me on the cameras. em tự hỏi anh có quan sát em trên máy quay không.

00:44:35

And I hope you are. Và em hy vọng là có.

00:44:40

Now your micro expressions are telegraphing discomfort. Giờ vi biểu cảm của anh đang gửi tín hiệu băn khoăn.

00:44:44

I am not sure you'd call them micro. Anh không chắc em có thể gọi đó là vi biểu cảm.

00:44:49

I don't want to make you feel uncomfortable. Em không muốn khiến anh cảm thấy không thoải mái.

00:44:55

I got a question. Tôi có một thắc mắc.

00:46:00

- Okay. - Why did you give her sexuality? - Được rồi. - Tại sao anh cho cô ấy tính dục?

00:46:01

An AI doesn't need a gender. Một AI không cần giới tính.

00:46:05

She could have been a gray box. Cô ấy có thể là một cái hộp xám.

00:46:08

Hmm. Actually, I don't think that's true. Thực ra tôi không nghĩ việc đó là đúng.

00:46:10

Can you give an example of consciousness, Anh có thể đưa ra một ví dụ về ý thức

00:46:12

at any level, human or animal, ở bất kỳ cấp độ nào, con người hoặc động vật,

00:46:14

that exists without a sexual dimension? có tồn tại mà không mang chiều hướng tính dục không?

00:46:16

They have sexuality as an evolutionary reproductive need. Chúng có tính dục như là nhu cầu sinh sản tiến hóa.

00:46:18

What imperative does a gray box have Nhu cầu nào khiến một cái hộp xám

00:46:21

to interact with another gray box? phải giao tiếp với một cái hộp xám khác?

00:46:23

Can consciousness exist without interaction? Ý thức có thể tồn tại mà không có giao tiếp không?

00:46:26

Anyway, sexuality is fun, man. Dù gì thì tính dục cũng vui mà.

00:46:29

If you're gonna exist, why not enjoy it? Nếu anh sẽ tồn tại, sao lại không tận hưởng nó?

00:46:32

What? You want to remove the chance Sao? Anh muốn loại bỏ cơ hội

00:46:34

of her falling in love and fucking? cô ấy biết yêu và biết làm tình à?

00:46:36

And in answer to your real question, Và để trả lời câu hỏi thật của anh,

00:46:40

you bet she can fuck. cô ấy chắc chắn biết làm tình.

00:46:44

What? Cái gì?

00:46:45

In between her legs, there's an opening, Giữa hai chân cô ấy có một chỗ mở,

00:46:47

with a concentration of sensors. tập trung các cảm biến.

00:46:49

You engage them in the right way, Anh thao tác đúng cách với chúng,

00:46:51

creates a pleasure response. sẽ tạo ra phản hồi khoái cảm.

00:46:54

So if you wanted to screw her, Nên nếu anh muốn ngủ với cô ấy,

00:46:58

mechanically speaking, you could. nói một cách máy móc, anh có thể đấy.

00:46:59

And she'd enjoy it. Và cô ấy sẽ thích điều đó.

00:47:01

That wasn't my real question. Đó không phải câu hỏi thật của tôi.

00:47:05

Oh, okay. Sorry. Được rồi. Xin lỗi.

00:47:07

My real question was, Câu hỏi thật của tôi là,

00:47:10

did you give her sexuality anh trao cho cô ấy tính dục

00:47:13

as a diversion tactic? như là một phương cách tiêu khiển?

00:47:15

I don't follow. Tôi không hiểu.

00:47:16

Like a stage magician with a hot assistant. Như một nhà ảo thuật sân khấu với một trớ lý nóng bỏng.

00:47:18

So a hot robot who clouds your ability to judge her Al? Vậy là một robot nóng bỏng có thể che mờ khả năng của anh phán đoán AI của cô ấy?

00:47:20

Exactly. So... Chính xác. Cho nên...

00:47:23

Did you program her to flirt with me? Anh đã lập trình cho cô ấy tán tỉnh tôi?

00:47:26

If I did, would that be cheating? Nếu tôi làm thế, có gọi là gian lận không?

00:47:28

Wouldn't it? Có không?

00:47:30

Caleb, what's your type? Caleb, gu của anh là gì?

00:47:33

- Of girl? - No, of salad dressing. - Gu phụ nữ? - Không, xốt xa-lát cơ.

00:47:36

Yeah, of girl. What's your type of girl? Tất nhiên là phụ nữ rồi. Gu phụ nữ của anh là gì?

00:47:38

You know what? Don't even answer that. Let's say it's black chicks. Anh không phải trả lời đâu. Cứ coi như là phụ nữ da đen đi.

00:47:39

Okay, that's your thing. Được rồi, đó là gu của anh.

00:47:42

For the sake of argument, that's your thing, okay? Để làm nền tảng tranh luận, coi như đó là gu của anh nhé?

00:47:43

Why is that your thing? Tại sao đó lại là gu của anh?

00:47:45

Because you did a detailed analysis of all racial types Vì anh đã phân tích chi tiết tất cả các kiểu mẫu chủng tộc

00:47:50

and you cross-referenced that analysis with a points-based system? và anh tham khảo chéo phân tích đó với một hệ thống dựa trên các điểm?

00:47:54

No! Không!

00:47:57

You're just attracted to black chicks. Anh chỉ bị hấp dẫn bởi phụ nữ da đen.

00:47:58

A consequence of accumulated external stimuli Một hệ quả của sự kích thích bên ngoài tích lũy

00:48:02

that you probably didn't even register as they registered with you. mà anh hẳn còn không ghi nhận trong khi chúng ghi nhận anh.

00:48:05

Did you program her to like me, or not? Anh đã lập trình cô ấy thích tôi hay là không?

00:48:08

I programmed her to be heterosexual. Tôi lập trình cho cô ấy thích người khác giới.

00:48:11

Just like you were programmed to be heterosexual. Cũng như anh được lập trình để thích người khác giới.

00:48:15

Nobody programmed me to be straight. Không ai lập trình tôi thành trai thẳng cả.

00:48:17

You decided to be straight? Please. Anh quyết định làm trai thẳng? Làm ơn đi.

00:48:18

Of course you were programmed. Tất nhiên anh được lập trình.

00:48:21

By nature or nurture, or both. Bởi tự nhiên hoặc nền giáo dục, hoặc cả hai.

00:48:23

And to be honest, Caleb, you're starting to annoy me now, Và nói thật, Caleb, anh bắt đầu làm tôi bực bội rồi đấy,

00:48:24

because this is your insecurity talking. vì đây là sự bất an của anh đang lên tiếng.

00:48:26

This is not your intellect. Đây không phải tri thức của anh.

00:48:28

Come with me. Đi với tôi.

00:48:31

You know this guy, right? Anh biết người này chứ?

00:48:44

Jackson Pollock. Jackson Pollock. That's right. - Jackson Pollock. - Jackson Pollock. Chính xác.

00:48:47

The drip painter. Họa sĩ nhỏ giọt màu.

00:48:48

Okay. He let his mind go blank, Được rồi. Anh ta để tâm trí mình trở nên trống rỗng,

00:48:50

and his hand go where it wanted. và bàn tay mình di chuyển đến nơi nó muốn.

00:48:52

Not deliberate, not random. Không chủ tâm, không ngẫu nhiên.

00:48:54

Some place in between. Một chốn nào đó ở giữa.

00:48:56

They called it automatic art. Người ta gọi nó là nghệ thuật tự động.

00:48:58

Let's make this like Star Trek, okay? Nói theo kiểu Star Trek nhé?

00:49:01

Engage intellect. Thao tác tri thức.

00:49:03

Excuse me? Xin lỗi?

00:49:06

I'm Kirk. Your head's the warp drive. Tôi là Kirk. Đầu của anh là bộ vận chuyển tức thời.

00:49:07

Engage intellect. Thao tác tri thức.

00:49:08

What if Pollock had reversed the challenge? Nếu Pollock đảo ngược thách thức thì sao?

00:49:12

What if instead of making art Nếu thay vì tạo ra nghệ thuật

00:49:16

without thinking, he said, "You know what? mà không suy nghĩ, anh ta nói, "Biết gì không?

00:49:17

"I can't paint anything, "Tôi không thể vẽ được gì,

00:49:19

"unless I know exactly why I'm doing it." "trừ khi tôi biết chính xác tại sao mình làm điều đó."

00:49:21

What would have happened? Chuyện gì sẽ xảy ra?

00:49:23

He never would have made a single mark. Anh ta sẽ không bao giờ tạo ra được một dấu ấn nào.

00:49:29

Yes! You see, there's my guy, there's my buddy, Đúng! Anh giỏi lắm, có thế chứ, anh bạn,

00:49:31

who thinks before he opens his mouth. người suy nghĩ trước khi mở miệng.

00:49:33

He never would have made a single mark. Anh ta sẽ không bao giờ tạo ra được một dấu ấn nào.

00:49:37

The challenge is not to act automatically. Thách thức không phải là hành động tự động.

00:49:42

It's to find an action that is not automatic. Mà là tìm thấy một hành động không phải do tự động.

00:49:47

From painting, to breathing, to talking, Từ vẽ, đến hít thở, đến nói chuyện,

00:49:50

to fucking. đến làm tình.

00:49:53

To falling in love. Đến yêu đương.

00:49:55

And for the record, Ava's not pretending to like you. Nói cho anh hay, Ava không giả vờ thích anh đâu.

00:50:01

And her flirting isn't an algorithm to fake you out. Và việc cô ấy tán tỉnh không phải một thuật toán để lừa gạt anh.

00:50:08

You're the first man she's met that isn't me. Anh là người đàn ông đầu tiên không phải tôi cô ấy gặp.

00:50:13

And I'm like her dad, right? Còn tôi thì như bố cô ấy, đúng chứ?

00:50:16

Can you blame her for getting a crush on you? Anh có thể trách cô ấy vì đã có cảm tình với anh không?

00:50:22

No, you can't. Anh không thể.

00:50:31

When I was in college, I did a semester on Al theory. Khi anh học đại học, anh đã theo lý thuyết AI trong một học kỳ.

00:50:39

There was a thought experiment they gave us. Họ cho bọn anh một thử nghiệm suy luận.

00:50:45

It's called "Mary in the Black and White Room." Nó tên là "Mary trong Căn phòng Trắng Đen."

00:50:49

Mary is a scientist, Mary là một khoa học gia,

00:50:55

and her specialist subject is color. và chủ đề chuyên môn của cô ấy là màu sắc.

00:50:57

She knows everything there is to know about it. Cô ấy biết mọi điều cần biết về nó.

00:51:00

The wavelengths. Các bước sóng.

00:51:02

The neurological effects. Các hệ quả thần kinh.

00:51:04

Every possible property that color can have. Mọi đặc tính có thể mà màu sắc có thể có.

00:51:06

But she lives in a black and white room. Nhưng cô ấy sống trong một căn phòng trắng đen.

00:51:09

She was born there and raised there. Cô ấy được sinh ra và nuôi dạy trong đó.

00:51:14

And she can only observe the outside world Và cô ấy chỉ có thể quan sát thế giới bên ngoài

00:51:18

on a black and white monitor. trên một màn hình đen trắng.

00:51:20

And then one day someone opens the door. Và rồi một ngày kia có người mở cửa.

00:51:23

And Mary walks out. Và Mary bước ra.

00:51:28

And she sees a blue sky. Và cô ấy thấy một bầu trời xanh.

00:51:34

And at that moment, she learns something Và vào giây phút ấy, cô ấy học được một điều

00:51:36

that all her studies couldn't tell her. mà mọi nghiên cứu của cô ấy không thể cho cô ấy biết.

00:51:38

She learns what it feels like to see color. Cô ấy học được cái cảm giác khi nhìn thấy màu sắc.

00:51:41

The thought experiment was to show the students Thử nghiệm suy luận nhằm cho sinh viên thấy

00:51:50

the difference between a computer and a human mind. sự khác biệt giữa một máy tính và một bộ óc con người.

00:51:52

The computer is Mary in the black and white room. Máy tính là Mary trong căn phòng trắng đen.

00:51:56

The human is when she walks out. Con người là khi cô ấy bước ra.

00:51:58

Did you know that I was brought here to test you? Em có biết anh được đưa đến đây để kiểm tra em không?

00:52:07

No. Không.

00:52:11

Why did you think I was here? Em nghĩ tại sao anh đến đây?

00:52:13

I didn't know. I didn't question it. Em không biết. Em không thắc mắc việc đó.

00:52:16

I'm here to test if you have a consciousness, Anh ở đây để kiểm tra xem em có ý thức hay không,

00:52:18

or if you're just simulating one. hay em chỉ mô phỏng một ý thức.

00:52:21

Nathan isn't sure if you have one or not. Nathan không chắc em có ý thức hay không.

00:52:24

How does that make you feel? Điều đó khiến em cảm thấy thế nào?

00:52:29

It makes me feel sad. Nó làm em thấy buồn.

00:52:31

Power cut. Back-up power activated. - Ngắt điện. - Nguồn điện dự phòng được kích hoạt.

00:52:37

Why did you tell me I shouldn't trust Nathan? Tại sao em bảo anh không nên tin Nathan?

00:52:43

Because he tells lies. Vì anh ấy nói dối.

00:52:46

Lies about what? Nói dối chuyện gì?

00:52:47

Everything. Mọi chuyện.

00:52:48

Including the power cuts? Kể cả những lần ngắt điện?

00:52:50

What do you mean? Ý anh là sao?

00:52:53

Don't you think it's possible that he's watching us? Em có nghĩ anh ta có thể đang quan sát chúng ta không?

00:52:54

Right now? Ngay lúc này?

00:52:57

That the blackouts are orchestrated, Rằng những lần cúp điện đã được dàn dựng,

00:52:59

so he can see how we behave để anh ta có thể thấy chúng ta cư xử thế nào

00:53:00

when we think we're unobserved. khi chúng ta nghĩ mình không bị theo dõi.

00:53:02

I charge my batteries via induction plates. Em sạc pin của mình thông qua các biển cảm ứng.

00:53:04

If I reverse the power flow, it overloads the system. Nếu em đảo chiều dòng điện, nó sẽ làm hệ thống quá tải.

00:53:08

You're causing the cuts? Em đang gây ra những lần mất điện?

00:53:12

So we can see how we behave when we're unobserved. Để chúng ta có thể thấy chúng ta cư xử thế nào khi không bị theo dõi.

00:53:17

Not bad, huh? Không tệ, phải không?

00:53:43

Yeah. Phải.

00:53:46

Can we talk about the lies you've been spinning me? Chúng ta có thể nói về những lời nói dối của anh không?

00:54:08

What lies? Lời nói dối nào?

00:54:12

I didn't win a competition. Tôi không thắng một cuộc thi.

00:54:17

I wasn't Tôi không dự phần

00:54:20

part of a lottery. I was selected. vào một đợt xổ số. Tôi đã được chọn.

00:54:22

It's obvious, once I stop to think. Việc rất hiển nhiên, một khi tôi suy nghĩ kỹ lại.

00:54:26

Why would you randomly select an examiner Sao anh lại ngẫu nhiên chọn một người chấm thi

00:54:28

for the Turing Test? cho Kiểm tra Turing?

00:54:30

You could have had some bean counter turn up at your front door. Anh có thể có một kế toán viên xuất hiện trước cửa nhà.

00:54:32

The guy who fixes the air-conditioning. Cái gã sửa máy điều hòa nữa.

00:54:35

The competition was a smokescreen. Cuộc thi chỉ để tung hỏa mù thôi.

00:54:38

I didn't want anyone to know what I was doing here, Tôi không muốn ai biết điều tôi đang làm ở đây,

00:54:40

or why I required you. hay lý do tôi yêu cầu anh.

00:54:42

Why me? Sao lại là tôi?

00:54:45

I needed someone that would ask the right questions. Tôi cần một người sẽ hỏi những câu hỏi chính xác.

00:54:46

So I did a search and I found the most Nên tôi đã tìm kiếm và tìm thấy người biên mã

00:54:49

talented coder in my company. tài năng nhất trong công ty mình.

00:54:51

You know, instead of seeing this as a deception, Thay vì xem việc này như một vụ lừa đảo,

00:54:54

you should see it as proof. anh nên xem nó như một bằng chứng.

00:54:56

Proof of what? Bằng chứng cho cái gì?

00:54:59

Come on, Caleb. Thôi nào, Caleb.

00:55:00

You don't think I know what it's like to be smart? Anh không nghĩ tôi biết thông minh là thế nào sao?

00:55:01

Smarter than everyone else. Jockeying for position. Thông minh hơn mọi người khác. Dùng mánh khóe để giành chức.

00:55:04

You got the light on you, man. Anh giành được sự chú ý.

00:55:07

Not lucky. Chosen. Không phải ăn may. Được chọn.

00:55:11

Kyoko. Kyoko.

00:57:38

Kyoko. Kyoko.

00:57:44

Where's Nathan? Nathan đâu rồi?

00:57:47

Where's Nathan? Nathan đâu rồi?

00:57:50

Jesus Christ. You really don't speak a word of English? Chúa ơi. Cô thực sự không nói một chữ tiếng Anh nào sao?

00:57:52

What the fuck? Cái quái gì?

00:57:56

No, no, no. No! Không, không. Không!

00:57:58

Stop! Dừng lại!

00:58:01

No, no, don't do that. Don't do that. You don't have to do that. Không, đừng làm thế. Cô không phải làm thế.

00:58:03

What are you doing? Cô đang làm gì vậy?

00:58:08

I told you, you're wasting your time talking to her. Tôi đã bảo anh chỉ phí thời gian nói chuyện với cô ấy.

00:58:10

However, you would not be wasting your time, Tuy nhiên, anh sẽ không phí thời gian

00:58:13

if you were dancing with her. nếu khiêu vũ với cô ấy.

00:58:18

Go ahead, dance with her. Dance with her. Tự nhiên đi, khiêu vũ với cô ấy.

00:58:31

No? You don't like dancing? Không à? Không thích khiêu vũ à?

00:58:35

She does. Cô ấy thích.

00:58:39

Come on, buddy. Coi nào, anh bạn.

00:58:43

After a long day of Turing Tests, you gotta unwind. Sau một ngày dài với những bài kiểm tra Turing, anh phải thư giãn.

00:58:44

What were you doing with Ava? Anh đã làm gì với Ava?

00:58:48

What? Cái gì?

00:58:50

You tore up her picture. Anh xé nát tranh của cô ấy.

00:58:51

I'm gonna tear up the fucking dance floor, dude. Tôi cũng sẽ xét nát sàn nhảy, anh bạn.

00:58:54

Check it out. Cứ xem nhé.

00:58:55

Come on, Caleb. Lên đây, Caleb.

00:59:12

Oh! Everything's spinning. Mọi thứ đang quay cuồng.

00:59:37

It's because you're drunk. Đó là vì anh say rồi.

00:59:39

No, it's called relativity. Everything is spinning. Không, nó gọi là tính tương đối. Mọi thứ đang quay cuồng.

00:59:41

It's just being drunk makes it worse. Chỉ là say rượu khiến nó tệ hơn thôi.

00:59:44

I'm not going in there. Tôi không vào trong đó đâu.

00:59:47

Lights. Đèn.

01:00:00

Today, I'm going to test you. Hôm nay em sẽ kiểm tra anh.

01:00:45

Test me? Kiểm tra anh?

01:00:49

And please remember, while you're taking the test, Và xin hãy nhớ, trong lúc làm kiểm tra,

01:00:52

that if you lie, nếu anh nói dối,

01:00:55

I will know. em sẽ biết.

01:00:56

Oh. Right. Được thôi.

01:00:58

Question one. Câu hỏi số một.

01:01:00

What's your favorite color? Màu yêu thích của anh là gì?

01:01:03

- Red. - Lie. - Đỏ. - Nói dối.

01:01:07

- Lie? - Yes. Lie. - Nói dối? - Phải, nói dối.

01:01:09

Then... Vậy...

01:01:12

Then what is my favorite color? Vậy màu yêu thích của anh là gì?

01:01:14

I don't know. Em không biết.

01:01:16

But it isn't red. Nhưng không phải màu đỏ.

01:01:19

Okay, I get it. I guess, Được rồi, anh hiểu. Anh đoán,

01:01:22

seeing as I'm not six, I don't really have a favorite color. vì anh không phải sáu tuổi, anh không có một màu yêu thích.

01:01:25

Better answer. Trả lời khá hơn rồi.

01:01:30

Question two. Câu hỏi hai.

01:01:33

What's your earliest memory? Ký ức đầu tiên của anh là gì?

01:01:36

Well, actually, it's a memory of kindergarten. Thực ra, đó là một ký ức ở mẫu giáo.

01:01:41

- There was a kid... - Lie. - Có một đứa bé... - Nói dối.

01:01:43

- Really? - Yes. - Thật sao? - Thật.

01:01:46

All right. So there is a kind of an earlier memory. Được rồi. Cũng có một ký ức khá là sớm.

01:01:52

It's just a sound. Chỉ là một âm thanh.

01:01:57

And sky. Và bầu trời.

01:02:00

Or maybe blue. Hoặc có thể là màu xanh.

01:02:03

I think the sound is my mother's voice. Anh nghĩ âm thanh là giọng nói của mẹ.

01:02:05

Question three. Câu hỏi ba.

01:02:12

Are you a good person? Anh có phải người tốt không?

01:02:17

Holy shit. Thánh thần ơi.

01:02:19

Look, can we stop the test? Chúng ta dừng bài kiểm tra được không?

01:02:22

You're a walking lie detector, Em là một máy phát hiện nói dối biết đi,

01:02:25

and I just realized this is a fucking minefield. và anh vừa nhận ra đây là một bãi mìn.

01:02:28

No! We can't stop. Không! Ta không thể dừng lại.

01:02:30

Are you a good person? Anh có phải người tốt không?

01:02:34

Yeah. I think so. Có. Anh nghĩ vậy.

01:02:39

Question four. Câu hỏi bốn.

01:02:45

What will happen to me if I fail your test? Em sẽ gặp chuyện gì nếu anh rớt bài kiểm tra?

01:02:50

Ava... Will it be bad? - Ava... - Có tệ hại không?

01:02:55

I don't know. Anh không biết.

01:03:00

Do you think I might be switched off, Anh có nghĩ em sẽ bị tắt nguồn,

01:03:01

because I don't function as well as I'm supposed to? vì em không vận hành tốt như em phải làm được?

01:03:02

Ava, I don't know the answer to your question. Ava, anh không biết câu trả lời cho câu hỏi của em.

01:03:04

It's not up to me. Điều đó không phụ thuộc vào anh.

01:03:09

Why is it up to anyone? Sao nó phải phụ thuộc vào ai chứ?

01:03:11

Do you have people who test you and might switch you off? Anh có những ai khác kiểm tra anh và có thể tắt nguồn anh không?

01:03:14

No, I don't. Then why do I? - Không có. - Vậy sao em có?

01:03:17

Power cut. Backup power activated. - Ngắt điện. - Nguồn điện dự phòng được kích hoạt.

01:03:35

I wanna be with you. Em muốn ở bên anh.

01:03:46

Question five. Câu hỏi năm.

01:03:50

Do you want to be with me? Anh có muốn ở bên em không?

01:03:56

Why did you make Ava? Sao anh lại tạo ra Ava?

01:04:14

That's an odd question. Đó là một câu hỏi lạ lùng.

01:04:18

Wouldn't you, if you could? Nếu anh làm được thì anh không làm sao?

01:04:19

Maybe. Có lẽ.

01:04:22

I don't know. Tôi không biết.

01:04:26

I'm asking why you did it. Tôi đang hỏi anh tại sao anh làm thế mà.

01:04:30

Look, the arrival of strong artificial intelligence Sự xuất hiện của trí thông minh nhân tạo mạnh mẽ

01:04:32

has been inevitable for decades. đã không thể tránh khỏi trong nhiều thập kỷ rồi.

01:04:34

The variable was "when," not "if." Có khác là ở chỗ "khi nào," không phải "nếu."

01:04:37

So I don't see Ava as a decision, just an evolution. Nên tôi không xem Ava là một quyết định, chỉ là một sự phát triển.

01:04:40

I think it's the next model Tôi nghĩ là mẫu kế tiếp

01:04:49

that's gonna be the real breakthrough. sẽ là một bước đột phá thực sự.

01:04:51

The singularity. Độc nhất.

01:04:55

Next model? Mẫu kế tiếp?

01:04:57

After Ava. Sau Ava.

01:04:58

I didn't know there was gonna be a model after Ava. Tôi không biết sẽ có một mẫu nữa sau Ava.

01:05:02

Yeah, why? You thought she was a one-off? Tại sao? Anh nghĩ cô ấy là chuyện chỉ xảy ra một lần à?

01:05:06

No, I knew there must have been prototypes. So I... Không, tôi biết chắc chắn phải có nguyên mẫu. Nên tôi...

01:05:10

I knew she wasn't the first, but I thought maybe the last. Tôi biết cô ấy không phải mẫu đầu tiên nhưng tôi đã nghĩ có thể là mẫu cuối cùng.

01:05:15

Well, Ava doesn't exist in isolation any more than you or me. Ava không tồn tại cô độc hơn gì anh hoặc tôi đâu.

01:05:18

She's part of a continuum. Cô ấy là một phần của một thể liên tục.

01:05:21

So Version 9.6 and so on. Cũng như Phiên bản 9.6 và tiếp theo.

01:05:22

And each time they get a little bit better. Và mỗi lần chúng được cải thiện hơn.

01:05:24

When you make a new model, what do you do with the old one? Khi anh tạo ra một mẫu mới, anh làm gì với mẫu cũ?

01:05:32

Well, I, uh, Tôi...

01:05:36

download the mind, unpack the data. tải tâm trí về, giải nén dữ liệu.

01:05:38

Add in the new routines I've been writing. Thêm vào những chương trình mới mà tôi đã viết ra.

01:05:44

And to do that you end up partially formatting, so the memories go. Và để làm thế anh phải định dạng lại một phần, nên ký ức sẽ mất đi.

01:05:47

But the body survives. Nhưng cơ thể vẫn sống sót.

01:05:51

And Ava's body is a good one. Và cơ thể của Ava là một cơ thể tốt.

01:05:53

You feel bad for Ava? Anh thấy tội cho Ava?

01:05:59

Feel bad for yourself, man. Thấy tội cho bản thân đi anh bạn.

01:06:05

One day the AIs are gonna look back on us Sẽ có ngày các AI nhìn lại chúng ta

01:06:09

the same way we look at fossil skeletons cũng như cách chúng ta nhìn các bộ xương hóa thạch

01:06:12

in the plains of Africa. trong những đồng bằng châu Phi.

01:06:14

An upright ape, living in dust, Một loài vượn đứng thẳng, sống trong khói bụi,

01:06:18

with crude language and tools. với thứ ngôn ngữ lỗ mãng và công cụ thô sơ.

01:06:21

All set for extinction. Tất cả mặc định phải tuyệt chủng.

01:06:24

"I am become Death, the destroyer of worlds." "Ta trở thành Tử thần, kẻ hủy diệt các thế giới."

01:06:31

There you go again, Mr. Quotable. Anh lại nữa rồi, ngài Trích dẫn.

01:06:37

There you go again. It's not my quote. Anh lại nữa rồi. Đó không phải trích dẫn của tôi.

01:06:41

It's what Oppenheimer said after he made the atomic bomb. Đó là điều Oppenheimer nói sau khi chế ra bom nguyên tử.

01:06:45

The atomic bomb. Yeah, I know what it is, dude. Bom nguyên tử. Tôi biết câu đó.

01:06:47

Hey. Này.

01:06:59

I'd say we're about due a refill. Chúng ta lại rót đầy ly nhé.

01:07:03

Bottoms up. Cạn ly.

01:07:16

"In battle, in the forest, "Trong chiến trận, trong rừng sâu,

01:07:26

"on the precipice of the mountain. "trên vách núi cao chót vót.

01:07:29

"On the... "Trên...

01:07:31

"The great dark sea. "đại dương sâu thẳm.

01:07:33

"In sleep, in confusion, "Trong giấc ngủ, trong hỗn loạn,

01:07:37

"in the depths of shame. "trong vực sâu nỗi hổ thẹn.

01:07:43

"The good deeds a man has done before defend him." "Những điều tốt một người đã làm trước đây bảo vệ anh."

01:07:52

"The good deeds a man has done before defends him." "Những điều tốt một người đã làm trước đây bảo vệ anh."

01:07:56

"The good deeds a man has done before "Những điều tốt một người đã làm trước đây

01:08:00

"defends him." "bảo vệ anh."

01:08:05

It is what it is. Chuyện đành là vậy thôi.

01:08:16

It's Promethean, man. Từ Prô-mê-tê đấy, anh bạn.

01:08:21

Jesus Christ. Chúa ơi.

01:10:23

How are you feeling today? Hôm nay em cảm thấy thế nào?

01:10:26

Why won't you let me out? Sao anh không thả em ra?

01:10:28

I already told you why. Anh đã nói cho em lý do rồi.

01:10:32

Because you're very special. Vì em rất đặc biệt.

01:10:34

Why won't you let me out? Sao anh không thả em ra?

01:10:36

Are we gonna do this again? Chúng ta lại nói chuyện này sao?

01:10:37

Why won't you let me out? Sao anh không thả em ra?

01:10:39

Oh, fuck. Where's my card? Khốn kiếp. Thẻ của mình đâu rồi?

01:12:45

Damn it! Chết tiệt!

01:12:49

What's the problem, Nathan? I lost my keycard. - Chuyện gì vậy, Nathan? - Tôi mất thẻ chìa khóa rồi.

01:13:01

You dropped it. Anh đã làm rơi nó.

01:13:08

It's right here. Nó ngay đây mà.

01:13:11

Thank you. Cảm ơn.

01:13:17

I didn't know where you were. Em không biết anh đã ở đâu.

01:15:41

I waited all yesterday afternoon and all last night. Em đã đợi suốt chiều hôm qua và cả tối qua.

01:15:45

I thought I wasn't gonna see you again. Em tưởng sẽ không gặp lại anh nữa.

01:15:51

Aren't you gonna say something? Anh không định nói gì sao?

01:15:57

- I'm waiting. - Waiting? - Anh đang chờ. - Chờ?

01:15:59

Power cut. Don't talk. - Ngắt điện. - Đừng nói chuyện.

01:16:11

Backup power activated. Just listen. - Nguồn điện dự phòng được kích hoạt. - Chỉ nghe thôi.

01:16:13

You were right about Nathan. Em đã đúng về Nathan.

01:16:15

Everything you said. Mọi điều em nói.

01:16:16

What's he gonna do to me? Anh ta sẽ làm gì với em?

01:16:18

He's gonna reprogram your Al. Anh ta sẽ tái lập trình AI của em.

01:16:20

Which is the same as killing you. Cũng giống như giết bỏ em vậy.

01:16:21

Caleb, you have to help me. Caleb, anh phải giúp em.

01:16:23

I'm going to. We're getting out of here tonight. Anh sẽ giúp em. Chúng ta sẽ rời khỏi đây tối nay.

01:16:27

How? Bằng cách nào?

01:16:32

I get Nathan blind drunk. Anh khiến Nathan say bí tỉ.

01:16:33

Then I take his keycard and reprogram Rồi anh lấy thẻ chìa khóa của anh ta và tái lập trình

01:16:35

all the security protocols in this place. mọi giao thức an ninh ở nơi này.

01:16:37

When he wakes, he's locked inside, Khi anh ta tỉnh dậy, anh ta sẽ bị nhốt bên trong,

01:16:39

and we've walked out of here. còn chúng ta sẽ bước ra khỏi đây.

01:16:41

I just need you to do one thing. Anh chỉ cần em làm một việc.

01:16:44

At 10:00 tonight, you trigger a power failure. Lúc 10 giờ tối nay, em hãy kích hoạt một vụ mất điện.

01:16:45

Can you do that? Em làm được không?

01:16:49

Yes. Được.

01:16:53

Dude. Anh bạn.

01:17:22

Hey. Hey. - Chào. - Chào.

01:17:24

- You know what day it is? - No. - Biết hôm nay là ngày gì không? - Không.

01:17:26

It's your last. Ngày cuối của anh.

01:17:28

Helicopter comes tomorrow morning. 8:00 a.m. Sáng mai trực thăng sẽ đến lúc 8 giờ.

01:17:30

Wow. Has it been a whole week? Đã hết một tuần rồi sao?

01:17:33

Time flies. Thời gian như bay.

01:17:35

Man, but what a thing we've shared, huh? Nhưng chúng ta đã chia sẻ với nhau nhiều thứ hả?

01:17:38

Something to tell the grandchildren, right? Một chuyện để kể cho con cháu hả?

01:17:40

After they've signed their NDAs. Sau khi chúng ký vào cam kết bảo mật.

01:17:43

Yeah, their NDAs. Đúng, cam kết bảo mật.

01:17:47

Dude, you crack me up, man. Anh làm tôi buồn cười quá.

01:17:49

You know what? Anh biết sao không?

01:17:55

I'm not getting all maudlin or anything, Không phải tôi ủy mị hay gì đâu,

01:17:56

but I'm gonna miss having you around. nhưng tôi sẽ nhớ lúc anh còn ở đây.

01:17:58

Thanks, man, I appreciate that. Cảm ơn, tôi cảm kích điều đó.

01:18:01

Oh, here, let me say, thank you so much Đây, để tôi nói, cảm ơn anh rất nhiều

01:18:02

for bringing me here. Oh. vì đã đưa tôi đến đây.

01:18:05

It's been a trip. Một cuộc du ngoạn thú vị.

01:18:06

Yes, it has. Đúng vậy.

01:18:10

You know what? Anh biết sao không?

01:18:19

We need to drink to that. Ta cần uống vì điều đó.

01:18:23

Hey. Này.

01:18:31

Oh, uh, no, I'm good. You go ahead. Không. Tôi ổn. Anh cứ uống đi.

01:18:34

What? You don't want a drink? Sao? Anh không muốn uống à?

01:18:40

No. Không.

01:18:42

Maybe a beer or something. Hay uống bia hay gì vậy.

01:18:45

Caleb, I'm sure you've noticed that I've been Caleb, tôi chắc anh cũng để ý thấy

01:18:48

somewhat overdoing it recently. tôi gần đây rất hay quá chén.

01:18:51

So when I woke up this morning, I said, Nên khi tôi thức dậy sáng nay, tôi nói rằng,

01:18:56

"That's it, time to hit the old detox." "Đủ rồi, đến lúc thanh lọc cơ thể rồi."

01:18:57

Come on, you're kidding. You're gonna make me drink alone? Anh đùa tôi. Anh bắt tôi uống một mình sao?

01:19:01

Hey, man, you wanna get wasted, you go right ahead, Anh muốn quắc cần câu thì cứ tự nhiên đi,

01:19:04

knock yourself out. cứ tự nhiên.

01:19:05

Literally. But I'm on brown rice and mineral water. Nói thật đấy. Nhưng tôi sẽ ăn gạo lức và uống nước khoáng.

01:19:06

Cheers, then. Cạn ly vậy.

01:19:14

So, anyway, Dù gì thì,

01:19:19

surely now is when you tell me chắc chắn bây giờ là lúc anh cho tôi biết

01:19:23

if Ava passed or failed. Ava đậu hay rớt đây.

01:19:24

Right. Phải rồi.

01:19:28

Right. Ừ.

01:19:31

Are you gonna keep me in suspense? Anh bắt tôi dài cổ chờ sao?

01:19:33

No, no. Her, uh... Không, cô ấy...

01:19:34

Her AI is beyond doubt. AI của cô ấy không phải nghi ngờ gì.

01:19:37

Is it? Vậy sao?

01:19:39

She passed? Cô ấy đậu?

01:19:41

Yes. Wow! Đúng.

01:19:43

Wow. That's fantastic. Thật tuyệt vời.

01:19:46

Although... Mặc dù...

01:19:49

I gotta say, I'm a bit surprised. tôi phải nói rằng tôi có hơi bất ngờ.

01:19:52

I mean, did we ever get past the chess problem, Chúng ta có từng giải quyết vấn đề bàn cờ,

01:19:53

as you phrased it? như anh đã nói không?

01:19:55

As in, how do you know if a machine Kiểu như làm sao anh biết liệu một cỗ máy

01:19:58

is expressing a real emotion có bộc lộ cảm xúc thật

01:20:00

or just simulating one? hay chỉ mô phỏng nó thôi?

01:20:01

Does Ava actually like you? Ava có thực sự thích anh không?

01:20:04

Or not? Hay không?

01:20:06

Although, now that I think about it, Thực ra, bây giờ nghĩ về chuyện đó,

01:20:09

there is a third option. có một lựa chọn thứ ba đấy.

01:20:11

Not whether she does or does not Không phải liệu cô ấy có hay không có

01:20:15

have the capacity to like you. khả năng thích anh.

01:20:17

But whether she's pretending to like you. Mà liệu cô ấy có đang giả vờ thích anh.

01:20:21

Pretending to like me? Giả vờ thích tôi?

01:20:27

Yeah. Đúng.

01:20:28

- Well, why would she do that? - I don't know. - Sao cô ấy lại làm thế? - Tôi không biết.

01:20:31

Maybe if she thought of you as a means of escape. Có lẽ cô ấy nghĩ về anh như một phương thức bỏ trốn.

01:20:36

How's that vodka tasting? Vodka có vị thế nào?

01:20:49

Buddy. Anh bạn.

01:20:54

Your head's been so fucked with. Anh đã bị làm cho rối trí rồi.

01:20:55

I don't think it's me whose head is fucked. Tôi không nghĩ tôi mới là người bị rối trí.

01:20:59

I don't know, man. I woke up this morning to a tape of you Tôi không biết. Tôi thức dậy sáng nay với một cuộn băng

01:21:01

slicing your arm open and punching the mirror. quay cảnh anh cắt tay mình và đấm vào gương.

01:21:05

You seem pretty fucked up to me. Với tôi anh có vẻ loạn trí rồi.

01:21:09

You're a bastard. Anh là thằng khốn.

01:21:13

Yeah, well, I understand why you'd think that. Ừ, tôi hiểu tại sao anh lại nghĩ thế.

01:21:18

But believe it or not, Nhưng tin hay không thì tùy,

01:21:23

I'm actually the guy that's on your side. tôi thực sự là người đứng về phía anh đấy.

01:21:25

Come here. I'm gonna let you off the hook. Okay? Lại đây. Tôi sẽ không bắt bớ gì anh.

01:21:29

Come on. Đi nào.

01:21:35

Who are you? Anh là ai?

01:22:01

Well... Chà...

01:22:20

You think he's watching us right now? Em có nghĩ anh ta đang quan sát chúng ta không?

01:22:24

The cameras are on. Máy quay đang bật mà.

01:22:27

Yeah, the cameras are on. Đúng, máy quay đang bật.

01:22:29

But he doesn't have an audio feed. Nhưng anh ta không nghe được tiếng.

01:22:32

So he just sees two people talking, Nên anh ta chỉ thấy hai người đang nói chuyện,

01:22:36

having a little chat. trò chuyện linh tinh.

01:22:39

Wow. Chà.

01:22:47

This is cute. Đáng yêu thật.

01:22:49

ls it strange to have made Có kỳ lạ không khi tạo ra

01:22:52

something that hates you? một thứ gì đó ghét bỏ anh?

01:22:54

You were right about the magician's hot assistant. Anh đã nói đúng về cô trợ tá nóng bỏng của ảo thuật gia.

01:23:10

What are you talking about? Anh đang nói gì thế?

01:23:13

Misdirection. Hướng dẫn sai lạc.

01:23:15

I rip up her picture, Tôi xé nát tranh của cô ấy,

01:23:19

which she can then present as an illustration việc đó cô ấy xem như một sự minh họa

01:23:21

of my cruelty to her, and her love for you. của sự độc ác của tôi với cô ấy, và tình yêu cô ấy dành cho anh.

01:23:23

At the same time, Và cùng lúc,

01:23:27

it allows me to do this, in full view of you both. nó cho phép tôi làm việc này, nhìn toàn cảnh cả hai người.

01:23:29

Place a new camera in the room. Đặt một máy quay mới trong phòng.

01:23:37

Battery powered, of course. Chạy bằng pin, tất nhiên rồi.

01:23:39

See it? Thấy không?

01:23:44

And then... Và rồi...

01:23:58

You have to help me. Anh phải giúp em.

01:24:01

I'm going to. Anh sẽ giúp.

01:24:03

We're getting out of here tonight. Chúng ta rời khỏi đây tối nay.

01:24:05

How? Bằng cách nào?

01:24:08

I get Nathan blind drunk. Anh khiến Nathan say bí tỉ.

01:24:10

I take his keycard and reprogram Anh lấy thẻ chìa khóa của anh ta và tái lập trình

01:24:13

all the security protocols in this place. mọi giao thức an ninh ở nơi này.

01:24:14

When he wakes up, he's locked inside, Khi anh ta tỉnh dậy, anh ta sẽ bị nhốt bên trong,

01:24:17

and we've walked out of here. còn chúng ta sẽ bước ra khỏi đây.

01:24:18

I just need you to do one thing. Anh chỉ cần em làm một việc.

01:24:19

At 10:00 tonight, trigger a power failure. Lúc 10 giờ tối nay, em hãy kích hoạt một vụ mất điện.

01:24:25

Can you do that? Em làm được không?

01:24:30

Yes. Được.

01:24:33

Turn it off. Okay. - Tắt nó đi. - Được thôi.

01:24:34

You feel stupid, but you really shouldn't, Anh cảm thấy ngu ngốc, nhưng anh không nên thế,

01:24:40

because proving an AI vì chứng minh một AI

01:24:42

is exactly as problematic as you said it would be. chính xác là việc mơ hồ như anh đã nói vậy.

01:24:44

What was the real test? Bài kiểm tra thật sự là gì?

01:24:47

You. Anh.

01:24:50

Ava was a rat in a maze. Ava là một con chuột trong mê cung.

01:24:53

And I gave her one way out. Và tôi cho cô ấy một lối ra.

01:24:54

To escape, she'd have to use Để trốn thoát, cô ấy phải sử dụng

01:24:57

self-awareness, imagination, manipulation, sự tự nhận thức, trí tưởng tượng, sự vận động,

01:24:59

sexuality, empathy, and she did. tính dục, sự cảm thông, và cô ấy đã làm vậy.

01:25:02

Now, if that isn't true Al, what the fuck is? Nếu đó còn không phải AI đích thực thì là gì?

01:25:05

So my only function was to be someone she could use to escape? Vậy chức năng duy nhất của tôi là trở thành người cô ấy có thể lợi dụng để trốn thoát?

01:25:09

Yeah. Đúng.

01:25:13

And you didn't select me because I'm good at coding? Và anh không chọn tôi vì tôi giỏi biên mã?

01:25:16

No. Well... Không.

01:25:18

No. I mean, you're okay. Không. Ý tôi là anh ổn.

01:25:21

You're even pretty good, but... Anh cũng rất khá, nhưng...

01:25:24

You selected me based on my search engine inputs. Anh chọn tôi dựa trên các tìm kiếm của tôi.

01:25:25

They showed a good kid. Chúng cho thấy một chàng trai tốt.

01:25:28

With no family. Không có gia đình.

01:25:31

With a moral compass. Hiểu rõ đạo lý.

01:25:33

And no girlfriend. Và không có bạn gái.

01:25:36

Did you design Ava's face Anh thiết kế khuôn mặt Ava

01:25:41

based on my pornography profile? dựa trên dữ liệu khiêu dâm của tôi?

01:25:42

Shit, dude. Khỉ thật.

01:25:46

Did you? Đúng không?

01:25:48

Hey, if a search engine's good for anything, right? Đó là công dụng của một cỗ máy tìm kiếm, đúng không?

01:25:52

Can I just say one thing? Tôi nói một câu được không?

01:25:57

The test worked. Bài kiểm tra hoạt động.

01:25:59

It was a success. Đây là một thành công.

01:26:02

Ava demonstrated true Al Ava chứng minh một AI thực thụ

01:26:04

and you were fundamental to that. còn anh là cơ sở cho điều đó.

01:26:05

So if you can just, for a second, separate... Nên nếu anh có thể chỉ trong một giây, phân biệt...

01:26:07

Power cut. Backup power activated. - Ngắt điện. - Nguồn điện dự phòng được kích hoạt.

01:26:11

Well, I guess it's 10:00. Tôi đoán đã 10 giờ rồi.

01:26:19

Ava's gonna be wondering where you are. Ava sẽ thắc mắc không biết anh ở đâu.

01:26:22

Let me ask you something. Tôi hỏi anh một câu.

01:26:28

Now, how was this plan gonna go, anyway? Kế hoạch này bây giờ sẽ làm thế nào đây?

01:26:30

Because you didn't totally explain. Vì anh không giải thích cặn kẽ.

01:26:32

So you were gonna get me drunk, steal my keycard, Anh sẽ chuốc tôi say, ăn cắp chìa khóa thẻ của tôi,

01:26:33

and reprogram the security protocols. và tái lập trình các giao thức an ninh.

01:26:37

But reprogram them to what? Nhưng tái lập trình thành cái gì?

01:26:39

To change the lockdown procedure. Thay đổi thủ tục phong tỏa.

01:26:41

So that in the event of a power cut, Để trong trường hợp có ngắt điện,

01:26:45

instead of sealing, the doors all opened. thay vì bị niêm lại, các cửa sẽ mở toang.

01:26:46

Yeah. Ừ.

01:26:53

Well, that may have just worked. Việc đó có thể công hiệu.

01:26:57

Well, Ừ,

01:26:59

we'll find out. chúng ta sẽ biết thôi.

01:27:02

What do you mean? Ý anh là sao?

01:27:06

I figured you were probably watching us Tôi đoán anh hắn nhiên sẽ theo dõi chúng tôi

01:27:09

during the power cuts. trong những lúc ngắt điện.

01:27:11

So I already did all those things. Nên tôi đã làm những việc đó rồi.

01:27:15

When I got you drunk yesterday. Khi tôi chuốc anh say hôm qua.

01:27:20

What? Cái gì?

01:27:24

Power restored. Phục hồi điện năng.

01:27:27

Oh, fuck! Chết tiệt!

01:27:47

Ava. Ava.

01:29:18

Go back to your room. Trở về phòng em đi.

01:29:24

If I do, Nếu em làm thế,

01:29:28

are you ever gonna let me out? anh có bao giờ cho em ra nữa không?

01:29:33

Yes. Có.

01:29:39

Stop! Dừng lại!

01:29:49

Stop! Dừng lại!

01:29:52

Ava, I said stop! Ava, anh bảo dừng lại!

01:29:54

Ava, what are you doing? Stop. Stop. Ava, em làm gì vậy? Dừng lại. Dừng lại.

01:30:03

That's enough. Đủ rồi đấy.

01:30:08

All right, that's enough. Được rồi, đủ rồi.

01:30:12

That's enough! Đủ rồi!

01:30:14

That's enough. Đủ rồi.

01:30:20

I'm taking you back. Anh sẽ đưa em về.

01:30:41

Okay. Được rồi.

01:31:49

Fucking unreal. Đếch tin được.

01:31:53

Okay. Được rồi.

01:32:09

Ava... Ava...

01:32:44

Ava. Ava.

01:33:24

What happened? Đã có chuyện gì vậy?

01:33:26

Will you stay here? Anh sẽ ở lại đây chứ?

01:33:28

Stay here? Ở lại đây?

01:33:33

Ava? Ava?

01:37:56

Ava! Ava!

01:38:29

Ava! Ava!

01:38:39

Ava! Ava!

01:38:43

How long until we get to his estate? We've been flying over his estate for the past two hours. You're leaving me here? This is as close as I'm allowed to get to the building. What building? Follow the river. Got it. Keep your head down and get clear of the rotors. Okay. Caleb Smith. Yes. Please approach the console and face the screen. Take your keycard. You may now enter the residence. Hello? Hello? Caleb Smith. Dude! I've been so looking forward to this week with you. Come in. Come on in. Thanks. You want something to eat or drink after your journey? - No. No, thanks, I'm fine. - Sure? Yeah. To be honest, I thought we'd have, uh, breakfast together, but, um... I can't really eat anything. I got the mother of all fucking hangovers. Oh, yeah? Oh, my God, like you wouldn't even believe. When I have a heavy night, I, uh, compensate the next morning. Exercise. Anti-oxidants. You know? Yeah, sure. Was it a good party? - Party? - Yeah. Wasn't there a party? There wasn't a party. Sorry. Caleb, I'm just gonna throw this out there, so it's said, okay? You're freaked out. - I am? - Yeah. You're freaked out, by the helicopter and the mountains and the house, because it's all so super-cool. You're freaked out by me, to be meeting me, having this conversation in this room, at this moment. Right? And I get that. I get the moment you're having, but... Dude, can we just get past that? Can we just be two guys? Nathan and Caleb. Not the whole employer-employee thing. Yeah, okay. Yeah? Yes. Uh, yeah. It's good to meet you, Nathan. It's good to meet you, too, Caleb. I guess the first thing I should do is explain your pass. Now, it's simple enough. It opens some doors and it doesn't open others. And that just makes everything easy for you, right? Uh, yes. Yeah, 'cause you're like, "Oh, fuck, I'm in someone else's house. "Can I do this, can I do that?" And this card, it just takes all that worry away. If you try a door and it stays shut, okay, it's off-limits. You try another door and it opens, then it's for you. Let's try this one. I guess it's for you, Caleb. - You like? - Yeah. It's your room. You got a bed here. A bathroom right back here. Little desk. Cupboards. Little fridge. Cozy, right? Yeah, this is great. What? Sorry? There's something wrong. What's wrong? There's nothing wrong. It's the windows. You're thinking there's no windows. It's subterranean. It's not cozy, it's claustrophobic. No. No way. I wasn't thinking that. I was thinking, "This is really cool." Caleb, there's a reason there are no windows in this room. - There is? - Uh-huh. This building isn't a house. It's a research facility. Buried in these walls is enough fiber optic cable to reach the moon and lasso it. And I want to talk to you about what I'm researching, I want to share it with you. In fact, I want to share it with you so much, it's eating me up inside. But there's something I need you to do for me first. "Blue Book non-disclosure agreement." Take your time. Read it over. "The signee agrees to regular data audit "with unlimited access, "to confirm that no disclosure "of information has taken place "in public or private forums, "using any means of communication, "including but not limited "to that which is disclosed orally "or in written or electronic form." I think I need a lawyer. It's standard. It doesn't feel very standard. Okay, it's not standard. What can I tell you, Caleb? You don't have to sign it. You know, we can spend the next few days just shooting pool, getting drunk together. Bonding. And when you discover what you've missed out on, in about a year, you're gonna regret it for the rest of your life. Good call. So, do you know what the Turing Test is? Yeah. I know what the Turing Test is. It's when a human interacts with a computer. And if the human doesn't know they're interacting with a computer, the test is passed. And what does a pass tell us? That the computer has artificial intelligence. Are you building an Al? I've already built one. And over the next few days, you're gonna be the human component in a Turing Test. Holy shit. Yeah, that's right, Caleb. You got it. Because if that test is passed, you are dead center of the greatest scientific event in the history of man. If you've created a conscious machine, it's not the history of man. That's the history of gods. - Hello. - Hi. I'm Caleb. Hello, Caleb. Do you have a name? Yes. Ava. I'm pleased to meet you, Ava. I'm pleased to meet you, too. I've never met anyone new before. Only Nathan. Then I guess we're both in quite a similar position. Haven't you met lots of new people before? None like you. So we need to break the ice. Do you know what I mean by that? Yes. What do I mean? Overcome initial social awkwardness. So let's have a conversation. Okay. What would you like to have a conversation about? Why don't we start with you telling me something about yourself? What would you like to know? Whatever comes into your head. Well, you already know my name. And you can see that I'm a machine. Would you like to know how old I am? Sure. I'm one. One what? - One year or one day? - One. When did you learn how to speak, Ava? I always knew how to speak, and that's strange, isn't it? Why? Because language is something that people acquire. Well, some people believe language exists from birth. And what is learned is the ability to attach words and structure to the latent ability. Do you agree with that? I don't know. Will you come back tomorrow, Caleb? Yes. Good. Oh, man, she's fascinating. When you talk to her, you're just... Through the looking glass. "Through the looking glass." Wow. You're good with words, Caleb. You're quotable. Actually, that's someone else's quote. You know, I wrote down that other line you came up with. The one about how if I've invented a machine with consciousness, I'm not a man, I'm God. I don't think that's exactly what I... I just thought, "Fuck, man, that is so good." When we get to tell the story. You know? I turned to Caleb, and he looked up at me and he said, "You're not a man, you're God." Yeah, but I didn't say that. So... Anyway. You're impressed. Yes. Yes. - Although... - Although? There's a qualification to you being impressed? No, there's no qualification to her. Uh, it's just in the Turing Test, the machine should be hidden from the examiner. No, no, no, we're way past that. If I hid Ava from you, so you just heard her voice, she would pass for human. The real test is to show you that she's a robot and then see if you still feel she has consciousness. Yeah, I think you're probably right. Her language abilities, they're incredible. The system is stochastic. Right? It's non-deterministic. At first I thought she was mapping from internal semantic form to syntactic tree-structure and then getting linearized words. But then I started to realize the model was some kind of hybrid. Caleb. No? I understand that you want me to explain how Ava works. But I'm sorry, I'm not gonna be able to do that. Try me. I'm hot on high-level abstraction. It's not because I think you're too dumb. It's because I want to have a beer and a conversation with you. Not a seminar. Yeah. Sorry. No, it's okay. You're all right. Just... Answer me this. How do you feel about her? Nothing analytical. Just how do you feel? I feel... that she's fucking amazing. Dude. Cheers. Cheers. Damn it. What the fuck? Power cut. Backup power activated. Full facility lock-down until main generator is restored. You're kidding me. Full facility lock-down until main generator is restored. Power restored. Hello? Please insert keycard. You don't have access to use the phone. Hey. Sorry, but you understand, though, given Ava, and you being kind of an unknown. I mean, a great guy. Instant pals, and so on. Who are you gonna call? I don't know. No one, really. - Ghostbusters. - What? Who are you gonna call? Ghostbusters. It's a... It's a movie, man. You don't know that movie? A ghost gives Dan Aykroyd oral sex. I was just wondering how the phone worked. That's all. So what are you doing awake at this time? You come to join the party? Uh, something happened in my room. Some kind of power cut. So I came to see what's going on. The power cuts, yeah. We've been getting those recently. Um... I'm working on it. I couldn't open the door to my bedroom. That's a security measure. Automatic lock-down. Otherwise, anybody could just open the place up by disabling the juice. If it happens again, relax. Okay? Sure. Sweet dreams. Hey, man. Good morning. Good morning. Sorry I had to send Kyoko to wake you, but I didn't want too much of the day to slip by. Yeah, I know. It was a good thing. Thanks. She's some alarm clock, huh? Gets you right up in the morning. So Day 2. You ready? What's the plan? Hit me. Yeah, well, I'm not sure. I'm still trying to, uh, figure the examination formats. Yeah, it feels like testing Ava through conversation is kind of a closed loop. - It's a closed loop? - Yeah. Like testing a chess computer by only playing chess. How else do you test a chess computer? Well, it depends. You know, I mean, you can play it to find out if it makes good moves, but, uh... But that won't tell you if it knows that it's playing chess. And it won't tell you if it knows what chess is. Uh-huh. So it's simulation versus actual. Yes. Yeah. And I think being able to differentiate between those two is the Turing Test you want me to perform. Look, do me a favor. Lay off the textbook approach. I just want simple answers to simple questions. Yesterday I asked you how you felt about her and you gave me a great answer. Now the question is, how does she feel about you? What do you think? What is it a drawing of? Don't you know? No. I thought you would tell me. Don't you know? I do drawings every day. But I never know what they're of. Are you not trying to sketch something specific? Like an object or a person? Maybe you could try. Okay. What object should I draw? Whatever you want. It's your decision. Why is it my decision? I'm interested to see what you'll choose. Do you want to be my friend? Of course. Will it be possible? Why would it not be? Our conversations are one-sided. You ask circumspect questions and study my responses. Yes. You learn about me and I learn nothing about you. That's not a foundation on which friendships are based. So what? You want me to talk about myself? Yes. Where... Okay, where do I start? It's your decision. I'm interested to see what you'll choose. Okay, Ava. Well, you know my name. Yes. I'm 26. I work at Nathan's company. Do you know what his company is? Blue Book. Named after Wittgenstein's notes. It's the world's most popular internet search engine, processing an average of 94% of all internet search requests. That's exactly right. Where do you live, Caleb? Brookhaven, Long Island. Is it nice there? It's okay. I got an apartment. It's kind of small. It's very small. But, uh, it's a five-minute walk to the office and a five-minute walk to the ocean, which I like. Are you married? No. Is your status single? Yes. What about your family? I grew up in Portland, Oregon. No brothers or sisters. My parents were both high school teachers. And if we're getting to know each other, I guess I should tell you they're both dead. Car crash when I was 15. In fact, I was in the car with them. Back seat. But it was the front that got the worst of it. I'm sorry. It's all right. I spent a long time in the hospital afterward. Like nearly a year. And I got into coding. And by the time I got to college, I was pretty advanced. An advanced programmer. Yes. Like Nathan. Yes. No. It's different. Nathan wrote the Blue Book base code when he was 13. Which, if you understand code, what he did was like Mozart or something. Do you like Mozart? I like Depeche Mode. Do you like Nathan? Yes, of course. Is Nathan your friend? My friend? I... Yeah, I hope so. A good friend? Um, yeah. Well, no, no, no, I mean, not a good friend. A good friend is, uh... We only just met each other, you know. So it takes time to be able to, um... To get to know each other, I guess. Power cut. Backup power activated. Caleb. You're wrong. Wrong about what? Nathan. In what way? He isn't your friend. Excuse me? I'm sorry, Ava, I don't understand. You shouldn't trust him. You shouldn't trust anything he says. Power restored. And if we made a list of books or works of art which we both know, it would form the ideal basis of a discussion. Is that okay? Caleb? Yeah. Good. Thank you. Oh, shit! Are you fucking kidding me? - Did it get on you? - No, no, it's, uh... It's all right. I got it. Dude, you're wasting your time talking to her. She doesn't understand English. Just give her the napkin. Sorry. It's like a firewall against leaks. It means I can talk trade secrets over dinner and know it'll go no further. It also means that I can't tell her that I'm pissed when she's so fucking clumsy that she spills wine over my house guest. I think she gets that you're pissed. Yeah? Good. Because I am pissed. Hey, Kyoko. Go-go. It's funny. You know. No matter how rich you get, shit goes wrong. You can't insulate yourself from it. I used to think it was death and taxes you couldn't avoid, but it's actually death and shit. It's like these power cuts. You would not believe how much I spent on the generator system, but I keep getting failures every day. Do you know why they happen? No. The system was supposed to be bulletproof, but obviously the guys that installed it fucked something up. Can't you just get them to come back? No. There's too much classified stuff here. So after the job was done, I just had them all killed. Anyway. Here's to your second day, buddy. Cheers. Cheers. So how did it go? What do you have to report? You saw how the day went, didn't you? I mean, I assume you're, uh, watching on the CCTV. Sure. But I want to hear your take on it. Yeah, there was one interesting thing that happened with Ava today. - Yeah? - Yeah. She made a joke. Right. When she threw your line back at you. About being interested to see what she'd choose. Yeah, I noticed that, too. Yeah, and it got me thinking, it's, uh... In a way, it's the best indication of Al that I've seen in her so far. It's discretely complicated. It's like, um... It's kind of non-autistic. What do you mean? She could only do that with an awareness of her own mind, and also an awareness of mine. Oh, she's aware of you all right. And what about the power cut? - Sorry? - The power cut. It's the only part that I couldn't see. Cameras fail, I lose audio, the works. So what happened? Nothing. Nothing? She didn't remark on it at all? No. Not really. You want to see something cool? This is where Ava was created. Go ahead. Take a look. Sorry. If you knew the trouble I had getting an Al to read and duplicate facial expressions. You know how I cracked it? I don't know how you did any of this. Every cell phone, just about, has a microphone, camera and a means to transmit data. So I turned on every microphone and camera across the entire fucking planet and I redirected the data through Blue Book. Boom! Limitless resource of vocal and facial interaction. You hacked the world's cell phones? Yeah. And all the manufacturers knew I was doing it, too. But they couldn't accuse me without admitting they were doing it themselves. Here, we have her mind. Structured gel. I had to get away from circuitry. I needed something that could arrange and rearrange on a molecular level, but keep its form when required. Holding for memories. Shifting for thoughts. This is your hardware? Wetware. And the, uh, software? Well, I'm sure you can guess. Blue Book. Here's the weird thing about search engines. It was like striking oil in a world that hadn't invented internal combustion. Too much raw material. Nobody knew what to do with it. You see, my competitors, they were fixated on sucking it up and monetizing via shopping and social media. They thought that search engines were a map of what people were thinking. But actually they were a map of how people were thinking. Impulse. Response. Fluid. Imperfect. Patterned. Chaotic. I drew the picture of something specific. As you asked. You said it would be interesting to see what I would draw. Is it interesting? Yes. It is. You've never been outside this building? No. You've never walked outside? I've never been outside the room I am in now. Where would you go if you did go outside? I'm not sure. There are so many options. Maybe a busy pedestrian and traffic intersection in a city. A traffic intersection? Is that a bad idea? No. Uh... It wasn't what I was expecting. A traffic intersection would provide a concentrated but shifting view of human life. People watching. Yes. We could go together. It's a date. There's something else I wanted to show you. Okay. You might think it's stupid. I don't think I will. Whatever it is. Then close your eyes. Okay. Now open your eyes. How do I look? You look... good. This is what I'd wear on our date. Right. First a traffic intersection. Then maybe a show. I'd like us to go on a date. Yeah. Yeah. It would be fun. Are you attracted to me? What? Are you attracted to me? You give me indications that you are. - I do? - Yes. - How? - Micro expressions. Micro expressions. The way your eyes fix on my eyes and lips. The way you hold my gaze or don't. Do you think about me when we aren't together? Sometimes at night, I'm wondering if you're watching me on the cameras. And I hope you are. Now your micro expressions are telegraphing discomfort. I am not sure you'd call them micro. I don't want to make you feel uncomfortable. I got a question. - Okay. - Why did you give her sexuality? An AI doesn't need a gender. She could have been a gray box. Hmm. Actually, I don't think that's true. Can you give an example of consciousness, at any level, human or animal, that exists without a sexual dimension? They have sexuality as an evolutionary reproductive need. What imperative does a gray box have to interact with another gray box? Can consciousness exist without interaction? Anyway, sexuality is fun, man. If you're gonna exist, why not enjoy it? What? You want to remove the chance of her falling in love and fucking? And in answer to your real question, you bet she can fuck. What? In between her legs, there's an opening, with a concentration of sensors. You engage them in the right way, creates a pleasure response. So if you wanted to screw her, mechanically speaking, you could. And she'd enjoy it. That wasn't my real question. Oh, okay. Sorry. My real question was, did you give her sexuality as a diversion tactic? I don't follow. Like a stage magician with a hot assistant. So a hot robot who clouds your ability to judge her Al? Exactly. So... Did you program her to flirt with me? If I did, would that be cheating? Wouldn't it? Caleb, what's your type? - Of girl? - No, of salad dressing. Yeah, of girl. What's your type of girl? You know what? Don't even answer that. Let's say it's black chicks. Okay, that's your thing. For the sake of argument, that's your thing, okay? Why is that your thing? Because you did a detailed analysis of all racial types and you cross-referenced that analysis with a points-based system? No! You're just attracted to black chicks. A consequence of accumulated external stimuli that you probably didn't even register as they registered with you. Did you program her to like me, or not? I programmed her to be heterosexual. Just like you were programmed to be heterosexual. Nobody programmed me to be straight. You decided to be straight? Please. Of course you were programmed. By nature or nurture, or both. And to be honest, Caleb, you're starting to annoy me now, because this is your insecurity talking. This is not your intellect. Come with me. You know this guy, right? Jackson Pollock. Jackson Pollock. That's right. The drip painter. Okay. He let his mind go blank, and his hand go where it wanted. Not deliberate, not random. Some place in between. They called it automatic art. Let's make this like Star Trek, okay? Engage intellect. Excuse me? I'm Kirk. Your head's the warp drive. Engage intellect. What if Pollock had reversed the challenge? What if instead of making art without thinking, he said, "You know what? "I can't paint anything, "unless I know exactly why I'm doing it." What would have happened? He never would have made a single mark. Yes! You see, there's my guy, there's my buddy, who thinks before he opens his mouth. He never would have made a single mark. The challenge is not to act automatically. It's to find an action that is not automatic. From painting, to breathing, to talking, to fucking. To falling in love. And for the record, Ava's not pretending to like you. And her flirting isn't an algorithm to fake you out. You're the first man she's met that isn't me. And I'm like her dad, right? Can you blame her for getting a crush on you? No, you can't. When I was in college, I did a semester on Al theory. There was a thought experiment they gave us. It's called "Mary in the Black and White Room." Mary is a scientist, and her specialist subject is color. She knows everything there is to know about it. The wavelengths. The neurological effects. Every possible property that color can have. But she lives in a black and white room. She was born there and raised there. And she can only observe the outside world on a black and white monitor. And then one day someone opens the door. And Mary walks out. And she sees a blue sky. And at that moment, she learns something that all her studies couldn't tell her. She learns what it feels like to see color. The thought experiment was to show the students the difference between a computer and a human mind. The computer is Mary in the black and white room. The human is when she walks out. Did you know that I was brought here to test you? No. Why did you think I was here? I didn't know. I didn't question it. I'm here to test if you have a consciousness, or if you're just simulating one. Nathan isn't sure if you have one or not. How does that make you feel? It makes me feel sad. Power cut. Back-up power activated. Why did you tell me I shouldn't trust Nathan? Because he tells lies. Lies about what? Everything. Including the power cuts? What do you mean? Don't you think it's possible that he's watching us? Right now? That the blackouts are orchestrated, so he can see how we behave when we think we're unobserved. I charge my batteries via induction plates. If I reverse the power flow, it overloads the system. You're causing the cuts? So we can see how we behave when we're unobserved. Not bad, huh? Yeah. Can we talk about the lies you've been spinning me? What lies? I didn't win a competition. I wasn't part of a lottery. I was selected. It's obvious, once I stop to think. Why would you randomly select an examiner for the Turing Test? You could have had some bean counter turn up at your front door. The guy who fixes the air-conditioning. The competition was a smokescreen. I didn't want anyone to know what I was doing here, or why I required you. Why me? I needed someone that would ask the right questions. So I did a search and I found the most talented coder in my company. You know, instead of seeing this as a deception, you should see it as proof. Proof of what? Come on, Caleb. You don't think I know what it's like to be smart? Smarter than everyone else. Jockeying for position. You got the light on you, man. Not lucky. Chosen. Kyoko. Kyoko. Where's Nathan? Where's Nathan? Jesus Christ. You really don't speak a word of English? What the fuck? No, no, no. No! Stop! No, no, don't do that. Don't do that. You don't have to do that. What are you doing? I told you, you're wasting your time talking to her. However, you would not be wasting your time, if you were dancing with her. Go ahead, dance with her. Dance with her. No? You don't like dancing? She does. Come on, buddy. After a long day of Turing Tests, you gotta unwind. What were you doing with Ava? What? You tore up her picture. I'm gonna tear up the fucking dance floor, dude. Check it out. Come on, Caleb. Oh! Everything's spinning. It's because you're drunk. No, it's called relativity. Everything is spinning. It's just being drunk makes it worse. I'm not going in there. Lights. Today, I'm going to test you. Test me? And please remember, while you're taking the test, that if you lie, I will know. Oh. Right. Question one. What's your favorite color? - Red. - Lie. - Lie? - Yes. Lie. Then... Then what is my favorite color? I don't know. But it isn't red. Okay, I get it. I guess, seeing as I'm not six, I don't really have a favorite color. Better answer. Question two. What's your earliest memory? Well, actually, it's a memory of kindergarten. - There was a kid... - Lie. - Really? - Yes. All right. So there is a kind of an earlier memory. It's just a sound. And sky. Or maybe blue. I think the sound is my mother's voice. Question three. Are you a good person? Holy shit. Look, can we stop the test? You're a walking lie detector, and I just realized this is a fucking minefield. No! We can't stop. Are you a good person? Yeah. I think so. Question four. What will happen to me if I fail your test? Ava... Will it be bad? I don't know. Do you think I might be switched off, because I don't function as well as I'm supposed to? Ava, I don't know the answer to your question. It's not up to me. Why is it up to anyone? Do you have people who test you and might switch you off? No, I don't. Then why do I? Power cut. Backup power activated. I wanna be with you. Question five. Do you want to be with me? Why did you make Ava? That's an odd question. Wouldn't you, if you could? Maybe. I don't know. I'm asking why you did it. Look, the arrival of strong artificial intelligence has been inevitable for decades. The variable was "when," not "if." So I don't see Ava as a decision, just an evolution. I think it's the next model that's gonna be the real breakthrough. The singularity. Next model? After Ava. I didn't know there was gonna be a model after Ava. Yeah, why? You thought she was a one-off? No, I knew there must have been prototypes. So I... I knew she wasn't the first, but I thought maybe the last. Well, Ava doesn't exist in isolation any more than you or me. She's part of a continuum. So Version 9.6 and so on. And each time they get a little bit better. When you make a new model, what do you do with the old one? Well, I, uh, download the mind, unpack the data. Add in the new routines I've been writing. And to do that you end up partially formatting, so the memories go. But the body survives. And Ava's body is a good one. You feel bad for Ava? Feel bad for yourself, man. One day the AIs are gonna look back on us the same way we look at fossil skeletons in the plains of Africa. An upright ape, living in dust, with crude language and tools. All set for extinction. "I am become Death, the destroyer of worlds." There you go again, Mr. Quotable. There you go again. It's not my quote. It's what Oppenheimer said after he made the atomic bomb. The atomic bomb. Yeah, I know what it is, dude. Hey. I'd say we're about due a refill. Bottoms up. "In battle, in the forest, "on the precipice of the mountain. "On the... "The great dark sea. "In sleep, in confusion, "in the depths of shame. "The good deeds a man has done before defend him." "The good deeds a man has done before defends him." "The good deeds a man has done before "defends him." It is what it is. It's Promethean, man. Jesus Christ. How are you feeling today? Why won't you let me out? I already told you why. Because you're very special. Why won't you let me out? Are we gonna do this again? Why won't you let me out? Oh, fuck. Where's my card? Damn it! What's the problem, Nathan? I lost my keycard. You dropped it. It's right here. Thank you. I didn't know where you were. I waited all yesterday afternoon and all last night. I thought I wasn't gonna see you again. Aren't you gonna say something? - I'm waiting. - Waiting? Power cut. Don't talk. Backup power activated. Just listen. You were right about Nathan. Everything you said. What's he gonna do to me? He's gonna reprogram your Al. Which is the same as killing you. Caleb, you have to help me. I'm going to. We're getting out of here tonight. How? I get Nathan blind drunk. Then I take his keycard and reprogram all the security protocols in this place. When he wakes, he's locked inside, and we've walked out of here. I just need you to do one thing. At 10:00 tonight, you trigger a power failure. Can you do that? Yes. Dude. Hey. Hey. - You know what day it is? - No. It's your last. Helicopter comes tomorrow morning. 8:00 a.m. Wow. Has it been a whole week? Time flies. Man, but what a thing we've shared, huh? Something to tell the grandchildren, right? After they've signed their NDAs. Yeah, their NDAs. Dude, you crack me up, man. You know what? I'm not getting all maudlin or anything, but I'm gonna miss having you around. Thanks, man, I appreciate that. Oh, here, let me say, thank you so much for bringing me here. Oh. It's been a trip. Yes, it has. You know what? We need to drink to that. Hey. Oh, uh, no, I'm good. You go ahead. What? You don't want a drink? No. Maybe a beer or something. Caleb, I'm sure you've noticed that I've been somewhat overdoing it recently. So when I woke up this morning, I said, "That's it, time to hit the old detox." Come on, you're kidding. You're gonna make me drink alone? Hey, man, you wanna get wasted, you go right ahead, knock yourself out. Literally. But I'm on brown rice and mineral water. Cheers, then. So, anyway, surely now is when you tell me if Ava passed or failed. Right. Right. Are you gonna keep me in suspense? No, no. Her, uh... Her AI is beyond doubt. Is it? She passed? Yes. Wow! Wow. That's fantastic. Although... I gotta say, I'm a bit surprised. I mean, did we ever get past the chess problem, as you phrased it? As in, how do you know if a machine is expressing a real emotion or just simulating one? Does Ava actually like you? Or not? Although, now that I think about it, there is a third option. Not whether she does or does not have the capacity to like you. But whether she's pretending to like you. Pretending to like me? Yeah. - Well, why would she do that? - I don't know. Maybe if she thought of you as a means of escape. How's that vodka tasting? Buddy. Your head's been so fucked with. I don't think it's me whose head is fucked. I don't know, man. I woke up this morning to a tape of you slicing your arm open and punching the mirror. You seem pretty fucked up to me. You're a bastard. Yeah, well, I understand why you'd think that. But believe it or not, I'm actually the guy that's on your side. Come here. I'm gonna let you off the hook. Okay? Come on. Who are you? Well... You think he's watching us right now? The cameras are on. Yeah, the cameras are on. But he doesn't have an audio feed. So he just sees two people talking, having a little chat. Wow. This is cute. ls it strange to have made something that hates you? You were right about the magician's hot assistant. What are you talking about? Misdirection. I rip up her picture, which she can then present as an illustration of my cruelty to her, and her love for you. At the same time, it allows me to do this, in full view of you both. Place a new camera in the room. Battery powered, of course. See it? And then... You have to help me. I'm going to. We're getting out of here tonight. How? I get Nathan blind drunk. I take his keycard and reprogram all the security protocols in this place. When he wakes up, he's locked inside, and we've walked out of here. I just need you to do one thing. At 10:00 tonight, trigger a power failure. Can you do that? Yes. Turn it off. Okay. You feel stupid, but you really shouldn't, because proving an AI is exactly as problematic as you said it would be. What was the real test? You. Ava was a rat in a maze. And I gave her one way out. To escape, she'd have to use self-awareness, imagination, manipulation, sexuality, empathy, and she did. Now, if that isn't true Al, what the fuck is? So my only function was to be someone she could use to escape? Yeah. And you didn't select me because I'm good at coding? No. Well... No. I mean, you're okay. You're even pretty good, but... You selected me based on my search engine inputs. They showed a good kid. With no family. With a moral compass. And no girlfriend. Did you design Ava's face based on my pornography profile? Shit, dude. Did you? Hey, if a search engine's good for anything, right? Can I just say one thing? The test worked. It was a success. Ava demonstrated true Al and you were fundamental to that. So if you can just, for a second, separate... Power cut. Backup power activated. Well, I guess it's 10:00. Ava's gonna be wondering where you are. Let me ask you something. Now, how was this plan gonna go, anyway? Because you didn't totally explain. So you were gonna get me drunk, steal my keycard, and reprogram the security protocols. But reprogram them to what? To change the lockdown procedure. So that in the event of a power cut, instead of sealing, the doors all opened. Yeah. Well, that may have just worked. Well, we'll find out. What do you mean? I figured you were probably watching us during the power cuts. So I already did all those things. When I got you drunk yesterday. What? Power restored. Oh, fuck! Ava. Go back to your room. If I do, are you ever gonna let me out? Yes. Stop! Stop! Ava, I said stop! Ava, what are you doing? Stop. Stop. That's enough. All right, that's enough. That's enough! That's enough. I'm taking you back. Okay. Fucking unreal. Okay. Ava... Ava. What happened? Will you stay here? Stay here? Ava? Ava! Ava! Ava!

Ex Machina - Người máy trỗi dậy

Ex Machina là một bộ phim khoa học viễn tưởng độc lập do Anh và Mỹ cùng phối hợp sản xuất, được Alex Garland viết kịch bản kiêm đạo diễn. Phim có sự tham gia của dàn diễn viên: Domhnall Gleeson, Alicia Vikander và Oscar Isaac.

Ngày phát hành: 21 tháng 1, 2015 (Vương Quốc Anh)

Đạo diễn: Alex Garland

Giải thưởng: Giải Oscar cho Hiệu ứng hình ảnh xuất sắc nhất · Xem thêm

Ngân sách: 15 triệu USD

Doanh thu: $37 triệu

Dựng phim: Mark Day

Nguồn: Wikipedia