Tại sao “Bố già” của AI lại lo sợ những gì ông ấy đã xây dựng?

The human brain is a complex network of neurons that constantly change and adapt with every action and thought. These networks, consisting of billions of neurons and trillions of connections, shape our knowledge and learning experiences. Geoffrey Hinton, a renowned computer scientist, has dedicated his career to studying neural networks and their potential for artificial intelligence (A.I.). Despite initial skepticism, Hinton persisted in his research and witnessed a significant improvement in neural-net technology in the past decade. Reflecting on the future of A.I., Hinton acknowledges the uncertainties and complexities involved. As Hinton and the author embark on a boat trip, contemplating the implications of A.I., they consider various perspectives – from the displacement of human exceptionalism to the risks and limitations of relying on machines. Ultimately, they contemplate the pursuit of knowledge and the consequences it may bring.

Trong não của bạn, các tế bào thần kinh được sắp xếp thành mạng lưới lớn và nhỏ. Với mọi hành động, mọi suy nghĩ, mạng lưới sẽ thay đổi: các nơ-ron được thêm vào hoặc bị loại trừ, và các kết nối giữa chúng mạnh lên hoặc mờ đi. Quá trình này diễn ra liên tục—nó đang diễn ra ngay bây giờ, khi bạn đọc những dòng chữ này—và quy mô của nó vượt quá sức tưởng tượng. Bạn có khoảng 80 tỷ tế bào thần kinh chia sẻ một trăm nghìn tỷ kết nối trở lên. Hộp sọ của bạn chứa đựng các chòm sao có giá trị trong thiên hà, luôn thay đổi.

Geoffrey Hinton, nhà khoa học máy tính thường được gọi là “cha đỡ đầu của AI”, đưa cho tôi một chiếc gậy chống. “Anh sẽ cần một trong những thứ này,” anh nói. Sau đó, anh đi dọc theo con đường xuyên rừng để đến bờ biển. Nó băng qua một khoảng đất trống rợp bóng mát, băng qua hai nhà kho, rồi đi xuống những bậc đá dẫn đến một bến tàu nhỏ. “Ở đây trơn trượt,” Hinton cảnh báo khi chúng tôi bắt đầu đi xuống.

Kiến thức mới tự tích hợp vào mạng lưới hiện có của bạn dưới dạng những điều chỉnh tinh tế. Đôi khi chúng chỉ là tạm thời: nếu bạn gặp một người lạ tại một bữa tiệc, tên của anh ta có thể chỉ gây ấn tượng trong thời gian ngắn trên mạng lưới trong trí nhớ của bạn. Nhưng chúng cũng có thể tồn tại suốt đời, nếu người lạ đó trở thành vợ/chồng của bạn. Bởi vì kiến thức mới kết hợp với kiến thức cũ nên những gì bạn biết sẽ định hình những gì bạn học. Nếu ai đó trong bữa tiệc kể cho bạn nghe về chuyến đi tới Amsterdam thì ngày hôm sau, tại một viện bảo tàng, mạng lưới quan hệ của bạn có thể đưa bạn đến gần hơn một chút với Vermeer. Bằng cách này, những thay đổi nhỏ sẽ tạo ra khả năng biến đổi sâu sắc.

“Chúng tôi đã đốt lửa trại ở đây,” Hinton nói. Chúng tôi đang ở trên một mỏm đá nhô ra Vịnh Georgian của Ontario, vịnh này kéo dài về phía tây tới Hồ Huron. Quần đảo rải rác trên mặt nước; Hinton đã mua công ty này vào năm 2013, khi ông 65 tuổi, sau khi bán công ty khởi nghiệp gồm ba người cho Google với giá 44 triệu đô la. Trước đó, ông đã có ba thập kỷ làm giáo sư khoa học máy tính tại Đại học Toronto – một nhân vật hàng đầu trong một lĩnh vực con không mấy hấp dẫn được gọi là mạng lưới thần kinh, được lấy cảm hứng từ cách các tế bào thần kinh được kết nối trong não. Bởi vì mạng lưới thần kinh nhân tạo chỉ thành công ở mức độ vừa phải trong các nhiệm vụ mà chúng đảm nhận – phân loại hình ảnh, nhận dạng giọng nói, v.v. – nên hầu hết các nhà nghiên cứu đều coi chúng là thú vị ở mức độ vừa phải hoặc tệ nhất là lãng phí thời gian. Hinton nhớ lại: “Mạng lưới thần kinh của chúng ta không thể làm được điều gì tốt hơn một đứa trẻ”. Vào những năm 1980, khi xem Kẻ hủy diệt, ông không hề bận tâm rằng Skynet, AI hủy diệt thế giới trong phim, là một mạng lưới thần kinh; ông rất vui khi thấy công nghệ được miêu tả là đầy hứa hẹn.

Từ chỗ lõm nhỏ nơi từng có ngọn lửa, những vết nứt trên đá do nhiệt tạo ra, tỏa ra bên ngoài. Hinton, một người cao, mảnh khảnh và là người Anh, dùng cây gậy chọc vào chỗ đó. Là một nhà khoa học xuyên suốt, ông luôn nhận xét về những gì đang xảy ra trong thế giới vật chất: cuộc sống của các loài động vật, dòng chảy trong vịnh, địa chất của hòn đảo. “Tôi đặt một tấm lưới cốt thép bên dưới lớp gỗ để không khí có thể lọt vào và nó nóng đến mức kim loại thực sự mềm ra,” anh nói với giọng thắc mắc. “Đó là một ngọn lửa thực sự—một điều đáng tự hào!”

Trong nhiều thập kỷ, Hinton đã mày mò xây dựng các mạng lưới thần kinh lớn hơn được cấu trúc theo những cách khéo léo. Ông tưởng tượng ra những phương pháp mới để huấn luyện họ và giúp họ tiến bộ. Ông tuyển dụng các nghiên cứu sinh, thuyết phục họ rằng mạng lưới thần kinh không phải là một nguyên nhân thất bại. Ông nghĩ mình đang tham gia vào một dự án có thể thành hiện thực vào một thế kỷ sau, sau khi ông qua đời. Trong khi đó, anh thấy mình góa bụa và một mình nuôi hai đứa con nhỏ. Trong một giai đoạn đặc biệt khó khăn, khi nhu cầu của cuộc sống gia đình và nghiên cứu đè nặng lên anh, anh nghĩ rằng mình đã đóng góp tất cả những gì có thể. “Tôi đã chết dưới nước ở tuổi 46,” anh nói. Ông đã không lường trước được tốc độ mà khoảng một thập kỷ trước, công nghệ mạng lưới thần kinh sẽ đột ngột được cải thiện. Máy tính ngày càng nhanh hơn và mạng lưới thần kinh, dựa trên dữ liệu có sẵn trên Internet, bắt đầu phiên âm lời nói, chơi trò chơi, dịch ngôn ngữ, thậm chí lái xe ô tô. Vào khoảng thời gian công ty của Hinton được mua lại, sự bùng nổ AI bắt đầu, dẫn đến việc tạo ra các hệ thống như ChatGPT của OpenAI và Bard của Google, mà nhiều người tin rằng đang bắt đầu thay đổi thế giới theo những cách không thể đoán trước.

Hinton khởi hành dọc theo bờ biển, tôi đi theo sau, tảng đá nứt nẻ dịch chuyển bên dưới tôi. “Bây giờ hãy xem cái này,” anh nói. Anh ta đứng trước một tảng đá to bằng người, chặn đường chúng tôi. “Đây là cách bạn vượt qua. Cậu ném cây gậy của mình đi” – anh ta ném cây gậy của mình sang phía bên kia của tảng đá – “và sau đó có chỗ đứng ở đây và ở đây, và có tay vịn ở đây.” Tôi quan sát anh ấy bò tới một cách dễ dàng, và sau đó, ngập ngừng hơn, tôi cũng tự mình thực hiện những bước tương tự.

Bất cứ khi nào chúng ta học, mạng lưới nơ-ron của chúng ta sẽ thay đổi – nhưng chính xác thì bằng cách nào? Các nhà nghiên cứu như Hinton, làm việc với máy tính, đã tìm cách khám phá “thuật toán học tập” cho mạng lưới thần kinh, các quy trình mà qua đó “trọng số” thống kê của các kết nối giữa các nơ-ron nhân tạo có thể thay đổi để tiếp thu kiến thức mới. Năm 1949, nhà tâm lý học tên Donald Hebb đã đề xuất một quy tắc đơn giản về cách con người học tập, thường được tóm tắt là “Các tế bào thần kinh hoạt động cùng nhau sẽ kết nối với nhau”. Khi một nhóm tế bào thần kinh trong não của bạn kích hoạt đồng bộ, nhiều khả năng nó sẽ hoạt động trở lại; điều này giúp giải thích tại sao việc thực hiện điều gì đó lại dễ dàng hơn ở lần thứ hai. Nhưng rõ ràng là mạng lưới thần kinh được vi tính hóa cần một cách tiếp cận khác để giải quyết các vấn đề phức tạp. Là một nhà nghiên cứu trẻ, vào những năm 1960 và 70, Hinton đã vẽ mạng lưới nơ-ron vào sổ tay và tưởng tượng ra những kiến thức mới sẽ đến được biên giới của chúng. Làm thế nào một mạng lưới gồm vài trăm nơ-ron nhân tạo có thể lưu trữ một khái niệm? Làm thế nào nó có thể sửa đổi khái niệm đó nếu nó trở thành sai sót?

Chúng tôi đi vòng quanh bờ biển để tới ngôi nhà của Hinton, ngôi nhà duy nhất trên đảo. Được bao quanh bằng kính, nó đứng trên những cây cột trên một cầu thang bằng đá rộng, tối màu. “Có lần, chúng tôi ra đây và thấy một con rắn nước khổng lồ ngóc đầu lên,” Hinton kể khi chúng tôi đến gần ngôi nhà. Đó là một kỷ niệm đẹp. Cha anh, một nhà côn trùng học nổi tiếng, người đã đặt tên cho một giai đoạn biến thái ít được biết đến, đã truyền cho anh tình cảm dành cho những sinh vật máu lạnh. Khi còn nhỏ, ông và bố nuôi một cái hố đầy rắn lục, rùa, ếch, cóc và thằn lằn trong gara. Ngày nay, khi Hinton ở trên đảo – anh ấy thường ở đó vào những tháng ấm áp hơn – đôi khi anh ấy tìm thấy rắn và mang chúng vào nhà để có thể ngắm chúng trong một hồ thủy sinh. Anh ấy là một người quan sát giỏi về những bộ óc phi nhân loại, đã dành cả đời để suy nghĩ về việc suy nghĩ từ đầu đến cuối.

Đầu năm nay, Hinton rời Google, nơi anh đã làm việc kể từ khi mua lại. Ông lo lắng về khả năng gây hại của AI và bắt đầu trả lời các cuộc phỏng vấn trong đó ông nói về “mối đe dọa hiện hữu” mà công nghệ này có thể gây ra cho loài người. Càng sử dụng ChatGPT, một hệ thống AI được đào tạo dựa trên kho văn bản khổng lồ của con người, anh ấy càng cảm thấy khó chịu hơn. Một ngày nọ, có người từ Fox News viết thư cho anh yêu cầu phỏng vấn về trí tuệ nhân tạo. Hinton thích gửi những câu trả lời ngắn gọn cho các e-mail—sau khi nhận được một bức thư dài từ cơ quan tình báo Canada, anh ấy trả lời, “Snowden là anh hùng của tôi”—và anh ấy bắt đầu thử nghiệm một vài câu nói ngắn gọn. Cuối cùng, anh ấy viết, “Fox News là một kẻ ngu ngốc.” Sau đó, trong lúc vui vẻ, anh ấy hỏi ChatGPT liệu nó có thể giải thích được trò đùa của anh ấy không. Hệ thống cho anh biết câu nói của anh ngụ ý rằng Fox News là tin giả và khi anh kêu gọi sự chú ý đến khoảng trống trước “đồ ngu”, nó giải thích rằng Fox News gây nghiện, giống như ma túy OxyContin. Hinton rất ngạc nhiên. Mức độ hiểu biết này dường như đại diện cho một kỷ nguyên mới trong AI

Có nhiều lý do để lo ngại về sự ra đời của trí tuệ nhân tạo. Chẳng hạn, việc lo lắng về việc con người sẽ bị thay thế bởi máy tính là điều bình thường. Nhưng Hinton đã cùng với nhiều nhà công nghệ nổi tiếng, bao gồm Sam Altman, Giám đốc điều hành của OpenAI, cảnh báo rằng các hệ thống AI có thể bắt đầu tự suy nghĩ và thậm chí tìm cách tiếp quản hoặc loại bỏ nền văn minh nhân loại. Thật ấn tượng khi nghe một trong những nhà nghiên cứu nổi bật nhất của AI lên tiếng về quan điểm đáng báo động như vậy.

“Mọi người nói, đó chỉ là tính năng tự động hoàn thành được tôn vinh,” anh ấy nói với tôi khi đứng trong bếp. (Anh ấy đã bị đau lưng trong phần lớn cuộc đời mình; căn bệnh dần trở nên nghiêm trọng đến mức anh ấy đã bỏ việc ngồi. Anh ấy đã không ngồi xuống quá một giờ kể từ năm 2005.) “Bây giờ, hãy phân tích điều đó. Giả sử bạn muốn thật giỏi trong việc dự đoán từ tiếp theo. Nếu bạn muốn thực sự giỏi, bạn phải hiểu những gì đang được nói. Đó là cách duy nhất. Vì vậy, bằng cách huấn luyện một thứ gì đó trở nên thực sự giỏi trong việc dự đoán từ tiếp theo, bạn thực sự đang buộc nó phải hiểu. Đúng, đó là ‘tự động hoàn thành’—nhưng bạn chưa nghĩ kỹ ý nghĩa của việc có một bản tự động hoàn thành thực sự tốt.” Hinton cho rằng “các mô hình ngôn ngữ lớn”, chẳng hạn như GPT, hỗ trợ các chatbot của OpenAI, có thể hiểu được ý nghĩa của từ ngữ và ý tưởng.

Những người hoài nghi nói rằng chúng ta đánh giá quá cao sức mạnh của AI chỉ ra rằng tâm trí con người có rất nhiều sự khác biệt với mạng lưới thần kinh. Có một điều, mạng lưới thần kinh không học theo cách chúng ta làm: chúng ta tiếp thu kiến thức một cách tự nhiên, bằng cách có kinh nghiệm và nắm bắt mối quan hệ của chúng với thực tế và bản thân chúng ta, trong khi chúng học một cách trừu tượng, bằng cách xử lý kho thông tin khổng lồ về một thế giới mà chúng không có’ t thực sự sống. Nhưng Hinton lập luận rằng trí thông minh do hệ thống AI thể hiện vượt xa nguồn gốc nhân tạo của nó.

Anh ấy nói với tôi: “Khi bạn ăn, bạn nạp thức ăn vào và chia nhỏ nó thành những thành phần nhỏ bé. “Vì vậy, bạn có thể nói rằng các bộ phận trong cơ thể tôi được làm từ các bộ phận của động vật khác. Nhưng điều đó sẽ rất dễ gây hiểu nhầm.” Ông tin rằng, bằng cách phân tích chữ viết của con người, một mô hình ngôn ngữ lớn như GPT sẽ tìm hiểu cách thế giới vận hành, tạo ra một hệ thống có khả năng suy nghĩ; viết chỉ là một phần của những gì hệ thống đó có thể làm. “Nó tương tự như cách một con sâu bướm biến thành một con bướm,” anh tiếp tục. “Trong bông cúc, bạn biến con sâu bướm thành món súp – và từ món súp này bạn tạo nên con bướm.”

Anh ta bắt đầu lục lọi trong một chiếc tủ nhỏ ngay gần bếp. “À há!” anh ấy nói. Với một động tác hoa mỹ, anh ta đặt một vật lên quầy – một con chuồn chuồn đã chết. Nó đã được bảo quản hoàn hảo. “Tôi tìm thấy cái này ở bến du thuyền,” anh giải thích. “Nó vừa mới nở trên một tảng đá và đang phơi cánh nên tôi đã bắt được. Hãy nhìn bên dưới.” Hinton đã bắt được con chuồn chuồn ngay sau khi nó thoát khỏi hình dạng ấu trùng. Ấu trùng là một loài côn trùng có hình dáng khá khác biệt, có mắt và chân; lưng nó có một cái lỗ để chuồn chuồn chui qua.

Hinton nói: “Ấu trùng của chuồn chuồn là loài quái vật sống dưới nước. “Và, giống như trong bộ phim ‘Người ngoài hành tinh’, con chuồn chuồn lao ra khỏi lưng con quái vật. Ấu trùng bước vào giai đoạn biến thành súp và sau đó một con chuồn chuồn được tạo ra từ súp.” Trong phép ẩn dụ của ông, ấu trùng đại diện cho dữ liệu được sử dụng để huấn luyện mạng lưới thần kinh hiện đại; con chuồn chuồn tượng trưng cho AI nhanh nhẹn được tạo ra từ nó. Học sâu – công nghệ mà Hinton giúp đi tiên phong – đã gây ra sự biến đổi. Tôi cúi xuống gần hơn để nhìn rõ hơn; Hinton đứng thẳng, như hầu như mọi khi, cẩn thận giữ nguyên tư thế của mình. “Nó rất đẹp,” anh nói nhẹ nhàng. “Và bạn hiểu rõ vấn đề. Nó bắt đầu như một thứ, và nó trở thành một thứ khác.”

Vài tuần trước, khi Hinton mời tôi đến thăm hòn đảo của anh ấy, tôi đã tưởng tượng ra những tình huống có thể xảy ra. Có lẽ anh ta sẽ là một người hướng nội muốn sự cô độc, hoặc một ông trùm công nghệ với phức hợp Chúa và tổ hợp tương lai. Vài ngày trước khi tôi đến, anh ấy gửi email cho tôi một bức ảnh anh ấy chụp một con rắn đuôi chuông cuộn tròn trên bãi cỏ trên đảo. Tôi không chắc mình cảm thấy vui mừng hay sợ hãi.

Trên thực tế, so với các hòn đảo tư nhân, diện tích của Hinton khá khiêm tốn – tổng cộng là hai mẫu Anh. Bản thân Hinton là người đối lập với một đấng cứu thế công nghệ ở Thung lũng Silicon. Năm nay đã 75 tuổi, ông có khuôn mặt người Anh giống trong tranh của Joshua Reynolds, với mái tóc trắng bao quanh vầng trán rộng; Đôi mắt xanh thường điềm tĩnh, há miệng để biểu lộ cảm xúc. Là một người có lối nói chuyện sắc sảo, anh ấy thích nói về bản thân mình—“ ‘Geoff’ là cách đảo chữ của ‘ego fortissimo’,” anh ấy nói với tôi—nhưng anh ấy không phải là người tự cao tự đại; cuộc sống của anh ấy đã quá đau buồn vì điều đó. “Có lẽ tôi nên kể cho bạn nghe về những người vợ của tôi,” anh nói trong lần đầu tiên chúng tôi nói chuyện. “Tôi đã có ba cuộc hôn nhân. Một kết thúc trong êm đẹp, hai kết thúc trong bi kịch.” Anh ấy vẫn thân thiện với Joanne, người vợ đầu tiên của anh ấy, người mà anh ấy kết hôn sớm, nhưng người vợ thứ hai và thứ ba của anh ấy, Rosalind và Jackie, đều lần lượt qua đời vì bệnh ung thư vào năm 1994 và 2018. Trong bốn năm qua, Hinton đã làm việc cùng Rosemary Gartner, một nhà xã hội học đã nghỉ hưu. “Tôi nghĩ anh ấy là kiểu người luôn cần có bạn đời,” cô nói với tôi một cách dịu dàng. Anh ấy là một người theo chủ nghĩa duy lý lãng mạn, có khả năng cân bằng giữa khoa học và cảm xúc. Trong ngôi nhà nhỏ, một chiếc ca nô màu đỏ tía nằm trong một căn phòng lớn duy nhất chiếm phần lớn diện tích tầng trệt; anh và Jackie đã tìm thấy nó trong khu rừng trên đảo, trong tình trạng hư hỏng, và Jackie, một nhà sử học nghệ thuật, đã làm việc với một số phụ nữ đóng ca nô để xây dựng lại nó trong những năm trùng với thời điểm cô bị bệnh. “Cô ấy đã có chuyến đi đầu tiên,” Hinton nói. Không ai sử dụng nó kể từ đó.

Anh ta cất con chuồn chuồn lại, rồi bước tới một chiếc bàn đứng nhỏ, nơi có một chiếc máy tính xách tay đặt cạnh một chồng câu đố sudoku và một cuốn sổ chứa mật khẩu máy tính. (Anh ấy hiếm khi sử dụng sổ ghi chép, vì đã nghĩ ra một hệ thống ghi nhớ cho phép anh ấy tạo ra và ghi nhớ những mật khẩu rất dài trong đầu.) “Chúng ta làm cây phả hệ nhé?” anh ấy hỏi. Sử dụng hai ngón tay—anh ấy không gõ phím—anh ấy nhập “cây gia phả Geoffrey Hinton” và nhấn Return. Khi Google mua lại công ty khởi nghiệp của Hinton vào năm 2013, họ làm như vậy một phần vì nhóm đã tìm ra cách cải thiện đáng kể khả năng nhận dạng hình ảnh bằng cách sử dụng mạng lưới thần kinh; bây giờ cây gia đình vô tận tràn ngập màn hình.

Hinton xuất thân từ một gia đình khoa học người Anh đặc biệt: cấp tiến về mặt chính trị, không ngừng sáng tạo. Phía trên anh trong cây gia phả là ông chú Sebastian Hinton, người phát minh ra phòng tập thể dục trong rừng, và anh họ Joan Hinton, người từng là nhà vật lý trong Dự án Manhattan. Xa hơn, trước anh là Lucy Everest, người phụ nữ đầu tiên trở thành thành viên được bầu của Viện Hóa học Hoàng gia; Charles Howard Hinton, nhà toán học đã tạo ra khái niệm về khối Tesseract, cánh cửa dẫn vào chiều thứ tư (một chiều xuất hiện trong phim “Interstellar”); và James Hinton, một bác sĩ phẫu thuật tai đột phá và là người ủng hộ chế độ đa thê. (“Chúa Kitô là vị cứu tinh của đàn ông, nhưng tôi là vị cứu tinh của phụ nữ,” người ta cho rằng ông đã nhận xét như vậy.) Vào giữa thế kỷ 19, ông cố của Hinton, nhà toán học người Anh George Boole, đã phát triển định lý hệ thống suy luận nhị phân, ngày nay được gọi là đại số Boolean, là nền tảng cho mọi máy tính. Boole đã kết hôn với Mary Everest, một nhà toán học, tác giả và là cháu gái của George Everest, nhà khảo sát được đặt tên cho đỉnh Everest.

Yann LeCun, cựu sinh viên và cộng tác viên của Hinton, hiện đang điều hành AI tại Meta, nói với tôi: “Geoff sinh ra trong lĩnh vực khoa học. Tuy nhiên, gia đình của Hinton còn kỳ quặc hơn thế. Cha của anh, Howard Everest Hinton, lớn lên ở Mexico trong Cách mạng Mexico, vào những năm 1910, trên một mỏ bạc do cha anh quản lý. “Ông ấy rất cứng rắn,” Hinton nói về bố mình: truyền thuyết gia đình cho rằng, ở tuổi 12, Howard đã dọa bắn huấn luyện viên quyền anh của mình vì quá nặng tay, và huấn luyện viên đã coi ông đủ nghiêm túc để rời thị trấn. Ngôn ngữ đầu tiên của Howard là tiếng Tây Ban Nha, và tại Berkeley, nơi anh theo học đại học, anh bị chế giễu vì giọng nói của mình. Hinton nói: “Anh ấy đi chơi với một nhóm người Philippines, những người cũng bị phân biệt đối xử và anh ấy trở thành một người cực đoan ở Berkeley”. Nền chính trị trưởng thành của Howard không chỉ theo chủ nghĩa Mác mà còn theo chủ nghĩa Stalin: vào năm 1968, khi xe tăng Liên Xô tiến vào Praha, ông nói, “Đã đến lúc rồi!”

Ở trường, Hinton thiên về khoa học. Nhưng vì lý do tư tưởng, cha anh đã cấm anh học sinh học; theo quan điểm của Howard, khả năng của thuyết quyết định di truyền trái ngược với niềm tin của Cộng sản về khả năng uốn dẻo tối thượng của bản chất con người. (“Tôi ghét mọi loại tín ngưỡng,” Hinton nói khi nhớ lại thời kỳ này.) Howard, người giảng dạy tại Đại học Bristol, là một nhà côn trùng học kiểu Indiana Jones: ông ta đã buôn lậu những sinh vật quý hiếm từ khắp nơi trên thế giới về Anh trong hành lý của mình và biên tập một tạp chí quan trọng trong lĩnh vực của mình. Hinton, tên đệm cũng là Everest, cảm thấy áp lực rất lớn khi phải tạo dấu ấn cho riêng mình. Anh nhớ lại cha mình đã nói với anh rằng: “Nếu con làm việc chăm chỉ gấp đôi bố, thì khi con già gấp đôi bố, con có thể giỏi bằng một nửa”.

Tại Cambridge, Hinton thử sức ở nhiều lĩnh vực khác nhau nhưng thất vọng khi nhận ra rằng mình chưa bao giờ là học sinh thông minh nhất trong bất kỳ lớp học nào. Anh rời trường đại học một thời gian ngắn để “đọc những cuốn tiểu thuyết buồn” và làm những công việc lặt vặt ở London, sau đó quay lại thử sức với ngành kiến trúc trong khoảng một ngày. Cuối cùng, sau khi nghiên cứu vật lý, hóa học, sinh lý học và triết học để tìm kiếm trọng tâm, anh quyết định lấy bằng tâm lý học thực nghiệm. Anh ta ám ảnh những giờ làm việc của nhà triết học đạo đức Bernard Williams, người hóa ra lại quan tâm đến máy tính và trí óc. Một ngày nọ, Williams chỉ ra rằng những suy nghĩ khác nhau của chúng ta phải phản ánh sự sắp xếp vật lý khác nhau bên trong bộ não của chúng ta; điều này hoàn toàn không giống với tình huống bên trong máy tính, trong đó phần mềm độc lập với phần cứng. Hinton bị ấn tượng bởi nhận xét này; anh nhớ lại, ở trường trung học, một người bạn đã nói với anh rằng ký ức có thể được lưu trữ trong não “theo phương pháp ba chiều” – nghĩa là trải rộng ra, nhưng theo cách mà tổng thể có thể được truy cập thông qua bất kỳ bộ phận nào. Những gì anh đang gặp phải là “chủ nghĩa kết nối” – một cách tiếp cận kết hợp khoa học thần kinh, toán học, triết học và lập trình để khám phá cách các tế bào thần kinh có thể làm việc cùng nhau để “suy nghĩ”. Một mục tiêu của chủ nghĩa kết nối là tạo ra một hệ thống giống như bộ não trong máy tính. Đã có một số tiến bộ: Perceptron, một cỗ máy được chế tạo vào những năm 1950 bởi nhà tâm lý học và nhà kết nối tiên phong tên là Frank Rosenblatt, đã sử dụng phần cứng máy tính đơn giản để mô phỏng một mạng lưới hàng trăm tế bào thần kinh. Khi được kết nối với cảm biến ánh sáng, thiết bị có thể nhận dạng các chữ cái và hình dạng bằng cách theo dõi tế bào thần kinh nhân tạo nào được kích hoạt bởi các kiểu ánh sáng khác nhau.

Trong ngôi nhà nhỏ, Hinton đứng và đi dạo, đi tới đi lui phía sau quầy bếp và quanh tầng một. Anh ấy làm một ít bánh mì nướng, đưa cho mỗi chúng tôi một quả táo, rồi kê một chiếc bàn nhỏ cho mình bằng một chiếc ghế đẩu. Áp lực gia đình đã có tác dụng đẩy anh ra khỏi những thỏa mãn tạm thời. “Tôi luôn yêu thích đồ gỗ,” anh nhớ lại một cách đăm chiêu trong khi chúng tôi ăn. “Ở trường, bạn có thể tự nguyện làm việc đó vào buổi tối. Và tôi thường tự hỏi liệu mình có hạnh phúc hơn khi làm kiến trúc sư không, vì tôi không phải ép mình làm điều đó. Trong khi đó, với khoa học, tôi luôn phải ép buộc bản thân. Vì gia đình nên tôi phải thành công – tôi phải tìm ra con đường. Trong đó có niềm vui nhưng phần lớn là sự lo lắng. Bây giờ thật là nhẹ nhõm vì tôi đã thành công.”

Máy tính xách tay của Hinton bị kêu. Kể từ khi anh rời Google, hộp thư đến của anh đã bùng nổ với những yêu cầu bình luận về AI. Anh thong thả bước tới và xem e-mail, rồi lại lạc vào rừng cây phả hệ, tất cả đều dường như là sai cách này hay cách khác.

“Nhìn này,” anh nói.

Tôi bước tới và nhìn vào màn hình. Đó là một “cây phả hệ học thuật”, hiển thị Hinton ở trên cùng cùng với các học sinh của ông và các học sinh của họ, xếp hàng bên dưới. Cái cây rộng đến mức anh phải cuộn ngang để xem mức độ ảnh hưởng của mình. “Ôi trời,” Hinton nói, thăm dò. “Cô ấy thực sự không phải là học sinh của tôi.” Anh ấy cuộn xa hơn. “Anh ấy rất xuất sắc nhưng không giỏi làm cố vấn vì anh ấy luôn có thể tự mình làm tốt hơn.” Là người cẩn thận nuôi dưỡng tài năng, Hinton có vẻ thích bị học trò của mình vượt mặt: khi đánh giá các ứng viên xin việc, ông thường hỏi cố vấn của họ: “Nhưng họ có giỏi hơn bạn không?” Nhớ lại cha mình, người đã qua đời năm 1977, Hinton nói: “Ông ấy cực kỳ có tinh thần cạnh tranh. Và tôi thường tự hỏi, liệu anh ấy có ở bên cạnh để chứng kiến tôi thành công hay không, liệu anh ấy có hoàn toàn hạnh phúc hay không. Bởi vì bây giờ tôi đã thành công hơn anh ấy.”

Theo Google Scholar, Hinton hiện là nhà nghiên cứu được trích dẫn nhiều thứ hai trong số các nhà tâm lý học và được trích dẫn nhiều nhất trong số các nhà khoa học máy tính và nhận thức. Nếu anh ấy có khởi đầu chậm chạp và lập dị ở Cambridge thì một phần là do anh ấy đang đi vòng quanh một lĩnh vực mới nổi. “Mạng lưới thần kinh – có rất ít người ở các trường đại học tốt làm việc đó,” anh nói và đóng máy tính xách tay lại. “Bạn không thể làm được điều đó ở MIT Bạn không thể làm được điều đó ở Berkeley. Bạn không thể làm được điều đó ở Stanford.” Có những lợi thế khi trở thành trung tâm của một mạng lưới non trẻ. Trong nhiều năm, nhiều bộ óc xuất sắc nhất đã đến với anh.

“Thời tiết tốt,” Hinton nói vào sáng hôm sau. “Chúng ta nên chặt một cái cây.” Anh ta mặc một chiếc áo sơ mi nhét trong quần kaki và trông không giống một người thợ rừng cho lắm; Tuy vậy, anh vẫn xoa hai tay vào nhau. Trên đảo, anh luôn chặt cây để tạo ra những hoạt cảnh ngăn nắp và đẹp mắt hơn.

Ngôi nhà cũng đang trong quá trình hoàn thiện. Rất ít nhà thầu đi đến một nơi xa xôi như vậy, và những người mà Hinton thuê đã mắc phải những sai lầm không cần thiết (chạy ống thoát nước lên dốc, khiến sàn nhà chưa hoàn thiện một nửa) khiến anh ấy vẫn tức giận cho đến ngày nay. Hầu hết mọi căn phòng đều có một dự án sửa chữa nhỏ, và khi tôi đến thăm, Hinton đã đính kèm những ghi chú nhỏ vào chúng để giúp đỡ một nhà thầu mới, thường tự viết lên vật liệu xây dựng. Trong phòng tắm ở tầng một, một tấm ván chân tường tựa vào tường có dòng chữ “Phòng tắm nên có loại ván chân tường này (chỉ trang trí bằng gỗ phong ở phía trước vòi sen)”. Trong tủ phòng khách, băng dính chạy dọc kệ: “Không lót kệ, đỡ kệ.”

Việc dán nhãn cho mọi thứ là điều hữu ích; nó giúp họ nắm bắt được thực tế. Nhưng trí tuệ nhân tạo làm như vậy có ý nghĩa gì? Trong khi Hinton đang lấy bằng Tiến sĩ. về trí tuệ nhân tạo tại Đại học Edinburgh, anh ấy đã nghĩ về cách “biết” trong não có thể được mô phỏng trong máy tính. Vào thời điểm đó, vào những năm 1970, đại đa số các nhà nghiên cứu AI là “những người theo chủ nghĩa biểu tượng”. Theo quan điểm của họ, việc biết về sốt cà chua có thể liên quan đến một số khái niệm, chẳng hạn như “thức ăn”, “nước sốt”, “gia vị”, “ngọt”, “vị umami”, “đỏ”, “cà chua”, “Mỹ, “Khoai tây chiên kiểu Pháp,” “mayo” và “mù tạt”; cùng nhau, những thứ này có thể tạo ra một giàn giáo để treo một khái niệm mới như “sốt cà chua”. Một nỗ lực AI lớn, được tài trợ tốt có tên Cyc tập trung vào việc xây dựng một kho lưu trữ kiến thức rộng lớn mà các nhà khoa học, sử dụng một ngôn ngữ đặc biệt, có thể nhập các khái niệm, sự kiện và quy tắc, cùng với những ngoại lệ không thể tránh khỏi. (Chim bay được, nhưng không phải chim cánh cụt hay chim bị hư cánh hoặc . . .)

Nhưng Hinton nghi ngờ cách tiếp cận này. Nó có vẻ quá cứng nhắc và quá tập trung vào kỹ năng lý luận của các nhà triết học và ngôn ngữ học. Anh biết trong tự nhiên, nhiều loài động vật hành động thông minh mà không tiếp cận được những khái niệm có thể diễn đạt bằng lời. Họ chỉ đơn giản học cách trở nên thông minh thông qua kinh nghiệm. Học tập, chứ không phải kiến thức, là động cơ của trí thông minh.

Suy nghĩ phức tạp của con người dường như thường xảy ra thông qua các biểu tượng và từ ngữ. Nhưng Hinton và các cộng tác viên của ông, James L. McClelland và David Rumelhart, tin rằng phần lớn hành động xảy ra ở cấp độ dưới khái niệm. Hãy để ý, họ viết, “nếu bạn biết được một thông tin mới về một đồ vật, kỳ vọng của bạn về những đồ vật tương tự khác có xu hướng thay đổi”: nếu bạn được bảo rằng tinh tinh thích hành chẳng hạn, bạn có thể đoán rằng khỉ đột thích chúng, cũng vậy. Điều này cho thấy kiến thức có khả năng được “phân phối” trong tâm trí – được tạo ra từ các khối xây dựng nhỏ hơn có thể được chia sẻ giữa các ý tưởng liên quan. Sẽ không có hai mạng lưới nơ-ron riêng biệt cho các khái niệm “tinh tinh” và “khỉ đột”; thay vào đó, các bó tế bào thần kinh đại diện cho các “đặc điểm” cụ thể hoặc trừu tượng khác nhau – có lông, có bốn chân, linh trưởng, thú tính, thông minh, hoang dã, v.v. – có thể được kích hoạt theo một cách để biểu thị “tinh tinh” và theo một cách hơi khác để biểu thị “ con khỉ đột.” Tính chất giống củ hành có thể được thêm vào đám mây tính năng này. Một tâm trí được xây dựng theo cách này có nguy cơ rơi vào tình trạng bối rối và sai lầm: trộn lẫn các phẩm chất với nhau theo cách sắp xếp sai lầm và bạn sẽ có được một sinh vật tưởng tượng không phải là khỉ đột hay tinh tinh. Nhưng một bộ não với thuật toán học tập phù hợp có thể điều chỉnh trọng số giữa các tế bào thần kinh của nó để ưu tiên sự kết hợp hợp lý hơn những kết hợp không mạch lạc.

Hinton tiếp tục khám phá những ý tưởng này, đầu tiên là tại Đại học California, San Diego, nơi ông làm nghiên cứu sinh sau tiến sĩ (và kết hôn với Joanne, người mà ông dạy kèm về thị giác máy tính); sau đó tại Cambridge, nơi ông làm việc với tư cách là nhà nghiên cứu về tâm lý học ứng dụng; và sau đó tại Carnegie Mellon, ở Pittsburgh, nơi ông trở thành giáo sư khoa học máy tính vào năm 1982. Ở đó, ông dành phần lớn ngân sách nghiên cứu của mình cho một chiếc máy tính đủ mạnh để chạy một mạng lưới thần kinh. Anh nhanh chóng kết hôn lần thứ hai với Rosalind Zalin, một nhà sinh học phân tử. Tại Carnegie Mellon, Hinton đã có bước đột phá. Làm việc với Terrence Sejnowski, một nhà khoa học máy tính và nhà thần kinh học, ông đã tạo ra một mạng lưới thần kinh có tên là Máy Boltzmann. Hệ thống này được đặt tên theo Ludwig Boltzmann, nhà vật lý người Áo thế kỷ 19, người đã mô tả, về mặt toán học, hành vi ở quy mô lớn của chất khí có liên quan như thế nào đến hành vi ở quy mô nhỏ của các hạt cấu thành của chúng. Hinton và Sejnowski đã kết hợp những phương trình này với một lý thuyết về học tập.

Hinton miễn cưỡng giải thích về Máy Boltzmann cho tôi. “Tôi sẽ cho bạn biết chuyện này là như thế nào,” anh nói. “Giống như có một đứa con nhỏ và bạn quyết định đi dạo. Và có một ngọn núi phía trước bạn, và bạn phải đưa đứa trẻ này lên đỉnh núi và quay lại.” Anh ấy nhìn tôi – đứa trẻ được ẩn dụ – và thở dài. Anh ấy lo lắng một cách hợp lý rằng tôi có thể bị lừa bởi một lời giải thích đơn giản và sau đó đánh lừa người khác. “Không ích gì khi cố gắng giải thích những ý tưởng phức tạp mà bạn không hiểu. Đầu tiên, bạn phải hiểu một cái gì đó hoạt động như thế nào. Nếu không, bạn chỉ tạo ra những điều vô nghĩa.” Cuối cùng, anh ấy lấy một số tờ giấy và bắt đầu vẽ sơ đồ các nơ-ron được nối với nhau bằng các mũi tên và viết ra các phương trình mà tôi cố gắng làm theo. (Trước chuyến thăm của tôi, tôi đã tham gia một khóa học của Học viện Khan về đại số tuyến tính.)

Ông gợi ý, một cách để hiểu Máy Boltzmann là hãy tưởng tượng một Bộ công cụ nhận dạng: một hệ thống trong đó có thể xác định được nhiều đặc điểm khác nhau của khuôn mặt—lông mày rậm, mắt xanh, mũi vẹo, môi mỏng, tai to, v.v. được kết hợp để tạo ra một bản phác thảo tổng hợp, loại được cảnh sát sử dụng. Để Bộ công cụ nhận dạng hoạt động, bản thân các tính năng phải được thiết kế phù hợp. Máy Boltzmann có thể học không chỉ cách lắp ráp các tính năng mà còn thiết kế chúng bằng cách thay đổi trọng số của các kết nối giữa các nơ-ron nhân tạo của nó. Nó sẽ bắt đầu với các đặc điểm ngẫu nhiên trông giống như tuyết trên màn hình tivi, sau đó tiến hành theo hai giai đoạn—“thức” và “ngủ”—để tinh chỉnh chúng. Khi ở trạng thái thức, nó sẽ điều chỉnh các đặc điểm để phù hợp hơn với khuôn mặt thực. Khi ngủ, nó sẽ tưởng tượng ra một khuôn mặt không tồn tại và sau đó thay đổi các đặc điểm để chúng trở nên phù hợp hơn.

Những giấc mơ của nó mách bảo nó những điều không nên học. Hệ thống này thật tao nhã: theo thời gian, nó có thể tránh xa sai sót và hướng tới thực tế, và không ai phải nói cho nó biết nó đúng hay sai – nó chỉ cần nhìn thấy những gì tồn tại và mơ về những gì không có.

Hinton và Sejnowski đã mô tả Máy Boltzmann trong một bài báo năm 1983. “Tôi đọc bài báo đó khi bắt đầu học cao học và tôi nói: ‘Tôi nhất định phải nói chuyện với những người này – họ là những người duy nhất trên thế giới hiểu rằng chúng ta cần học các thuật toán'” Yann LeCun nói với tôi . Vào giữa những năm 1980, Yoshua Bengio, người tiên phong trong lĩnh vực xử lý ngôn ngữ tự nhiên và thị giác máy tính, hiện là giám đốc khoa học tại Mila, một viện AI ở Quebec, đã đào tạo Máy Boltzmann để nhận dạng các âm tiết nói như một phần của luận án thạc sĩ của mình . “Geoff là một trong những người đánh giá bên ngoài,” anh nhớ lại. “Và anh ấy đã viết điều gì đó như ‘Điều này sẽ không hiệu quả.’ ” Phiên bản Máy Boltzmann của Bengio hiệu quả hơn Hinton mong đợi; Bengio phải mất vài năm mới tìm ra lý do. Điều này sẽ trở thành một mô hình quen thuộc. Trong những thập kỷ tiếp theo, mạng lưới thần kinh thường hoạt động tốt hơn mong đợi, có lẽ vì các cấu trúc mới đã hình thành giữa các tế bào thần kinh trong quá trình huấn luyện. Bengio nhớ lại: “Phần thử nghiệm của công trình có trước lý thuyết. Thông thường, vấn đề là phải thử những cách tiếp cận mới và xem mạng lưới đã đưa ra kết quả gì.

Hinton nói, một phần vì Rosalind ghét Ronald Reagan nên họ chuyển đến Đại học Toronto. Họ nhận nuôi hai đứa con, một trai và một gái, đến từ Mỹ Latinh và sống trong một ngôi nhà ở thành phố. Hinton nói: “Tôi là kiểu giáo sư xã hội chủ nghĩa luôn tận tâm với công việc của mình.

Rosalind đã phải vật lộn với chứng vô sinh và có những trải nghiệm tồi tệ với những bác sĩ nhẫn tâm. Có lẽ vì vậy mà cô đã theo đuổi con đường vi lượng đồng căn khi sau đó cô được chẩn đoán mắc bệnh ung thư buồng trứng. “Nó chẳng có ý nghĩa gì cả,” Hinton nói. “Không thể nào bạn làm cho mọi thứ trở nên loãng hơn và chúng trở nên mạnh mẽ hơn được.” Anh ta không thể hiểu làm thế nào một nhà sinh học phân tử có thể trở thành một nhà vi lượng đồng căn. Tuy nhiên, vẫn quyết tâm tự mình điều trị căn bệnh ung thư, Rosalind từ chối phẫu thuật ngay cả sau khi khám nghiệm phát hiện một khối u có kích thước bằng quả bưởi; sau đó, cô đồng ý phẫu thuật nhưng từ chối hóa trị, thay vào đó theo đuổi các biện pháp vi lượng đồng căn ngày càng đắt tiền, đầu tiên là ở Canada và sau đó là ở Thụy Sĩ. Cô ấy đã phát triển khối u thứ cấp. Cô yêu cầu Hinton bán căn nhà của họ để có thể trả tiền cho các phương pháp điều trị vi lượng đồng căn mới. “Tôi đã vạch ranh giới ở đó,” anh nhớ lại, nheo mắt vì cơn đau mới. “Tôi nói: ‘Không, chúng tôi không bán nhà. Bởi vì nếu anh chết, tôi sẽ phải chăm sóc bọn trẻ, và sẽ tốt hơn cho chúng nếu chúng ta có thể ở lại.’ ”

Rosalind trở về Canada và nhập viện ngay. Cô kiên trì được vài tháng nhưng không cho bọn trẻ đến thăm cho đến ngày trước khi cô mất, vì cô không muốn chúng thấy cô ốm yếu như vậy. Trong suốt thời gian bị bệnh, cô luôn tin rằng mình sẽ sớm khỏi bệnh. Mô tả những gì đã xảy ra, Hinton dường như vẫn còn choáng ngợp – anh ấy tức giận, tội lỗi, bị tổn thương, bối rối. Khi Rosalind qua đời, Hinton đã 46 tuổi, con trai ông lên 5 và con gái lên 3. “Cô ấy đã làm tổn thương mọi người khi không chấp nhận rằng mình sắp chết,” anh nói.

Tiếng sóng tràn ngập giữa buổi chiều tĩnh lặng. Nắng vàng gay gắt tràn qua cửa sổ kính suốt từ trần đến sàn của căn phòng; những mạng nhện mờ trải dài khắp người, in bóng dưới ánh sáng. Hinton đứng một lúc, lấy lại bình tĩnh.

“Tôi nghĩ tôi cần phải đi chặt một cái cây,” anh nói.

Chúng tôi bước ra khỏi cửa trước và đi xuống con đường dẫn tới nhà kho. Từ một trong số họ, Hinton lấy ra một chiếc cưa máy nhỏ màu xanh lá cây và một số kính bảo hộ.

“Rosemary nói rằng tôi không được phép chặt cây khi không có ai ở đây, phòng trường hợp tôi chặt đứt một cánh tay hay thứ gì đó,” anh nói. “Trước đây bạn đã từng lái thuyền chưa?”

“Không,” tôi nói.

“Vậy thì tôi không được chặt tay phải của mình.”

Bên ngoài bộ quần áo kaki, anh ấy đeo một chiếc quần bảo hộ.

“Tôi không muốn tạo cho bạn ấn tượng rằng tôi biết mình đang làm gì,” anh nói. “Nhưng ý tưởng cơ bản là bạn cắt nhiều chữ V và sau đó cây sẽ đổ.”

Hinton băng qua con đường đến cái cây mà anh ấy đã nghĩ đến, kiểm tra bụi cây xem có rắn khi chúng tôi bước đi không. Cây đó là một cây tuyết tùng nhiều lá, có lẽ cao tới 20 feet; Hinton nhìn lên xem nó nghiêng về hướng nào, rồi khởi động cưa và bắt đầu cắt vào thân cây ở phía đối diện với phần nghiêng. Anh ấy tháo cưa ra và thực hiện một đường cắt hội tụ khác để tạo thành chữ V. Sau đó anh ấy dừng lại và quay về phía tôi. Anh giải thích: “Vì cây nghiêng ra khỏi vết cắt nên chữ V sẽ mở ra khi bạn đi sâu hơn và lưỡi dao sẽ không bị kẹt.

Hinton im lặng cưa máy, thỉnh thoảng dừng lại lau trán. Trời nắng nóng, muỗi bu đầy mọi ngóc ngách râm mát. Tôi kiểm tra phía bên của nhà kho, nơi kiến và nhện đang bận rộn hoạt động không ngừng nghỉ. Cuối con đường, nước lấp lánh. Đó là một nơi tuyệt đẹp. Tuy nhiên, tôi nghĩ tôi đã hiểu tại sao Hinton muốn thay đổi nó: một ngọn đồi tròn đáng yêu dẫn xuống một vùng trũng thoai thoải, và nếu cái cây không cần thiết biến mất, ánh sáng có thể chiếu vào đó. Cái cây là một lỗi.

Cuối cùng, anh ta bắt đầu cắt lần thứ hai ở phía bên kia của cái cây, hướng nó về phía cái đầu tiên. Sau đó, anh ta di chuyển qua lại, làm sâu hơn cả hai vết cắt, đẩy cây về phía một khoảnh khắc entropic. Đột nhiên, gần như không có tiếng động, trọng lực chiếm ưu thế. Cái cây ngã xuống dưới sức nặng của chính nó, đáp xuống đáy hố một cách mềm mại đến kinh ngạc. Ánh sáng tràn vào.

Hinton rất yêu thích Máy Boltzmann. Ông hy vọng rằng nó, hoặc thứ gì đó tương tự, có thể làm nền tảng cho việc học tập trong bộ não thực sự. “Nó phải là sự thật,” anh ấy nói với tôi. “Nếu tôi là Chúa, tôi sẽ biến điều đó thành sự thật.” Nhưng thử nghiệm sâu hơn cho thấy rằng khi Boltzmann Machines phát triển, chúng có xu hướng bị choáng ngợp bởi tính ngẫu nhiên được tích hợp sẵn trong chúng. LeCun nói: “Geoff và tôi bất đồng quan điểm về Máy Boltzmann. “Geoff cho rằng đó là thuật toán đẹp nhất. Tôi nghĩ nó thật xấu xí. Nó mang tính ngẫu nhiên” – nghĩa là, một phần dựa trên tính ngẫu nhiên. Ngược lại, LeCun nói, “Tôi nghĩ backprop siêu sạch.”

“Backprop,” hay lan truyền ngược, là một thuật toán đã được khám phá bởi một số nhà nghiên cứu khác nhau bắt đầu từ những năm 1960. Ngay cả khi Hinton đang làm việc với Sejnowski trên Máy Boltzmann, anh ấy cũng đang cộng tác với Rumelhart và một nhà khoa học máy tính khác, Ronald Williams, trên nền tảng hỗ trợ. Họ nghi ngờ rằng kỹ thuật này có tiềm năng học tập chưa được khai thác; đặc biệt, họ muốn kết hợp nó với mạng lưới thần kinh hoạt động trên nhiều lớp.

Một cách để hiểu backprop là hãy tưởng tượng một hệ thống tư pháp Kafkaesque. Hãy hình dung lớp trên của mạng lưới thần kinh như một bồi thẩm đoàn phải xét xử các vụ án vĩnh viễn. Bồi thẩm đoàn vừa đưa ra phán quyết. Trong viễn cảnh đen tối mà backprop diễn ra, thẩm phán có thể nói với bồi thẩm đoàn rằng phán quyết của họ là sai và họ sẽ bị trừng phạt cho đến khi cải cách được đường lối của mình. Bồi thẩm đoàn phát hiện ra rằng ba người trong số họ có ảnh hưởng đặc biệt trong việc dẫn dắt nhóm đi sai đường. Sự phân chia trách nhiệm này là bước đầu tiên trong quá trình truyền bá ngược.

Trong bước tiếp theo, ba bồi thẩm viên sai lầm xác định xem chính họ đã đưa ra thông tin sai như thế nào. Họ xem xét những ảnh hưởng của chính họ – cha mẹ, giáo viên, học giả, v.v. – và xác định những cá nhân đã đưa thông tin sai về họ. Ngược lại, những người có ảnh hưởng đáng trách đó phải xác định những ảnh hưởng tương ứng của họ và phân chia trách nhiệm cho họ. Các vòng chỉ tay lặp đi lặp lại xảy ra sau đó, khi mỗi lớp người có ảnh hưởng xem xét những ảnh hưởng của chính mình, theo một tầng quét ngược. Cuối cùng, khi biết được ai đã thông tin sai về ai và ở mức độ nào, mạng lưới sẽ tự điều chỉnh cho phù hợp, để các cá nhân lắng nghe những ảnh hưởng “xấu” của họ ít hơn một chút và những ảnh hưởng “tốt” của họ nhiều hơn một chút. Toàn bộ quá trình lặp đi lặp lại, với độ chính xác về mặt toán học, cho đến khi các phán quyết – không chỉ trong trường hợp này mà trong mọi trường hợp – nói chung là “chính xác” nhất có thể.

Năm 1986, Hinton, Rumelhart và Williams xuất bản một bài báo dài ba trang trên tạp chí Nature cho thấy một hệ thống như vậy có thể hoạt động như thế nào trong mạng lưới thần kinh. Họ lưu ý rằng backprop, giống như Boltzmann Machine, không phải là “một mô hình học tập hợp lý trong bộ não”: không giống như máy tính, bộ não không thể tua lại đoạn băng để kiểm tra hiệu suất trước đây của nó. Nhưng backprop vẫn cho phép chuyên môn hóa thần kinh giống như não. Trong bộ não thực, tế bào thần kinh đôi khi được sắp xếp theo các cấu trúc nhằm giải quyết các vấn đề cụ thể: ví dụ, trong hệ thống thị giác, các “cột” tế bào thần kinh khác nhau nhận ra các cạnh trong những gì chúng ta nhìn thấy. Một cái gì đó tương tự xuất hiện trong một mạng backprop. Các tầng cao hơn buộc các tầng thấp hơn phải chịu một loại áp lực tiến hóa; kết quả là, chẳng hạn, một số lớp nhất định của mạng được giao nhiệm vụ giải mã chữ viết tay có thể tập trung chặt chẽ vào việc xác định các đường, đường cong hoặc cạnh. Cuối cùng, toàn bộ hệ thống có thể phát triển “các biểu diễn nội bộ phù hợp”. Mạng biết và sử dụng kiến thức của nó.

Trong những năm 1950 và 60, có rất nhiều sự phấn khích đi kèm với Perceptron và những nỗ lực kết nối khác; sự nhiệt tình đối với chủ nghĩa kết nối suy yếu trong những năm sau đó. Giấy backprop là một phần của sự hồi sinh mối quan tâm và thu hút được sự chú ý rộng rãi. Nhưng công việc xây dựng mạng lưới backprop thực sự diễn ra chậm chạp, vì cả lý do thực tế và ý tưởng. Trên thực tế, máy tính hoạt động chậm chạp. “Tốc độ tiến bộ về cơ bản là: Một máy tính có thể học được bao nhiêu trong một đêm?” Hinton nhớ lại. “Câu trả lời thường là không nhiều.” Về mặt khái niệm, mạng lưới thần kinh rất bí ẩn. Không thể lập trình theo cách truyền thống. Bạn không thể vào và chỉnh sửa trọng số của các kết nối giữa các nơ-ron nhân tạo. Và dù sao đi nữa, thật khó để hiểu mức tạ có ý nghĩa gì, bởi vì họ đã thích nghi và thay đổi bản thân thông qua quá trình tập luyện.

Có rất nhiều nguyên nhân khiến quá trình học tập có thể gặp trục trặc. Ví dụ: trong trường hợp “trang bị quá mức”, mạng ghi nhớ dữ liệu huấn luyện một cách hiệu quả thay vì học cách khái quát hóa từ dữ liệu đó. Việc tránh những cạm bẫy khác nhau không phải lúc nào cũng đơn giản vì việc tìm hiểu tùy thuộc vào mạng. Nó giống như việc chặt một cái cây: các nhà nghiên cứu có thể cắt chỗ này chỗ kia, nhưng sau đó phải để quá trình diễn ra. Họ có thể thử các kỹ thuật như “tập hợp” (kết hợp các mạng yếu để tạo thành mạng mạnh) hoặc “dừng sớm” (để mạng học nhưng không quá nhiều). Họ có thể “đào tạo trước” một hệ thống, bằng cách sử dụng Máy Boltzmann, cho nó học điều gì đó và sau đó xếp một mạng backprop lên trên nó, để quá trình đào tạo “được giám sát” của hệ thống không bắt đầu cho đến khi nó có được một số yếu tố cơ bản. kiến thức của riêng mình. Sau đó, họ để mạng học hỏi, hy vọng rằng nó sẽ đến được nơi họ muốn.

Các “kiến trúc” mạng thần kinh mới đã được phát triển: mạng “tái phát” và “tích chập” cho phép các hệ thống đạt được tiến bộ bằng cách xây dựng công việc của riêng chúng theo những cách khác nhau. Nhưng có vẻ như các nhà nghiên cứu đã phát hiện ra một công nghệ ngoài hành tinh mà họ không biết cách sử dụng. Họ xoay khối Rubik theo cách này và cách khác, cố gắng sắp xếp trật tự khỏi tiếng ồn. “Tôi luôn tin rằng điều đó không hề vô nghĩa,” Hinton nói. “Đó thực sự không phải là niềm tin – nó hoàn toàn hiển nhiên đối với tôi.” Bộ não sử dụng tế bào thần kinh để học hỏi; do đó, việc học phức tạp thông qua mạng lưới thần kinh phải có thể thực hiện được. Anh ấy sẽ làm việc chăm chỉ gấp đôi trong thời gian dài gấp đôi.

Khi các mạng được huấn luyện thông qua backprop, chúng cần được thông báo khi nào chúng sai và sai ở mức độ nào; điều này đòi hỏi một lượng lớn dữ liệu được dán nhãn chính xác, điều này sẽ cho phép các mạng thấy được sự khác biệt giữa số “7” viết tay và số “1” hoặc giữa chó tha mồi vàng và chó săn mồi đỏ. Nhưng thật khó để tìm được các bộ dữ liệu đủ lớn, được dán nhãn rõ ràng và việc xây dựng thêm bộ dữ liệu này là một công việc khó khăn. LeCun và các cộng tác viên của ông đã phát triển một cơ sở dữ liệu khổng lồ về các chữ số viết tay mà sau này họ sử dụng để đào tạo các mạng có thể đọc Mã Zip mẫu do Bưu điện Hoa Kỳ cung cấp. Một nhà khoa học máy tính tên là Fei Fei Li, ở Stanford, đã dẫn đầu một nỗ lực to lớn mang tên ImageNet; để tạo ra nó đòi hỏi phải thu thập hơn 14 triệu hình ảnh và phân loại chúng thành 20 nghìn danh mục bằng tay.

Khi mạng lưới thần kinh ngày càng lớn hơn, Hinton đã nghĩ ra cách đưa kiến thức từ một mạng lớn vào một mạng nhỏ hơn có thể chạy trên một thiết bị như điện thoại di động. “Nó được gọi là chưng cất,” anh giải thích trong nhà bếp của mình. “Hồi còn đi học, giáo viên mỹ thuật cho chúng tôi xem một số slide và nói, ‘Đó là Rubens, kia là van Gogh, và đây là William Blake.’ Nhưng giả sử giáo viên mỹ thuật nói với bạn, ‘Được rồi, đây là một Titian, nhưng nó là một Titian đặc biệt vì các khía cạnh của nó khá giống Raphael, điều này rất khác thường đối với một Titian.’ Điều đó hữu ích hơn nhiều. Họ không chỉ cho bạn biết câu trả lời đúng mà còn cho bạn biết những câu trả lời hợp lý khác.” Trong học tập chắt lọc, một mạng lưới thần kinh cung cấp cho mạng khác không chỉ những câu trả lời đúng mà còn cung cấp một loạt các câu trả lời có thể có và xác suất của chúng. Đó là một loại kiến thức phong phú hơn.

Vài năm sau cái chết của Rosalind, Hinton kết nối lại với Jacqueline Ford, một nhà sử học nghệ thuật mà anh đã hẹn hò một thời gian ngắn trước khi chuyển đến Hoa Kỳ. Jackie là người có văn hóa, ấm áp, tò mò và xinh đẹp. “Cô ấy vượt xa tầm hiểu biết của em rồi,” em gái anh nói. Tuy nhiên, Jackie đã từ bỏ công việc ở Anh để chuyển đến Toronto. Họ kết hôn vào ngày 6 tháng 12 năm 1997 – sinh nhật lần thứ 50 của Hinton. Những thập kỷ tiếp theo sẽ là khoảng thời gian hạnh phúc nhất trong cuộc đời ông. Gia đình anh lại được đoàn tụ. Các con của ông rất yêu quý người mẹ mới của chúng. Anh và Jackie bắt đầu khám phá những hòn đảo ở Vịnh Georgian. Nhớ lại lần này, anh nhìn chằm chằm vào chiếc ca nô trong phòng khách. “Chúng tôi tìm thấy nó trong rừng, lộn ngược, phủ bạt và hoàn toàn mục nát – mọi thứ xung quanh đều mục nát,” ông nói. “Nhưng Jackie vẫn quyết định giải cứu nó, giống như cô ấy đã làm với tôi và bọn trẻ.”

Hinton không thích việc truyền bá ngược. “Thật không thỏa mãn về mặt trí tuệ,” anh ấy nói với tôi. Không giống như Máy Boltzmann, “tất cả đều mang tính quyết định. Thật không may, nó chỉ hoạt động tốt hơn.” Dần dần, khi những tiến bộ thực tế ngày càng tăng lên, sức mạnh của backprop trở nên không thể phủ nhận. Vào đầu những năm bảy mươi, Hinton nói với tôi, chính phủ Anh đã thuê một nhà toán học tên là James Lighthill để xác định xem nghiên cứu AI có cơ hội thành công đáng tin cậy nào không. Lighthill kết luận rằng điều đó không phải vậy – “và anh ấy đã đúng,” Hinton nói, “nếu bạn chấp nhận giả định mà mọi người đưa ra, rằng máy tính có thể nhanh hơn hàng nghìn lần, nhưng chúng sẽ không nhanh hơn hàng tỷ lần.” Hinton làm một phép tính trong đầu. Giả sử rằng vào năm 1985, anh ta bắt đầu chạy một chương trình trên một máy tính nghiên cứu nhanh và để nó chạy cho đến tận bây giờ. Nếu anh ấy bắt đầu chạy chương trình tương tự ngày hôm nay, trên các hệ thống nhanh nhất hiện đang được sử dụng trong AI, sẽ chỉ mất chưa đầy một giây để bắt kịp.

Vào đầu những năm 2000, khi mạng lưới thần kinh nhiều lớp được trang bị máy tính mạnh mẽ bắt đầu huấn luyện trên các tập dữ liệu lớn hơn nhiều, Hinton, Bengio và LeCun bắt đầu nói về tiềm năng của “học sâu”. Công việc đã vượt qua ngưỡng vào năm 2012, khi Hinton, Alex Krizhevsky và Ilya Sutskever cho ra mắt AlexNet, một mạng lưới thần kinh tám lớp mà cuối cùng có thể nhận dạng các đối tượng từ ImageNet với độ chính xác ở cấp độ con người. Hinton thành lập công ty với Krizhevsky và Sutskever và bán nó cho Google. Anh ấy và Jackie đã mua hòn đảo ở Vịnh Georgian—“một niềm đam mê thực sự của tôi,” Hinton nói.

Hai năm sau, Jackie được chẩn đoán mắc bệnh ung thư tuyến tụy. Các bác sĩ đã cho cô ấy một hoặc hai năm để sống. Hinton nói: “Cô ấy vô cùng dũng cảm và vô cùng lý trí. “Cô ấy không phủ nhận sâu sắc, cố gắng thoát khỏi nó một cách tuyệt vọng. Quan điểm của cô là ‘Tôi có thể cảm thấy tiếc cho bản thân mình, hoặc tôi có thể nói rằng tôi không còn nhiều thời gian và tốt hơn hết tôi nên cố gắng hết sức để tận hưởng nó và làm mọi thứ ổn thỏa cho người khác.’ ” Cô và Hinton nghiền ngẫm các số liệu thống kê trước khi quyết định phương pháp điều trị; phần lớn thông qua hóa trị, cô ấy đã kéo dài một hoặc hai năm lên ba năm. Trong ngôi nhà nhỏ, khi cô không thể leo cầu thang được nữa, anh đã làm một chiếc giỏ nhỏ bằng dây để cô có thể hạ trà từ tầng hai xuống tầng một, nơi anh có thể hâm nóng nó trong lò vi sóng. (“Lẽ ra tôi nên chuyển lò vi sóng lên lầu,” anh nhận xét.)

Vào cuối ngày, chúng tôi dựa vào bàn đứng của Hinton khi anh ấy cho tôi xem những bức ảnh của Jackie trên máy tính xách tay của anh ấy. Trong bức ảnh chụp ngày cưới của họ, cô và Hinton đứng cùng các con của anh trong phòng khách nhà hàng xóm, trao nhau lời thề. Hinton trông rạng rỡ và thư thái; Jackie nắm nhẹ một tay anh trong cả hai tay cô. Trong một trong những bức ảnh cuối cùng mà anh ấy cho tôi xem, cô ấy nhìn chằm chằm vào máy ảnh từ chiếc ca nô màu đỏ tía mà cô ấy đang chèo trên làn nước lốm đốm gần bến tàu. “Đó là mùa hè năm 2017,” Hinton nói. Jackie qua đời vào tháng 4 năm sau. Tháng 6 năm đó, Hinton, Bengio và LeCun đã giành được Giải thưởng Turing – tương đương với giải Nobel về khoa học máy tính.

Hinton tin chắc rằng có một cảm giác thực sự trong đó mạng lưới thần kinh có khả năng cảm nhận. “Tôi nghĩ cảm xúc là những tuyên bố phản thực tế về điều gì sẽ gây ra một hành động,” anh ấy đã nói với tôi vào đầu ngày hôm đó. “Nói rằng tôi cảm thấy muốn đấm vào mũi ai đó. Ý tôi là: nếu tôi không bị xã hội cấm đoán – nếu tôi không ngăn mình làm điều đó – tôi sẽ đấm vào mũi anh ta. Vì vậy, khi tôi nói ‘Tôi cảm thấy tức giận’, đó là một kiểu viết tắt của câu nói, ‘Tôi cảm thấy muốn thực hiện một hành động hung hăng’. Cảm giác chỉ là một cách nói về xu hướng hành động mà thôi.”

Anh ấy nói với tôi rằng anh ấy đã nhìn thấy một “AI đáng thất vọng” vào năm 1973. Một chiếc máy tính được gắn vào hai máy quay TV và một cánh tay robot đơn giản; Hệ thống được giao nhiệm vụ lắp ráp một số khối, trải trên bàn, thành hình dạng một chiếc ô tô đồ chơi. “Điều này thật khó khăn, đặc biệt là vào năm 1973,” ông nói. “Hệ thống thị giác có thể nhận ra các bit nếu chúng tách rời nhau, nhưng nếu bạn xếp chúng thành một đống nhỏ thì nó không thể nhận ra chúng. Vậy nó đã làm gì? Nó lùi lại một chút và kêu lên!, rồi trải chúng ra bàn. Về cơ bản, nó không thể giải quyết được những gì đang diễn ra nên đã thay đổi nó một cách dữ dội. Và nếu một người làm điều đó bạn sẽ nói rằng họ rất thất vọng. Máy tính không thể nhìn rõ các khối nên anh ấy đã đập chúng.” Có cảm giác là muốn những gì bạn không thể có.

“Tôi yêu ngôi nhà này, nhưng đôi khi nó là một nơi buồn bã,” anh nói khi chúng tôi xem những bức tranh. “Bởi vì cô ấy thích ở đây và không ở đây.”

Mặt trời đã gần lặn và Hinton bật một ngọn đèn nhỏ trên bàn làm việc của mình. Anh đóng máy tính lại và đẩy kính lên sống mũi. Anh vươn vai, quay trở lại hiện tại.

“Tôi muốn bạn biết về Roz và Jackie vì họ là một phần quan trọng trong cuộc sống của tôi,” anh nói. “Nhưng thực ra nó cũng khá liên quan đến trí tuệ nhân tạo. Có hai cách tiếp cận AI. Có sự phủ nhận và có chủ nghĩa khắc kỷ. Phản ứng đầu tiên của mọi người đối với AI là ‘Chúng ta phải ngăn chặn điều này’. Giống như phản ứng đầu tiên của mọi người đối với bệnh ung thư là ‘Làm thế nào chúng ta có thể cắt bỏ nó?’ ”Nhưng điều quan trọng là phải nhận ra rằng việc cắt bỏ nó chỉ là một điều viển vông.

Anh thở dài. Ông nói: “Chúng ta không thể phủ nhận. “Chúng ta phải thành thật. Chúng ta cần suy nghĩ, Làm cách nào để khiến nó không trở nên khủng khiếp đối với nhân loại như nó có thể xảy ra?”

AI sẽ trở nên hữu ích hay nguy hiểm như thế nào? Không ai biết chắc chắn, một phần vì mạng lưới thần kinh rất kỳ lạ. Vào thế kỷ XX, nhiều nhà nghiên cứu muốn chế tạo những chiếc máy tính mô phỏng bộ não. Tuy nhiên, mặc dù các mạng lưới thần kinh như các mô hình GPT của OpenAI giống bộ não ở chỗ chúng bao gồm hàng tỷ tế bào thần kinh nhân tạo, nhưng chúng thực sự khác biệt sâu sắc với bộ não sinh học. AI ngày nay dựa trên đám mây và được đặt trong các trung tâm dữ liệu sử dụng năng lượng ở quy mô công nghiệp. Không biết gì ở một số mặt và giống bác học ở những mặt khác, họ lý luận cho hàng triệu người dùng, nhưng chỉ khi được nhắc. Họ không còn sống. Họ có lẽ đã vượt qua bài kiểm tra Turing—tiêu chuẩn đã được báo trước từ lâu, được thiết lập bởi nhà tiên phong về máy tính Alan Turing, cho rằng bất kỳ máy tính nào có thể bắt chước con người trong cuộc trò chuyện một cách thuyết phục đều có thể suy nghĩ một cách hợp lý. Tuy nhiên, trực giác của chúng ta có thể cho chúng ta biết rằng không có gì tồn tại trong tab trình duyệt có thể thực sự suy nghĩ theo cách chúng ta làm. Các hệ thống buộc chúng ta phải hỏi liệu kiểu suy nghĩ của chúng ta có phải là kiểu suy nghĩ duy nhất có giá trị hay không.

Trong vài năm cuối cùng làm việc tại Google, Hinton đã tập trung nỗ lực vào việc tạo ra trí tuệ nhân tạo giống tư duy truyền thống hơn bằng cách sử dụng phần cứng mô phỏng chặt chẽ hơn bộ não. Trong AI ngày nay, trọng số của các kết nối giữa các nơ-ron nhân tạo được lưu trữ bằng số; cứ như thể bộ não lưu giữ những ghi chép về chính nó. Tuy nhiên, trong bộ não tương tự thực tế của bạn, các trọng số được tích hợp vào các kết nối vật lý giữa các tế bào thần kinh. Hinton đã làm việc để tạo ra một phiên bản nhân tạo của hệ thống này bằng cách sử dụng các chip máy tính chuyên dụng.

“Nếu bạn có thể làm được điều đó thì thật tuyệt vời,” anh ấy nói với tôi. Các con chip sẽ có thể học bằng cách thay đổi “độ dẫn” của chúng. Vì các trọng số sẽ được tích hợp vào phần cứng nên không thể sao chép chúng từ máy này sang máy khác; mỗi trí tuệ nhân tạo sẽ phải tự học. “Chúng sẽ phải đi học,” ông nói. “Nhưng bạn sẽ chuyển từ mức sử dụng megawatt lên 30 watt.” Khi nói, anh ấy nghiêng người về phía trước, đôi mắt anh ấy nhìn chằm chằm vào tôi; Tôi thoáng nhìn thấy nhà truyền giáo Hinton. Vì kiến thức mà mỗi AI thu được sẽ bị mất khi nó bị tách rời nên ông gọi phương pháp này là “điện toán sinh tử”. “Chúng ta sẽ từ bỏ sự bất tử,” anh nói. “Trong văn chương, người phụ nữ mình yêu từ bỏ vai trò thần thánh phải không? Trong trường hợp này, chúng ta sẽ đạt được điều quan trọng hơn nhiều, đó là hiệu quả sử dụng năng lượng.” Trong số những điều khác, hiệu quả sử dụng năng lượng khuyến khích tính cá nhân: vì bộ não con người có thể chạy bằng bột yến mạch nên thế giới có thể hỗ trợ hàng tỷ bộ não, tất cả đều khác nhau. Và mỗi bộ não có thể học hỏi liên tục, thay vì được rèn luyện một lần rồi mới bị đẩy ra ngoài thế giới.

Là một doanh nghiệp khoa học, AI phàm trần có thể đưa chúng ta đến gần hơn với việc tái tạo bộ não của chính mình. Nhưng thật đáng tiếc, Hinton đã nghĩ rằng trí thông minh kỹ thuật số có thể mạnh mẽ hơn. Ông nói: “Trong trí thông minh tương tự, “nếu bộ não chết thì kiến thức cũng chết”. Ngược lại, trong trí tuệ kỹ thuật số, “nếu một máy tính cụ thể bị hỏng, thì cường độ kết nối tương tự đó có thể được sử dụng trên một máy tính khác. Và, ngay cả khi tất cả các máy tính kỹ thuật số đều chết, nếu bạn lưu trữ cường độ kết nối ở đâu đó thì bạn có thể tạo ra một máy tính kỹ thuật số khác và chạy cùng trọng lượng trên máy tính kỹ thuật số khác đó. Mười nghìn mạng lưới thần kinh có thể học mười nghìn thứ khác nhau cùng một lúc, sau đó chia sẻ những gì chúng đã học được.” Ông nói, sự kết hợp giữa tính bất tử và khả năng nhân rộng này gợi ý rằng “chúng ta nên lo ngại về việc trí tuệ kỹ thuật số sẽ tiếp quản trí tuệ sinh học”.

Chúng ta nên mô tả đời sống tinh thần của trí thông minh kỹ thuật số như thế nào nếu không có cơ thể phàm trần hoặc danh tính cá nhân? Trong những tháng gần đây, một số nhà nghiên cứu AI đã gọi GPT là “công cụ lý luận” — có lẽ là một cách để thoát khỏi sức nặng của từ “suy nghĩ” mà chúng ta khó định nghĩa. “Mọi người đổ lỗi cho chúng tôi vì đã sử dụng những từ đó—’suy nghĩ’, ‘biết’, ‘hiểu’, ‘quyết định’, v.v.,” Bengio nói với tôi. “Nhưng mặc dù chúng ta không hiểu đầy đủ ý nghĩa của những từ đó, nhưng chúng là những cách rất hiệu quả để tạo ra những phép loại suy giúp chúng ta hiểu những gì chúng ta đang làm. Việc nói về ‘trí tưởng tượng’, ‘sự chú ý’, ‘lập kế hoạch’, ‘trực giác’ đã giúp chúng tôi rất nhiều, như một công cụ để làm rõ và khám phá.” Theo quan điểm của Bengio, “phần lớn những gì chúng tôi đang làm là giải quyết khía cạnh ‘trực giác’ của tâm trí.” Trực giác có thể được hiểu là những suy nghĩ mà chúng ta không thể giải thích: tâm trí chúng ta tạo ra chúng cho chúng ta một cách vô thức bằng cách tạo ra mối liên hệ giữa những gì chúng ta đang gặp phải ở hiện tại và những trải nghiệm trong quá khứ. Chúng ta có xu hướng đề cao lý trí hơn trực giác, nhưng Hinton tin rằng chúng ta có trực giác tốt hơn những gì chúng ta thừa nhận. “Trong nhiều năm, những người sử dụng AI mang tính biểu tượng đã nói rằng bản chất thực sự của chúng ta là chúng ta là những cỗ máy suy luận,” anh ấy nói với tôi. “Tôi nghĩ đó chỉ là điều vô nghĩa. Bản chất thực sự của chúng ta là, chúng ta là những cỗ máy tương tự, với một chút lý luận được xây dựng bên trên, để nhận biết khi nào sự tương tự đưa ra câu trả lời sai cho chúng ta và sửa chúng.”

Nhìn chung, công nghệ AI hiện tại còn nhiều lời và trí tuệ: nó vấp phải ranh giới của vật chất. LeCun nói với tôi: “Bất kỳ thanh thiếu niên nào cũng có thể học lái xe ô tô trong 20 giờ luyện tập mà hầu như không có sự giám sát nào”. “Bất kỳ con mèo nào cũng có thể nhảy lên một loạt đồ nội thất và leo lên đỉnh kệ. Ngày nay, chúng tôi không có bất kỳ hệ thống AI nào có thể làm được những việc này, ngoại trừ ô tô tự lái”—và chúng được thiết kế quá mức, yêu cầu “lập bản đồ toàn thành phố, hàng trăm kỹ sư, hàng trăm nghìn giờ đào tạo. ” LeCun cho biết, việc giải quyết các vấn đề khó hiểu về trực giác vật lý “sẽ là thách thức lớn trong thập kỷ tới”. Tuy nhiên, ý tưởng cơ bản rất đơn giản: nếu tế bào thần kinh có thể làm được điều đó thì mạng lưới thần kinh cũng vậy.

Hinton nghi ngờ rằng sự hoài nghi về tiềm năng của AI, tuy có phần an ủi, nhưng thường được thúc đẩy bởi niềm tin phi lý vào chủ nghĩa ngoại lệ của con người. Các nhà nghiên cứu phàn nàn rằng các chatbot AI “gây ảo giác” bằng cách tạo ra những câu trả lời hợp lý cho những câu hỏi khiến họ bối rối. Nhưng anh ấy tranh cãi về thuật ngữ đó. “Chúng ta nên nói ‘tán tỉnh’,” anh ấy nói với tôi. “ ‘Ảo giác’ là khi bạn nghĩ rằng có đầu vào giác quan—ảo giác thính giác, ảo giác thị giác, ảo giác khứu giác. Nhưng chỉ bịa ra chuyện thôi thì đó là sự bịa đặt.” Ông trích dẫn trường hợp của John Dean, cố vấn Nhà Trắng của Tổng thống Richard Nixon, người đã được phỏng vấn về Watergate trước khi ông biết rằng những cuộc trò chuyện mà ông mô tả đã được ghi âm. Dean bối rối, hiểu sai các chi tiết, nhầm lẫn ai đã nói gì. “Nhưng ý chính thì không sao,” Hinton nói. “Anh ấy có ký ức về những gì đã xảy ra và anh ấy áp đặt ký ức đó lên một số nhân vật trong đầu mình. Anh ấy đã viết một vở kịch nhỏ. Và đó chính là trí nhớ của con người. Trong suy nghĩ của chúng tôi, không có ranh giới giữa việc bịa đặt và việc nói sự thật. Nói sự thật chỉ là bịa ra một cách chính xác. Bởi vì tất cả là ở tạ phải không?” Từ góc độ này, khả năng dựng chuyện của ChatGPT là một thiếu sót nhưng cũng là dấu hiệu cho thấy nó có trí thông minh giống con người.

Hinton thường được hỏi liệu anh có hối hận về công việc của mình không. Anh ấy không. (Gần đây anh ấy đã gửi cho một nhà báo một đoạn ngắn—“một bài hát dành cho bạn”—cùng với đường liên kết tới bài “Non, Je Ne Regrette Rien” của Edith Piaf.) Khi bắt đầu nghiên cứu, anh ấy nói, không ai nghĩ rằng công nghệ này sẽ thành công; ngay cả khi bắt đầu thành công cũng không ai nghĩ rằng nó sẽ thành công nhanh đến vậy. Chính vì cho rằng AI thực sự thông minh nên ông kỳ vọng nó sẽ đóng góp được cho nhiều lĩnh vực. Tuy nhiên, ông lo ngại điều gì sẽ xảy ra chẳng hạn khi những người có quyền lực lạm dụng nó. “Bạn có thể tưởng tượng Vladimir Putin tạo ra một loại vũ khí sát thương tự động và giao cho nó mục tiêu giết người Ukraine,” Hinton nói. Ông tin rằng vũ khí tự động nên bị đặt ngoài vòng pháp luật – quân đội Hoa Kỳ đang tích cực phát triển chúng – nhưng cảnh báo rằng ngay cả một hệ thống tự động lành tính cũng có thể tàn phá. Ông nói: “Nếu bạn muốn một hệ thống hoạt động hiệu quả, bạn cần cho nó khả năng tạo ra các mục tiêu phụ của riêng nó. “Bây giờ, vấn đề là có một mục tiêu phụ rất chung giúp đạt được hầu hết tất cả các mục tiêu: giành được nhiều quyền kiểm soát hơn. Câu hỏi nghiên cứu là: làm cách nào để ngăn chặn việc họ muốn nắm quyền kiểm soát? Và không ai biết câu trả lời.” (Ông lưu ý, quyền kiểm soát không nhất thiết phải bằng vật chất: “Nó có thể giống như cách Trump có thể xâm chiếm Điện Capitol bằng lời nói.”)

Trong lĩnh vực này, quan điểm của Hinton được chia sẻ và tranh cãi rất nhiều. “Tôi không sợ AI,” LeCun nói với tôi. “Tôi nghĩ sẽ tương đối dễ dàng để thiết kế chúng sao cho mục tiêu của chúng phù hợp với mục tiêu của chúng ta.” Anh ấy tiếp tục, “Có ý kiến cho rằng nếu một hệ thống thông minh thì nó sẽ muốn thống trị. Nhưng mong muốn thống trị không liên quan gì đến trí thông minh – nó liên quan đến testosterone.” Tôi nhớ lại những con nhện tôi đã nhìn thấy ở ngôi nhà nhỏ và mạng của chúng che phủ bề mặt cửa sổ nhà Hinton như thế nào. Họ cũng không muốn thống trị—nhưng trí thông minh giống côn trùng của họ đã khiến họ mở rộng lãnh thổ. Các hệ thống sống không có bộ não tập trung, chẳng hạn như đàn kiến, không “muốn” làm bất cứ điều gì, nhưng chúng vẫn tìm kiếm thức ăn, vượt sông và tiêu diệt đối thủ cạnh tranh với số lượng lớn. Hinton hoặc LeCun có thể đúng. Sự biến thái chưa kết thúc. Chúng ta không biết AI sẽ trở thành gì.

“Sao chúng ta không rút phích cắm ra nhỉ?” Tôi đã hỏi Hinton về AI nói chung. “Đó có phải là một câu hỏi hoàn toàn vô lý không?”

“Không phải vô lý khi nói, Chúng ta sẽ tốt hơn nếu không có điều này – nó không đáng,” anh nói. “Giống như chúng ta có thể sống tốt hơn nếu không có nhiên liệu hóa thạch. Lẽ ra chúng ta có thể nguyên thủy hơn nhiều, nhưng điều đó có thể không đáng để mạo hiểm.” Anh ấy nói thêm một cách kiên quyết, “Nhưng điều đó sẽ không xảy ra. Bởi vì xã hội là như vậy. Và vì sự cạnh tranh giữa các quốc gia khác nhau. Nếu Liên Hợp Quốc thực sự hoạt động, có thể những việc như thế sẽ ngăn chặn được nó. Mặc dù vậy, AI vẫn rất hữu ích. Nó có rất nhiều tiềm năng để làm điều tốt, trong các lĩnh vực như y học—và tất nhiên, mang lại lợi thế cho một quốc gia thông qua vũ khí tự động.” Đầu năm nay, Hinton đã từ chối ký một bản kiến nghị phổ biến kêu gọi tạm dừng nghiên cứu ít nhất sáu tháng. Ông nói: “Trung Quốc sẽ không ngừng phát triển nó trong sáu tháng”.

“Vậy chúng ta nên làm gì?” Tôi hỏi.

“Tôi không biết,” anh nói. “Sẽ thật tuyệt nếu điều này giống như biến đổi khí hậu, nơi ai đó có thể nói, Hãy nhìn xem, chúng ta hoặc phải ngừng đốt cháy carbon hoặc chúng ta phải tìm ra cách hiệu quả để loại bỏ carbon dioxide khỏi khí quyển. Ở đó, bạn biết giải pháp trông như thế nào. Ở đây thì không như vậy.”

Hinton đang mặc một chiếc áo khoác không thấm nước màu xanh lam. Chúng tôi đang tới bến du thuyền để đón Rosemary. “Cô ấy mang đồ tới đây!” Anh ấy nói và mỉm cười. Khi chúng tôi bước ra khỏi cửa, tôi nhìn lại ngôi nhà. Trong căn phòng lớn, chiếc ca nô màu đỏ tía tỏa sáng, được ánh nắng vuốt ve. Những chiếc ghế được xếp phía trước thành hình bán nguyệt, hướng ra mặt nước qua cửa sổ. Một số tạp chí được chất trên một chiếc bàn nhỏ. Đó là một ngôi nhà đẹp. Tâm trí con người có thể làm được nhiều điều hơn lý trí; nó tồn tại trong thời gian, tính đến sự sống và cái chết, và xây dựng một thế giới xung quanh nó. Nó thu thập ý nghĩa, như thể bằng trọng lực. Tôi nghĩ AI có thể tưởng tượng ra một nơi như thế này. Nhưng nó có bao giờ cần một cái không?

Chúng tôi đi dọc theo con đường rậm rạp, băng qua nhà kho và đi xuống các bậc thang dẫn tới bến tàu, rồi leo lên thuyền của Hinton. Đó là một ngày trong xanh hoàn hảo, với những cơn gió mạnh thổi qua mặt nước. Hinton đứng ở tay lái. Tôi ngồi phía trước, nhìn những hòn đảo khác đi qua, nghĩ về câu chuyện của AI. Đối với một số người, đó là câu chuyện của Copernicus, trong đó trực giác của chúng ta về sự đặc biệt của tâm trí con người đang bị đánh bật bởi những cỗ máy biết suy nghĩ. Đối với những người khác, đó là Promethean—đã đánh cắp lửa, chúng ta có nguy cơ bị bỏng. Một số người cho rằng chúng ta đang tự lừa dối mình, bị máy móc của chính chúng ta và các công ty hy vọng thu được lợi nhuận từ chúng tấn công. Nói một cách kỳ lạ, đó cũng có thể là câu chuyện về những giới hạn của con người. Nếu chúng ta là thần thánh, chúng ta có thể tạo ra một loại AI khác; trên thực tế, phiên bản này là những gì chúng tôi có thể quản lý được. Trong khi đó, tôi không thể không xem xét câu chuyện dưới góc độ thiên đường. Bằng cách tìm cách tái tạo hệ thống kiến thức trong đầu, chúng tôi đã nắm bắt được quả táo cấm; bây giờ chúng tôi có nguy cơ bị lưu đày khỏi thế giới quyến rũ của mình. Nhưng ai lại chọn không biết việc hiểu biết diễn ra như thế nào?

Tại bến du thuyền, Hinton đã làm rất tốt khi làm việc với gió, tăng tốc về phía trước, rẽ và sau đó để gió hướng dẫn anh vào đường trượt của mình. “Tôi đang học,” anh nói, tự hào về bản thân. Chúng tôi đi bộ lên bờ và đợi Rosemary đến một cửa hàng. Một lúc sau, Hinton vào trong mua một bóng đèn. Tôi đứng dậy, tận hưởng sự ấm áp và rồi nhìn thấy một người phụ nữ cao, mắt sáng, mái tóc dài màu trắng đang sải bước về phía tôi từ bãi đậu xe.

Rosemary và tôi bắt tay nhau. Rồi cô ấy nhìn qua vai tôi. Hinton đang xuất hiện từ bãi cây xanh gần cửa hàng, cười toe toét.

“Anh có gì cho tôi thế?” cô ấy hỏi.

Hinton giơ lên một con rắn sọc đen vàng, có lẽ dài khoảng một mét, xoắn tròn như một cái lò xo. “Tôi tới mang quà đây!” Anh ấy nói với giọng hào hiệp. “Tôi tìm thấy nó trong bụi cây.”

Rosemary cười lớn, hài lòng và quay sang tôi. “Điều này chỉ là hình ảnh thu nhỏ của anh ấy,” cô nói.

“Anh ấy không vui,” Hinton nói, quan sát con rắn.

“Bạn có muốn không?” Hương thảo hỏi.

“Tôi đang rất cẩn thận với cổ của anh ấy,” Hinton nói. “Chúng thật mong manh.”

Anh ta chuyển con rắn từ tay này sang tay khác rồi đưa lòng bàn tay ra. Nó được bao phủ trong lớp xạ hương nhầy nhụa của con rắn.

“Hãy hít một hơi đi,” anh nói.

Chúng tôi thay phiên nhau. Thật kỳ lạ: khoáng chất và cay nồng, loài bò sát và hóa chất, sinh học không thể nhầm lẫn.

“Anh dính đầy máu vào áo rồi!” Hương thảo nói.

“Tôi phải bắt được anh ta!” Hinton giải thích.

Anh ta thả con rắn xuống và nó trườn vào trong cỏ. Anh nhìn nó đi với vẻ hài lòng.

“Ồ,” anh nói. “Đó là một ngày đẹp trời. Chúng ta có dũng cảm vượt qua không?