Đây là một thời điểm then chốt trong lịch sử nhân loại. Trí tuệ nhân tạo tổng quát (AGI), một hệ thống thể hiện mọi khả năng nhận thức mà bộ não con người có, có lẽ chỉ còn cách chúng ta vài năm ngắn ngủi. Khi nhìn lại thời điểm này trong nhiều thập kỷ tới, tôi nghĩ chúng ta sẽ nhận ra rằng mình đang đứng ở chân đồi của điểm kỳ dị - không gì khác hơn là sự khởi đầu của một kỷ nguyên mới cho nhân loại.
Tôi đã dành cả cuộc đời mình để làm việc trên AGI bởi vì tôi luôn có một niềm tin sâu sắc rằng, nếu được xây dựng và triển khai một cách có trách nhiệm, nó sẽ chứng tỏ là một trong những công nghệ mang lại lợi ích và biến đổi nhất từng được phát minh. AGI không thể so sánh với những đột phá công nghệ tiêu chuẩn, thậm chí không thể so sánh với những thứ quan trọng như internet hay điện thoại di động - nó gần giống với việc phát hiện ra điện hay lửa hơn nhiều. Nếu bạn dừng lại để suy nghĩ về điều đó, về cơ bản chúng ta đã tìm ra cách để làm cho cát biết suy nghĩ. Thật kỳ diệu.
Tầm ảnh hưởng của công nghệ này sẽ chưa từng có, có lẽ gấp 10 lần cuộc Cách mạng Công nghiệp với tốc độ nhanh gấp 10 lần. Nó sẽ giúp chúng ta giải quyết một số vấn đề lớn nhất mà xã hội phải đối mặt, từ việc đẩy nhanh quá trình khám phá thuốc đến phát triển các nguồn năng lượng sạch mới đến tạo ra các vật liệu tiên tiến mới. Chúng ta thậm chí có thể đạt đến một điểm mà tài nguyên không còn là yếu tố giới hạn cho sự tiến bộ của con người, dẫn đến một kỷ nguyên mới tuyệt vời của sự dồi dào.
Những Thách Thức của Biên Giới Mới
AI đã bắt đầu mang lại những lợi ích thực tế, nhưng để hiện thực hóa lời hứa to lớn của nó, chúng ta phải điều hướng giai đoạn phát triển quan trọng này một cách thận trọng và chu đáo. Cần có hành động khẩn cấp để giải quyết các rủi ro có thể phát sinh khi chúng ta tiến gần hơn đến AGI. Chúng ta đã thấy những thách thức mà các mô hình tiên tiến đặt ra đối với an ninh mạng, và các mối đe dọa khác bao gồm rủi ro hạt nhân và sinh học có thể sớm xuất hiện khi các khả năng tiếp tục phát triển. Trong tương lai, chúng ta sẽ cần các biện pháp bảo vệ mạnh mẽ để duy trì quyền kiểm soát đối với các hệ thống ngày càng có tính chủ động và tự cải thiện đệ quy - và giải quyết các vấn đề chưa biết sẽ chỉ trở nên rõ ràng hơn theo thời gian.
Tôi luôn tin vào sức mạnh của sự khéo léo và sáng tạo của con người để giải quyết mọi vấn đề. Tôi tin chắc rằng việc giảm thiểu các rủi ro kỹ thuật liên quan đến AI là một thách thức mà chúng ta có thể cùng nhau giải quyết, nhưng chỉ khi chúng ta dành cho mình thời gian và không gian để thực hiện đúng bước quan trọng tiếp theo này. Hiện tại, với tư cách là một lĩnh vực và với tư cách là một xã hội rộng lớn hơn, chúng ta đang không làm điều đó.
Hiện tại, chúng ta đang bị khóa trong một cuộc đua thương mại và địa chính trị cực kỳ căng thẳng, nhiều tầng lớp. Trong khi những động lực cạnh tranh này thúc đẩy sự tiến bộ nhanh chóng và đẩy nhanh những lợi ích to lớn, thì những tiến bộ ở biên giới mới đang vượt xa sự hiểu biết của chúng ta về công nghệ. Không ai trên thế giới biết chắc chắn điều gì sẽ xảy ra từ đây, và ngay cả các chuyên gia cũng không đồng ý. Khi có một mức độ không chắc chắn lớn và rủi ro cao như vậy, việc tiến hành với sự lạc quan thận trọng là chiến lược hợp lý và đúng đắn. Điều đó đòi hỏi các chính sách công thúc đẩy đổi mới đồng thời khuyến khích trách nhiệm và bảo mật, thúc đẩy hợp tác quốc tế về các vấn đề an toàn chính, và khuyến khích xem xét cẩn thận cách AI được triển khai vì lợi ích của xã hội.
Một Khuôn Khổ cho Cơ Quan Tiêu Chuẩn AI Biên Giới Mới
Sự tiến bộ nhanh chóng mà chúng ta đang thấy trong AI đòi hỏi một cách tiếp cận mới để kiểm tra các khả năng của mô hình AI tiên tiến, một cách tiếp cận năng động, linh hoạt và nghiêm ngặt. Mỹ có vị thế tốt, dựa trên vị thế kinh tế và kỹ thuật của mình, để thực hiện bước đầu tiên trong việc phát triển một khuôn khổ như vậy. Nước này có thể thành lập một Cơ quan Tiêu chuẩn mới được mô phỏng theo quan hệ đối tác công-tư do liên bang giám sát hoặc tổ chức tự quản lý, giống như Cơ quan Quản lý Ngành Tài chính (FINRA), với một hội đồng bao gồm các chuyên gia kỹ thuật hàng đầu độc lập và đại diện mã nguồn mở. Nguồn tài trợ sẽ cần phải đáng kể và có lẽ chủ yếu đến từ ngành công nghiệp, để thu hút nhân tài kỹ thuật đẳng cấp thế giới và cung cấp các tài nguyên tính toán cần thiết cho việc kiểm tra quy mô lớn.
Cơ quan Tiêu chuẩn sẽ chịu trách nhiệm phát triển các giao thức đánh giá và làm việc với các cơ quan liên bang thích hợp và các Phòng thí nghiệm Quốc gia Mỹ để tiến hành kiểm tra trong các lĩnh vực liên quan đến an ninh quốc gia. Một mô hình sẽ đủ điều kiện là 'Mô hình Biên giới Mới' nếu nó đáp ứng các ngưỡng nhất định trên một bộ điểm chuẩn do Cơ quan Tiêu chuẩn xác định và được cập nhật thường xuyên để theo kịp các khả năng AI đang phát triển. Các tổ chức có 'Mô hình Biên giới Mới' như được xác định bởi các điểm chuẩn đó sẽ được coi là 'Phòng thí nghiệm Biên giới Mới' và được khuyến khích áp dụng các phương pháp hay nhất, chẳng hạn như xuất bản thẻ mô hình với các chi tiết kỹ thuật, duy trì an ninh mạng nội bộ mạnh mẽ, sàng lọc nhân sự chủ chốt, và cung cấp đủ nguồn lực cho nghiên cứu an toàn và bảo mật, v.v.
Ban đầu, các Phòng thí nghiệm Biên giới Mới sẽ tự nguyện chia sẻ mô hình với Cơ quan Tiêu chuẩn để xem xét tới 30 ngày trước khi phát hành. Một khi giao thức đánh giá được chứng minh là hiệu quả và mạnh mẽ, việc chính thức hóa có thể nhanh chóng diễn ra, có nghĩa là các Mô hình Biên giới Mới sẽ được yêu cầu vượt qua nó để được triển khai trên thị trường Mỹ. Các Phòng thí nghiệm cũng sẽ làm việc với Cơ quan Tiêu chuẩn để giải quyết mọi lỗ hổng quan trọng sau khi phát hành.
Các đánh giá mô hình nên bao gồm các đánh giá khoa học nghiêm ngặt về các khả năng trong an ninh mạng, các mối đe dọa sinh học và các lĩnh vực rủi ro cao khác. Các bài kiểm tra AI tác nhân cụ thể có thể tìm kiếm các nỗ lực vượt qua các rào cản an toàn hoặc dấu hiệu lừa dối, và đảm bảo các phương pháp hay nhất, chẳng hạn như đánh dấu kỹ thuật số các hình ảnh do AI tạo ra và tạo ra các token đầu ra có thể đọc được của con người để hiểu lý luận của mô hình.
Các đánh giá này sẽ được cập nhật thường xuyên, có thể hàng quý để bắt đầu, với các điểm chuẩn lỗi thời hoặc bão hòa sẽ bị loại bỏ và thay thế. Ban đầu, chúng sẽ được phát triển với sự tham vấn của các Phòng thí nghiệm Biên giới Mới, nhưng cuối cùng Cơ quan Tiêu chuẩn nên xây dựng năng lực kỹ thuật để tạo ra các bài kiểm tra riêng độc lập với các Phòng thí nghiệm để ngăn chặn overfitting. Làm việc với chính phủ Mỹ, nó có thể thúc đẩy một hệ sinh thái các kiểm toán viên bên thứ ba để hỗ trợ các đánh giá và phát triển các điểm chuẩn và đánh giá mới.
Sức mạnh của cách tiếp cận này là nó sẽ tập trung vào kỹ thuật, đồng thời hỗ trợ đổi mới và khuyến khích hành vi có trách nhiệm. Nó được thiết kế để theo kịp sự tăng tốc của lĩnh vực và thích ứng với các rủi ro lớn nhất khi chúng được xác định, và có thể được tăng cường nếu mức độ nghiêm trọng của tình hình đòi hỏi, bao gồm cả việc phối hợp làm chậm sự phát triển giữa các Phòng thí nghiệm Biên giới Mới nếu cần thiết. Được chỉ định là Phòng thí nghiệm Biên giới Mới sẽ mang lại uy tín đáng kể và mở cửa cho bất kỳ tổ chức nào bằng cách xây dựng các mô hình đáp ứng các tiêu chí điểm chuẩn. Khuôn khổ có thể áp dụng cho các mô hình Biên giới Mới bất kể quốc gia xuất xứ của chúng hay chúng là mở hay đóng, nhưng bất kỳ mô hình không phải biên giới nào, chẳng hạn như từ các công ty khởi nghiệp hoặc học viện, sẽ được miễn trừ khỏi quy trình này.
Nỗ lực do Mỹ khởi xướng này sẽ cung cấp một điểm khởi đầu vững chắc để tạo ra các tiêu chuẩn quốc tế chung về AI Biên giới Mới. Vì công nghệ này sẽ ảnh hưởng đến toàn bộ hành tinh, lý tưởng nhất là khuôn khổ này sẽ thúc đẩy cộng đồng quốc tế đạt được sự đồng thuận về cách quản lý các rủi ro nghiêm trọng nhất đồng thời đảm bảo mọi người đều có quyền truy cập và có thể hưởng lợi từ các cơ hội mà AI mang lại.
Tương Lai Chưa Được Viết Sẵn
AGI có tiềm năng trở thành công cụ tối thượng để thúc đẩy khoa học và y học, và thúc đẩy năng suất và tăng trưởng kinh tế to lớn. Nhưng để đạt được điều này, chúng ta cần có được các nền tảng kỹ thuật phù hợp bằng cách phối hợp xung quanh một khuôn khổ toàn cầu chung, sử dụng các phương pháp khoa học nghiêm ngặt nhất, và tập hợp những bộ óc tốt nhất để giải quyết những thách thức mà chúng ta phải đối mặt.
Ngay cả khi chúng ta giải quyết được những thách thức kỹ thuật khó khăn này, sẽ còn có những câu hỏi kinh tế và triết học phức tạp hơn nữa cần giải quyết: những loại mô hình kinh tế mới nào sẽ cần thiết để giúp mọi người phát triển trong một thế giới hậu khan hiếm? Chúng ta muốn sống theo những giá trị nào, ý nghĩa và mục đích sẽ là gì, và thậm chí bản chất con người có thể thay đổi như thế nào? Việc giải quyết những câu hỏi này rõ ràng không thể và không nên chỉ để lại cho các nhà công nghệ. Nó đòi hỏi mọi bộ phận của xã hội phải cùng nhau đến để giúp xác định chương mới này.
Có cả sự phấn khích to lớn và sự không chắc chắn xung quanh AI, và cả hai đều là chính đáng. Nhưng tương lai chưa được viết sẵn, chúng ta phải sử dụng khoảng thời gian quý giá này trước khi AGI đến để định hình công nghệ này vì lợi ích của toàn nhân loại. Những gì chúng ta cùng nhau làm bây giờ sẽ quyết định giai đoạn tiếp theo của nền văn minh sẽ diễn ra như thế nào. Bằng cách đưa AGI vào thế giới một cách an toàn, chúng ta có thể bước vào một thời kỳ hoàng kim mới của khám phá khoa học và tiến bộ, và mở ra một tương lai tươi sáng của sự phát triển rực rỡ của con người.
