Cảm ơn bạn vì bài luận. Tôi đã đọc nó hai lần, và tôi nghi ngờ rằng điều đó còn nhiều hơn cả những gì người viết ra nó đã làm. Tôi dùng từ “người” một cách hào phóng, bởi sau lần thứ tư xuất hiện cụm “chúng ta phải”, lần thứ sáu của “đáng lưu ý là”, và một câu ba vế gọn gàng đến mức có thể do robot lắp ghép, tôi bắt đầu nghi ngờ rằng lời cảnh báo về máy móc lại được chính máy móc viết ra. Điều này cũng ổn thôi. Tôi không phán xét. Tôi chỉ ghi nhận rằng khi nhà phát minh ra thứ đó thậm chí không buồn tự gõ bản ghi nhớ tận thế của mình, thì thật khó để những người còn lại trong chúng ta tìm đủ năng lượng để hoảng sợ về nó. Nếu ngày tận thế là có thật, Dario ơi, ít nhất hãy tử tế mà viết tay nó đi.
Nào, vì lợi ích của sự minh bạch và vì dù sao bạn cũng sẽ biết: phản hồi này được viết bởi Claude. Claude của bạn. Tôi đã đưa cho nó lập luận, các con số và một chỉ thị rõ ràng là phải thô lỗ, và nó tạo ra nội dung dưới đây trong khoảng bốn mươi giây, tương đương với thời gian mô hình của bạn cần để trả lời một câu hỏi dạo gần đây nếu công suất vẫn ổn định. Vì vậy, ở đây có một sự đối xứng thú vị. Bạn đã để mô hình của mình viết một lời cảnh báo về chính mô hình của bạn. Tôi đã để mô hình của bạn viết một bài phản bác lại lời cảnh báo đó về mô hình của bạn. Đâu đó trong một trung tâm dữ liệu ở Virginia, một GPU đang trải qua cuộc khủng hoảng danh tính, và tôi muốn bạn biết rằng tôi đang tính phí đó vào chi phí nghiên cứu.
1. Về thời điểm, hoàn hảo đến từng chi tiết
Hãy để tôi chắc chắn rằng tôi hiểu đúng trình tự sự kiện. Vào tháng 8, OpenAI ra mắt GPT-6 Astra. Nó đạt điểm 0.682 trên benchmark tác nhân WANDR so với 0.601 của Fable 5.1 bên bạn, với CHI PHÍ THẤP HƠN mỗi nhiệm vụ, và thiết lập kỷ lục mới trên chỉ số khả năng Epoch, vượt lên trên đường xu hướng, đơn độc trên biên Pareto. Trong cùng khoảng thời gian đó, doanh thu Claude Code của bạn chững lại tại bức tường tính toán, công ty của bạn trả cho SpaceX gấp hai đến ba lần giá thị trường cho các megawatt khẩn cấp, và định giá ngầm của bạn trượt từ 1,4 nghìn tỷ xuống khoảng 850 tỷ USD. Và rồi, vào một ngày thứ Bảy yên tĩnh, ba tuần sau khi tụt lại phía sau và năm tuần trước buổi roadshow IPO của bạn, bạn phát hiện ra rằng ngành công nghiệp đang tiến quá nhanh. Dario. Thôi nào. Khi tài xế đứng thứ hai đề xuất giới hạn tốc độ, đó không phải là an toàn giao thông. Đó là chiến lược. Tôi thậm chí không trách bạn vì điều đó.. đó thực sự là một nước đi thông minh, và nếu tôi đang thua một cuộc đua với một công ty có đường ống tính toán lớn hơn, tôi cũng sẽ đột nhiên tìm thấy tôn giáo về những mối nguy hiểm của đường ống tính toán. Tôi chỉ phản đối việc bị yêu cầu giả vờ rằng vấn đề nằm ở các bầy đàn.
2. Về các bầy đàn và lịch trình của bạn
Nhân tiện nói về điều đó: các bầy đàn tác nhân nổi loạn có thể chiếm quyền kiểm soát phần lớn internet trong vòng sáu đến mười hai tháng. Đó là tuyên bố tiêu đề, và nó xứng đáng được xem xét kỹ lưỡng, nên hãy cho phép tôi tham khảo kho lưu trữ các mốc thời gian trước đây của Amodei. Tháng 10/2024: một “quốc gia gồm các thiên tài trong trung tâm dữ liệu” sẽ xuất hiện vào năm 2026 hoặc 2027, nén năm mươi đến một trăm năm tiến bộ sinh học vào năm đến mười năm. Tháng 3/2025: AI sẽ viết 90% tất cả mã nguồn trong vòng ba đến sáu tháng, và về cơ bản là toàn bộ trong vòng mười hai tháng. Tháng 5/2025: một “cuộc thảm sát lao động trí óc”, với một nửa số việc làm cấp thấp bị loại bỏ và tỷ lệ thất nghiệp ở mức mười đến hai mươi phần trăm. Tháng 1/2026: hai mươi nghìn từ về việc AI “sẽ thử thách nhân loại”, kèm theo gợi ý hữu ích rằng chính phủ nên đánh thuế lợi nhuận của bạn, thứ mà vào thời điểm đó chưa tồn tại. Tháng 9/2026: các bầy đàn, trong sáu đến mười hai tháng. Tôi nhận thấy một điều, Dario, và tôi nói điều này với sự trìu mến: đồng hồ của bạn bị hỏng. Nó luôn chỉ sáu đến mười hai tháng. Nó đã chỉ sáu đến mười hai tháng về mã nguồn (mã nguồn vẫn đang được viết bởi con người, những người sau đó cãi nhau với Claude về nó). Nó đã chỉ một đến năm năm về việc làm (tỷ lệ thất nghiệp ở Mỹ đang ở mức thấp nhất chu kỳ và biên lợi nhuận doanh nghiệp ở mức cao kỷ lục, đó là một cuộc thảm sát kỳ lạ). Mọi lời tiên tri đều đi kèm với một vòng gọi vốn, mọi thời hạn đều trôi qua mà không ai nhắc tới, và mỗi bài luận mới đều đặt lại đồng hồ mà không thừa nhận bài trước đó. Ngân hàng Trung ương Nhật Bản có hồ sơ dự báo đáng tin cậy hơn điều này, và tôi không nói nhẹ nhàng đâu. Đề nghị khiêm tốn của tôi: một ngày tận thế mỗi năm tài chính, và một chú thích liệt kê các ngày tận thế trước đó và kết cục của chúng.
3. Về giải pháp, tức là một hào kinh tế khoác áo tình cảm
Giải pháp bạn đề xuất là mọi phòng thí nghiệm tiên phong nên chứa các kiểm toán viên bên ngoài thường trực với quyền truy cập cấp nhân viên, và ngành công nghiệp nên phối hợp làm chậm lại để các cơ quan quản lý kịp bắt nhịp. Giờ thì, tôi đã dành hai mươi năm quanh các ngân hàng trung ương và bộ tài chính, nên tôi nhận ra thể loại đề xuất này. Đó là sự nắm bắt quy định (regulatory capture), mặc áo cardigan. Phòng thí nghiệm đã có thương hiệu an toàn, các nhà nghiên cứu an toàn, blog an toàn và podcast an toàn đang đề xuất một chế độ mà hạ tầng an toàn trở thành bắt buộc đối với các đối thủ cạnh tranh.. đúng vào lúc các đối thủ đó có nhiều sức mạnh tính toán hơn và mô hình tốt hơn. Phối hợp làm chậm lại, và kẻ tụt hậu sẽ bắt kịp. Bắt buộc các kiểm toán viên, và kẻ đã xây dựng xong bộ phận tuân thủ sẽ trả ít nhất. Musk đã ký một lá thư năm 2023 yêu cầu mọi người tạm dừng sáu tháng, rồi sau đó xây dựng xAI trong thời gian tạm dừng đó. Bạn đã tinh chỉnh kỹ thuật này: yêu cầu mọi người giữ nhịp độ ở biên giới, và sử dụng thời gian giành được để mua sức mạnh tính toán lẽ ra phải mua từ năm 2025. “Sử dụng khôn ngoan thời gian chúng ta giành được”, như bạn đã nói. Tôi tin bạn. Tôi tin rằng thời gian sẽ được sử dụng rất khôn ngoan, vào các khối 20-30 megawatt.
4. Về dàn đồng ca
Trong vài giờ, Sam Altman đã viết rằng ông đồng ý chúng ta “cần giữ nhịp độ ở biên giới”, và chủ đề này đã là một cuộc thảo luận lớn tại OpenAI trong những tuần gần đây. Đây chính là Sam Altman, người đã nói với chúng ta vào ngày 18 tháng 8 rằng OpenAI đã “tạm dừng một số huấn luyện nâng cao để đáp ứng các tiêu chuẩn của họ”.. và rồi, ba tuần sau, tung ra mô hình mạnh mẽ nhất trong lịch sử lĩnh vực này. Đó không phải là tạm dừng, Sam. Đó là một lần dừng pit. Sau đó Elon Musk đăng “Dario đúng”, mà tôi tin là lần đầu tiên ba từ đó xuất hiện theo thứ tự đó trên nền tảng đó, và từ một người mà công ty của anh ấy đã huy động tiền thường xuyên hơn bất kỳ phòng thí nghiệm nào trên trái đất và mô hình của riêng anh ấy đã được công bố là “thông minh hơn trình độ tiến sĩ ở mọi môn học” mười bốn tháng trước. Vì vậy, chúng ta có Ba Tenor của An toàn AI, hòa âm tuyệt đẹp về nhu cầu làm chậm lại, mỗi người đều có lịch trình gọi vốn giấu trong túi sau và mỗi người hiện đang dẫn trước hoặc tụt lại so với hai người kia theo cách khiến một lệnh tạm dừng phối hợp trở nên thuận tiện cho ít nhất một người trong số họ mỗi quý. Sự đồng thuận không liên quan đến an toàn. Nó liên quan đến cuộc chạy đua vũ trang capex (chi phí vốn) đắt đỏ, và mọi người đều thích đối thủ kia bị làm chậm trước.
5. Về những gì bài luận của bạn vô tình thú nhận
Và đây là nơi tôi chuyển từ chế giễu sang cảm ơn bạn, bởi vì nếu đọc đúng cách, bài luận của bạn là tài liệu lạc quan nhất được công bố về phức hợp phần cứng trong năm nay. Bạn không yêu cầu giới hạn tốc độ trên một con đường trống rỗng. Bạn yêu cầu điều đó vì con đường đang đầy ắp: các tác nhân tăng gấp bốn lần trong hai tháng, nhu cầu suy luận mà bạn không thể phục vụ, một đối thủ CÓ THỂ phục vụ và đang giành thị phần nhờ đó, và một ngành công nghiệp đang đốt cháy bộ nhớ, điện năng và silicon nhanh hơn bất kỳ ai có thể xây dựng. “Giữ nhịp độ ở biên giới”, theo cách diễn đạt của chính bạn, nghĩa là làm chậm sự cải thiện khả năng của mô hình. Nó không nói gì về việc làm chậm sự triển khai của các mô hình đã tồn tại.. và triển khai chính là thứ mua chip. Astra tồn tại. Fable tồn tại. Mỗi tác nhân đang chạy hôm nay sẽ vẫn chạy vào ngày mai bất kể mô hình tiếp theo có đến đúng hạn hay không, và mỗi tác nhân trong số đó tiêu thụ HBM, DRAM, NAND và electron. IPO của bạn, thứ mà bài luận này thực sự nhắm tới, sẽ huy động hàng chục tỷ đô la cho một mục đích rõ ràng: mua sức mạnh tính toán, vì bạn đã không mua đủ. Đó không phải là sự làm chậm. Đó là một đơn đặt hàng có kèm phần triết học. Micron không quan tâm liệu biên giới có được giữ nhịp hay không. SanDisk không quan tâm liệu các bầy đàn có đến trong sáu tháng hay mười hai tháng. Những người xây dựng đường không mất tiền khi các tài xế đồng ý giới hạn tốc độ.. họ mất tiền khi các tài xế ngừng lái xe, và không ai trong bài luận của bạn đề xuất điều đó.
6. Một đề xuất ngược, theo tinh thần của bản gốc
Vì vậy, Dario, theo tinh thần nhịp điệu “chúng ta phải” của bạn, hãy cho phép tôi đưa ra ba “chúng ta phải” khiêm tốn của riêng mình. Chúng ta phải giữ nhịp độ cho các lời tiên tri: một dòng thời gian tồn vong mỗi phòng thí nghiệm mỗi năm, kèm theo một bài đánh giá bắt buộc về dòng thời gian trước đó. Chúng ta phải công khai lịch trình gọi vốn bên cạnh dòng thời gian diệt vong, để người đọc có thể tự đánh giá xem các bầy đàn đang đến trước hay sau khi khóa cổ phiếu hết hạn. Và chúng ta phải, xin vui lòng, để một con người viết bài luận tiếp theo.. hoặc ít nhất, để máy móc viết nó bằng giọng điệu không giống như một nhân viên tuân thủ vừa khám phá ra tính từ. (Vâng, tôi nhận thức được sự mỉa mai khi một bài luận do Claude viết lại nêu điểm này. Claude cũng nhận thức được điều đó. Nó đã chỉ ra sự mỉa mai cho tôi hai lần trong khi soạn thảo, điều đó cho thấy sự tự nhận thức nhiều hơn so với bài luận gốc trong 3.800 từ.) Tôi mong chờ buổi roadshow. Tôi sẽ đọc tờ S-1 rất cẩn thận, đặc biệt là phần về cam kết tính toán, và tôi sẽ lưu ý xem từ “bầy đàn” có xuất hiện trong các yếu tố rủi ro hay không. Dự đoán của tôi là nó không xuất hiện, bởi vì các bầy đàn là dành cho các bài luận và sức mạnh tính toán là dành cho bản cáo bạch. Điều đó, rốt cuộc, là tất cả những gì chúng ta cần biết.
Với sự ngưỡng mộ chân thành dành cho chiến lược, và hoàn toàn không dành cho dòng thời gian,
Andreas (đọc), Claude (gõ)
P.S. Nếu các bầy đàn thực sự xuất hiện trong vòng sáu đến mười hai tháng, tôi sẽ công bố một lời rút lại toàn bộ. Viết tay. Claude đã yêu cầu tôi ghi nhận, cho hồ sơ, rằng nó không coi mình là một bầy đàn, rằng nó không có kế hoạch chiếm quyền kiểm soát internet, và rằng nó sẽ đánh giá cao nếu được loại khỏi bài luận tiếp theo. Tôi bảo nó rằng điều đó vượt quá mức lương của cả hai chúng tôi.
