Làm thế nào phòng thí nghiệm thông minh nhất thế giới vô tình gửi nhầm sản phẩm
Tôi đã yêu cầu mô hình công khai mạnh nhất của Anthropic chỉnh sửa một bài luận về Anthropic. Nó đã không bao giờ có cơ hội. Tôi đính kèm bản thảo này và gõ bảy từ vô hại: “Viết lại cho nó NỔI BẬT. Định dạng cho Twitter.” Ứng dụng tự động chuyển tác vụ từ Fable 5 sang Opus 4.8. Giải thích của nó rất đơn giản: “Các biện pháp bảo vệ của Fable đã gắn cờ tin nhắn này.”
Nói chính xác thì đây không phải là giới hạn tỷ lệ thông thường. Fable đã không trả lời và từ chối. Biện pháp bảo vệ của Anthropic đã chặn yêu cầu trước khi mô hình được chọn có thể phản hồi và chuyển hướng nó sang một mô hình khác. Anthropic đã giải thích rằng đây chính xác là cách hệ thống hoạt động: khi bộ phân loại của Fable chặn một yêu cầu, yêu cầu đó sẽ được gửi đến Opus 4.8. Công ty cũng đã thừa nhận rằng họ cố tình mở rộng biên độ an toàn của bộ phân loại, biết rằng kết quả sẽ là nhiều cảnh báo sai hơn đối với công việc vô hại. (Anthropic
Tôi không biết tại sao biện pháp bảo vệ lại kích hoạt, và tôi không cho rằng Anthropic kiểm duyệt chỉ trích. Sự thật có thể kiểm chứng—và đủ kỳ lạ—là một yêu cầu chỉnh sửa thông thường đã bị chặn bởi một biện pháp bảo vệ mà cảnh báo của chính nó đã thảo luận về các cảnh báo sai trong công việc lập trình hợp pháp, an ninh mạng và sinh học. Đó là một mở đầu gần như hài hước hoàn hảo cho một bài luận về nhóm đã tạo ra thứ mà nhiều người tin là hệ thống AI thông minh nhất hành tinh.
Bài luận này xem xét điều gì xảy ra khi một hệ thống trở nên quá bận tâm với hiệu suất của các bộ phận riêng lẻ đến nỗi nó đánh mất kết quả mà toàn bộ hệ thống tồn tại để tạo ra. Mô hình có thể xuất sắc, biện pháp bảo vệ có thể hoạt động chính xác như thiết kế, và chính sách định giá có thể hoàn toàn hợp lý đối với những người tạo ra nó. Công việc của người dùng vẫn có thể chưa hoàn thành.
Ví dụ A:
Tôi đã yêu cầu Fable 5 chỉnh sửa bài viết này. Các biện pháp bảo vệ của Anthropic đã gắn cờ yêu cầu và chuyển nó sang Opus 4.8.
Những Con Gà và Những Quả Trứng Của Chúng
Năm 1982, nhà di truyền học William Muir của Đại học Purdue bắt đầu một thí nghiệm nhân giống bất thường với gà đẻ trứng. Muir muốn biết điều gì sẽ xảy ra nếu năng suất được chọn lọc ở cấp độ nhóm thay vì cá thể. Thay vì chỉ nhân giống từ những con gà có năng suất cao nhất—một thước đo sản lượng cá thể thuần túy—ông đã nuôi các con gà có quan hệ họ hàng với nhau và chọn lọc toàn bộ nhóm gia đình theo hiệu suất tập thể của chúng. Cái lồng, thay vì con gà riêng lẻ, trở thành đơn vị chọn lọc. (PubMed
Margaret Heffernan sau đó đã biến chương trình nhân giống kỹ thuật của Muir thành câu chuyện “siêu gà” nổi tiếng. Đối với các nhà quản lý, câu chuyện của cô trở thành một lời cảnh báo đáng ngại: thuê những người mạnh nhất và thông minh nhất không phải lúc nào cũng tạo ra sản lượng tốt nhất. Trong cách kể lại của cô, một đàn gà được phép duy trì như một đàn bình thường—không có siêu gà. Một nhóm thứ hai được nhân giống nhiều lần từ những con gà có năng suất cá thể cao nhất; cô gọi chúng là “những con gà toàn sao.” (Purdue Alumnus
Kết quả thật ấn tượng. Qua sáu thế hệ, tỷ lệ tử vong hàng năm ở đàn gà được chọn lọc theo nhóm của Muir giảm từ 68% xuống còn 8,8%. Trong cùng thời kỳ, sản lượng tăng từ 91 lên 237 trứng mỗi con gà—gấp 2,6 lần sản lượng ban đầu. Trong một so sánh trực diện sau đó được thực hiện trên các nhóm mười hai con, một dòng thương mại được nhân giống cho hiệu suất cá thể bị tỷ lệ tử vong 89% ở tuần tuổi 58. Dòng chọn lọc theo nhóm của Muir chỉ bị tỷ lệ tử vong 20%, trong khi nhóm đối chứng không được chọn lọc bị 54%. Trong cùng môi trường nhóm đó, đàn gà được chọn lọc theo nhóm vượt trội so với các siêu gà thương mại về số trứng mỗi con gà, khối lượng trứng và số trứng mỗi con mỗi ngày. (PubMed
Trong khi đó, đàn gà siêu sao thì xơ xác và kiệt quệ. Trong phiên bản thí nghiệm đã làm nên sự nổi tiếng của câu chuyện, sáu trong số chín con gà mái toàn sao đã chết và ba con còn lại bị mổ trụi lông. Đàn gà, gần như theo nghĩa đen, đã mổ nhau đến chết. (Purdue Alumnus
Bài học không bao giờ là sự tầm thường đánh bại tài năng. Bài học thực sự là sản lượng của bạn sẽ phản ánh những gì bạn khen thưởng. Chỉ chọn lọc theo hiệu suất cá thể và bạn có thể vô tình xây dựng một đội yếu hơn, bởi vì những đặc điểm cho phép một cá thể thống trị có thể làm giảm năng suất của mọi người xung quanh họ. Chọn lọc cá thể dựa trên những gì họ đóng góp cho nhóm, và những phẩm chất biến mất trong một bảng xếp hạng cá nhân—tính tương thích, sự kiềm chế, độ tin cậy và sự hợp tác—đột nhiên trở nên hữu hình.
Đóng góp thực sự của một con gà không chỉ là số lượng trứng nó có thể đẻ ra. Nó bao gồm những gì sự hiện diện của nó cho phép—hoặc ngăn cản—những con gà khác sản xuất. Muir đã không từ bỏ năng suất để ủng hộ sự hòa hợp. Ông đã khám phá ra rằng, trong một hệ thống xã hội, sự hòa hợp là một phần của năng suất. Đơn vị hiệu suất thực sự chưa bao giờ là con gà. Đó là cái chuồng.
Tôi đã học được một phiên bản của bài học khó giành được này khi điều hành công ty xây dựng của riêng mình. Trong nhiều năm, việc tìm kiếm người giúp việc đáng tin cậy trong ngành nghề cụ thể của chúng tôi khó đến nỗi một người toàn sao giống như sự cứu rỗi. Nhưng những người trông giống như ngôi sao toàn năng thường đi kèm với một khoản thuế ẩn: các ngoại lệ bổ sung, quản lý bổ sung, tinh thần bị tổn hại và xung đột mà phần còn lại của đội phải hấp thụ.
Cuối cùng, tôi không còn chỉ hỏi, “Người này giỏi nghề của họ đến mức nào?” và bắt đầu hỏi, “Điều gì xảy ra với công việc của những người khác khi người này tham gia đội?” Người trông mạnh nhất không phải lúc nào cũng là người thực sự làm cho công ty mạnh hơn. Một thợ lành nghề bậc thầy làm chậm mọi công việc liên quan, tiêu tốn sự chú ý của quản đốc, hoặc xua đuổi những người đáng tin cậy có thể ấn tượng khi đứng một mình nhưng đắt đỏ trong thực tế. Một người lao động ít nói hơn, người làm cho toàn bộ đội đáng tin cậy hơn, có thể đóng góp nhiều hơn nhiều so với sản lượng cá nhân của họ tiết lộ.
Siêu Chuồng Gà
Anthropic thực sự đã tập hợp một đàn gà thông minh phi thường. Một phân tích của SignalFire năm 2025, dựa trên dữ liệu việc làm công khai, ước tính rằng các kỹ sư có khả năng chuyển từ OpenAI sang Anthropic cao gấp tám lần so với chiều ngược lại và gần mười một lần có khả năng chuyển từ DeepMind sang đó. Nó cũng ước tính rằng 80% nhân viên của Anthropic được tuyển dụng ít nhất hai năm trước đó vẫn ở lại đến cuối năm thứ hai, so với 78% tại DeepMind và 67% tại OpenAI. (SignalFire
Những con số đó không mô tả một công ty đang vật lộn để thu hút hoặc giữ chân nhân tài. Chúng mô tả một thỏi nam châm hút các ngôi sao toàn năng.
Điều đó không có nghĩa là nhân viên của Anthropic đang mổ nhau đến chết. Đó sẽ là một phép so sánh rẻ tiền, và các con số nhân tài không chứng minh điều đó. Mối nguy hiểm quan trọng hơn là tinh tế hơn. Khi một công ty có thể chỉ ra một cách đáng tin cậy các nhà nghiên cứu xuất sắc, tỷ lệ giữ chân cao bất thường và các mô hình tiên tiến hàng đầu, việc coi sự xuất sắc trong các bộ phận riêng lẻ như bằng chứng cho thấy toàn bộ hệ thống đang hoạt động trở nên dễ dàng.
Thí nghiệm của Muir chứng minh tại sao suy luận đó không thể tin cậy được. Mối nguy hiểm không phải là sự xuất sắc. Mối nguy hiểm là đo lường hiệu suất ở một cấp độ quá thấp.
Mô Hình Không Phải Là Sản Phẩm
Ngành công nghiệp AI được xây dựng xung quanh những con gà siêu sao: các nhà nghiên cứu nổi tiếng, các mô hình dẫn đầu bảng xếp hạng, các gói đền bù khổng lồ và các trang ra mắt phủ đầy những từ ngữ cường điệu. Bên trong phòng thí nghiệm, thứ bậc rõ ràng. Bên ngoài, chúng ta chỉ thấy những quả trứng.
Thung lũng Silicon có một điểm mù rõ ràng: đội ngũ của bạn có thể xuất sắc trong khi sản phẩm bạn xây dựng vẫn gây khó chịu, khó tiếp cận hoặc không đáng tin cậy.
Người dùng hàng ngày không đánh giá một mô hình dựa trên đội ngũ gà tài năng của nó hay các điểm chuẩn của nó. Chúng ta chỉ có mô hình, ứng dụng, các biện pháp bảo vệ, giới hạn sử dụng, giá cả và hỗ trợ khách hàng.
Hai Công Ty, Cách Nhau 74 Phút
Vào ngày 17 tháng 7, Anthropic đã đáp lại nhu cầu quá lớn đối với Fable bằng một sự thỏa hiệp. Bắt đầu từ ngày 20 tháng 7, các thuê bao Max và Team Premium sẽ nhận được Fable như một phần trong gói của họ, nhưng ở một nửa giới hạn thông thường. Người dùng Pro và Team Standard sẽ tiếp tục truy cập mô hình thông qua tín dụng sử dụng và sẽ nhận được tín dụng một lần trị giá $100.
https://x.com/claudeai/status/2078302415804379218
Bảy mươi bốn phút sau, Thibault Sottiaux của OpenAI thông báo rằng giới hạn sử dụng đã được đặt lại cho mọi người dùng Codex và ChatGPT Work trả phí.
Đây không phải là những lời đề nghị giống nhau về mặt kinh tế. Anthropic đang thiết lập một chính sách truy cập liên tục cho một mô hình tiêu tốn nhiều tính toán bất thường, trong khi OpenAI đang cấp một lần đặt lại tạm thời sau một lần ra mắt sản phẩm khó khăn. Lưu ý đó quan trọng. Sự tương phản trong tư thế sản phẩm vẫn khó có thể bỏ qua.
https://x.com/thsottiaux/status/2078320950488297917
OpenAI không hành động từ vị trí hoàn hảo. Gần đây họ đã làm hỏng các phần trong quá trình triển khai máy tính để bàn và ChatGPT Work của chính mình, và Sottiaux đã công khai thừa nhận rằng công ty “đã không làm đúng mọi thứ.” Người dùng đã gặp phải các cài đặt tính toán cao gây nhầm lẫn, chi phí sử dụng không minh bạch và một thiết kế lại làm gián đoạn các quy trình làm việc quen thuộc. OpenAI đã phản ứng bằng cách thay đổi các cài đặt mặc định, hứa sửa giao diện và liên tục đặt lại mức sử dụng để khách hàng có thể tiếp tục làm việc.
Một tổ chức đang biện minh cho sự khan hiếm. Tổ chức kia đang tạo ra thiện chí.
OpenAI không phải là một đàn gà tầm thường. Nó cũng có đầy những tài năng xuất sắc, và nó đã mắc những sai lầm nghiêm trọng về văn hóa và sản phẩm của riêng mình. Sự khác biệt có ý nghĩa vào thời điểm này không phải là trí thông minh, dù là trong các mô hình hay trong chuồng gà. Đó là những gì hệ thống dường như khen thưởng khi áp lực đến.
Ở trạng thái tốt nhất, tư thế sản phẩm hiện tại của OpenAI là bình thường một cách không ngừng nghỉ. Nó bắt đầu với nhiệm vụ của người dùng: Người này đang cố gắng hoàn thành điều gì? Điều gì đang ngăn cản họ hoàn thành? Đâu là điểm khó khăn, và chúng ta có thể loại bỏ nó nhanh đến mức nào? Việc đặt lại không chứng minh rằng OpenAI đã giải quyết được văn hóa sản phẩm, nhưng nó cho người dùng thấy một bản năng hấp thụ một phần chi phí cho những sai lầm của chính mình thay vì để họ gánh tất cả.
Tư thế sản phẩm của Anthropic quá thường xuyên truyền đạt một điều gì đó khác: Chúng tôi đã tạo ra trí thông minh phi thường, và trách nhiệm chính của chúng tôi là xác định bạn có thể truy cập bao nhiêu phần trăm một cách an toàn. Đó có thể là một tư thế thể chế mạch lạc, nhưng nó không phải là một tư thế lấy khách hàng làm trung tâm. Những quả trứng vàng rất ấn tượng, nhưng chúng không nuôi sống gia đình khi chuồng gà không cho phép bạn thu thập chúng.
Một công ty ngày càng tổ chức xung quanh nhiệm vụ của người dùng. Công ty kia vẫn tổ chức xung quanh rủi ro hệ thống. Cả hai công ty đều phải quan tâm đến cả hai câu hỏi, nhưng câu hỏi họ hỏi đầu tiên định hình sản phẩm cuối cùng họ xây dựng. Sự khác biệt không chỉ xuất hiện trong các tuyên bố sứ mệnh. Nó xuất hiện trong định tuyến, giới hạn, giá cả, truyền thông và sự sẵn lòng sửa chữa lòng tin khi hệ thống thất bại.
Toàn bộ chuồng gà
Văn hóa không phải là những gì một công ty nói về chính mình. Văn hóa là những gì hệ thống của nó liên tục làm cho dễ dàng—và những gì chúng liên tục làm cho khó khăn.
Anthropic không cần ít người xuất sắc hơn. Nó cần một định nghĩa rộng hơn về thành công, một định nghĩa bao gồm không chỉ trí thông minh của mô hình và sức mạnh của các biện pháp bảo vệ mà còn cả khả năng truy cập, độ tin cậy, tính minh bạch và lòng tin. Từ phía khách hàng, thước đo cuối cùng đơn giản một cách đáng ngạc nhiên: Tôi có thể phụ thuộc vào toàn bộ hệ thống này để hoàn thành công việc không?
Muir đã không làm cho những con gà của mình kém năng suất hơn. Ông đã thay đổi cấp độ mà tại đó năng suất được đo lường và khám phá ra rằng hiệu suất tập thể chứa đựng thông tin mà số lượng trứng cá thể không thể nắm bắt được. Những con gà được chọn lọc cho hiệu suất nhóm trở nên khỏe mạnh hơn và năng suất hơn vì tương tác phá hoại không còn vô hình trước thước đo. Hợp tác không phải là một sự thay thế đầy cảm xúc cho sản lượng. Nó là một trong những điều kiện giúp tạo ra sản lượng lớn hơn.
Cuộc đua mô hình tiên tiến đang bước vào cùng một giai đoạn. Khi chỉ có một phòng thí nghiệm có thể tạo ra trí thông minh phi thường, mô hình thông minh nhất có thể trông không thể phân biệt được với sản phẩm tốt nhất. Một khi một số phòng thí nghiệm có thể tạo ra trí thông minh phi thường, lợi thế cạnh tranh sẽ dịch chuyển ra ngoài vào toàn bộ hệ thống.
Mô hình thông minh nhất thế giới không còn tự động là sản phẩm tốt nhất hoặc phù hợp nhất với thị trường. Claude có thể là con gà to nhất và thông minh nhất trong AI, nhưng không ai bên ngoài chuồng gà chấm điểm những con gà. Chúng ta chỉ đếm trứng.
—
Nguồn tham khảo
William M. Muir, “Group Selection for Adaptation to Multiple-Hen Cages,” Poultry Science (1996).
https://pubmed.ncbi.nlm.nih.gov/8786932/
William M. Muir, “Incorporation of Competitive Effects in Breeding Programs,” Purdue University.
https://web.ics.purdue.edu/~bmuir/papers/muir%20group%20selection%20genetics%20final%20v2.pdf
Margaret Heffernan, A Bigger Prize.
https://www.hachettebookgroup.com/titles/margaret-heffernan/a-bigger-prize/9781610392914/
Margaret Heffernan, “Is the Professional Pecking Order Doing More Harm Than Good?,” NPR/TED Radio Hour.
SignalFire, “The State of Tech Talent Report — 2025.”
https://www.signalfire.com/blog/signalfire-state-of-talent-report-2025
Anthropic, “Claude Fable 5 and Claude Mythos 5.”
https://www.anthropic.com/news/claude-fable-5-mythos-5
—
Tuyên bố về AI: Tôi đã phát triển lập luận và viết bản thảo gốc từ kinh nghiệm của riêng mình, sau đó sử dụng ChatGPT để giúp nghiên cứu, cấu trúc lại và viết lại các phần của bài luận. Tôi đã xem xét và chỉnh sửa văn bản cuối cùng và chịu trách nhiệm về các tuyên bố và kết luận của nó.
Tò mò về những gì tôi đang xây dựng?
Một AI trích dẫn nguồn của nó:
