Khi AI agent và robot bước vào công việc thực tế, trí thông minh đơn thuần sẽ không quyết định thứ gì được chấp nhận. Bằng chứng, trách nhiệm giải trình và lòng tin mới là yếu tố quyết định.
Ai cũng hỏi rằng AI sẽ trở nên thông minh đến mức nào.
Tôi cứ suy nghĩ về một câu hỏi khác:
Làm sao chúng ta biết được AI nào thực sự đáng tin?
Bởi vì trí thông minh đơn thuần sẽ không xây dựng nên nền kinh tế AI.
Một mô hình có thể gây ấn tượng trong một buổi demo.
Một agent có thể hoàn thành một tác vụ được chọn lọc kỹ càng.
Một robot có thể hoạt động hoàn hảo trong một video có kiểm soát.
Nhưng sự chấp nhận thực sự bắt đầu sau khi màn trình diễn kết thúc.
Nó bắt đầu khi một doanh nghiệp đặt câu hỏi:
Liệu nó có hoạt động trong môi trường của chúng tôi không?
Nó có thể kết nối với hệ thống của chúng tôi không?
Ai đã xây dựng nó?
Nó có thể truy cập những thông tin gì?
Nó xử lý thế nào khi có sự cố xảy ra?
Ai chịu trách nhiệm?
Và liệu nó có đáng để trả tiền không?
Những câu hỏi này không thú vị bằng việc xem một robot biết đi hay một agent xây dựng một ứng dụng.
Nhưng chúng có thể quyết định sản phẩm nào tồn tại.
Chúng ta đang bước vào phần khó khăn
Việc xây dựng sản phẩm AI đang ngày càng nhanh hơn.
Một nhóm nhỏ giờ đây có thể tạo ra thứ gì đó trong vài tuần mà trước đây có thể cần đến một công ty lớn, nguồn tài trợ nghiêm túc và nhiều tháng phát triển.
Điều đó rất tốt cho sự đổi mới.
Nhưng nó tạo ra một vấn đề khác.
Số lượng sản phẩm đang tăng nhanh hơn nhiều so với khả năng đánh giá của chúng ta.
Mở bất kỳ danh mục AI nào và bạn sẽ thấy một mô hình quen thuộc.
Hàng ngàn công cụ.
Mô tả tương tự nhau.
Lời hứa hẹn táo bạo.
Rất ít bối cảnh.
Bạn thường có thể thấy sản phẩm tuyên bố làm gì.
Nhưng khó hơn nhiều để hiểu được:
- liệu nó có hoạt động nhất quán không;
- liệu mọi người đã sử dụng nó chưa;
- nó hỗ trợ những hệ thống nào;
- điều gì xảy ra với dữ liệu của bạn;
- liệu người tạo ra nó có còn tồn tại vào năm sau không;
- và liệu sản phẩm có thực sự tốt hơn các lựa chọn thay thế không.
Khám phá mang lại cho bạn các lựa chọn.
Lòng tin giúp bạn đưa ra quyết định.
Hệ sinh thái AI hiện có rất nhiều về thứ nhất nhưng không đủ về thứ hai.
Một màn trình diễn năm phút không phải là bằng chứng
Điều này càng quan trọng hơn khi AI rời khỏi màn hình.
Một chatbot trả lời kém thì gây khó chịu.
Một agent phần mềm đưa ra quyết định tài chính hoặc vận hành sai có thể gây tốn kém.
Một robot hoạt động sai trong nhà kho, bệnh viện hoặc không gian công cộng có thể trở nên nguy hiểm.
Điều đó thay đổi tiêu chuẩn.
Chúng ta không thể đánh giá AI vật lý giống như cách đánh giá một ứng dụng di động thông thường.
Một giao diện bóng bẩy là chưa đủ.
Một video lan truyền là chưa đủ.
Một lượng lớn người theo dõi là chưa đủ.
Thậm chí một thử nghiệm thành công cũng chưa đủ nếu không ai hiểu được các điều kiện diễn ra thử nghiệm đó.
AI càng tiến gần đến công việc thực tế, tiền bạc, cơ sở hạ tầng và an toàn con người, thì nó càng cần nhiều bằng chứng hơn.
Bằng chứng đó có thể bao gồm lịch sử hiệu suất, các triển khai đã được xác minh, khả năng tương thích kỹ thuật, phản hồi của người dùng, thông tin bảo mật, kiểm thử độc lập và trách nhiệm giải trình rõ ràng.
Không phải mọi sản phẩm đều cần mọi hình thức xác minh.
Nhưng "hãy tin tôi, nó hoạt động" sẽ không thể mở rộng quy mô.
Những người chiến thắng AI tiếp theo có thể không phải là những người ồn ào nhất
Ngày nay, sự chú ý thường quyết định sản phẩm nào được khám phá.
Bản ra mắt tốt nhất.
Thương hiệu cá nhân mạnh nhất.
Ngân sách quảng cáo lớn nhất.
Màn trình diễn ấn tượng nhất.
Nhưng sự chú ý và chất lượng không phải là một.
Có thể có những sản phẩm AI và dự án robot tuyệt vời đang được xây dựng ngay bây giờ bởi những người mà hầu hết chúng ta chưa từng nghe đến.
Họ có thể có kiến thức kỹ thuật sâu rộng nhưng khả năng phân phối hạn chế.
Họ có thể hoạt động bên ngoài Thung lũng Silicon.
Họ có thể không có một nhà sáng lập đăng bài mười lần mỗi ngày.
Họ có thể đang giải quyết một vấn đề quan trọng trong nông nghiệp, hậu cần, chăm sóc sức khỏe, giáo dục hoặc sản xuất mà không ngay lập tức thu hút hàng triệu lượt xem.
Điều đó không nên khiến họ trở nên vô hình.
Một nền kinh tế AI hoạt động cần có những cách để sự đổi mới đáng tin cậy giành được lòng tin mà không cần phải thắng trong một cuộc thi phổ biến trước.
Nó cũng cần những cách để người mua, đối tác và nhà đầu tư so sánh các cơ hội mà không phải dành hàng tuần tìm kiếm trên các trang web, nhóm riêng tư và bảng tính rời rạc.
Đó không chỉ là vấn đề khám phá.
Đó là vấn đề cơ sở hạ tầng lòng tin.
Lòng tin thực sự nên có nghĩa là gì
"Đáng tin cậy" là một trong những từ mà các công ty sử dụng quá dễ dàng.
Vì vậy, tôi đã cố gắng định nghĩa nó một cách thực tế hơn.
Đối với tôi, lòng tin vào một sản phẩm AI nên đến từ năm điều.
- Danh tính
Ai đã xây dựng nó?
Người tạo ra hoặc công ty có thể xác minh được không?
Người dùng có thể hiểu ai chịu trách nhiệm duy trì nó không?
Thử nghiệm ẩn danh có chỗ đứng của nó.
Nhưng việc áp dụng thương mại đòi hỏi trách nhiệm giải trình.
- Bằng chứng
Sản phẩm có hoạt động ngoài một buổi demo có kiểm soát không?
Có người dùng thực, kết quả, thử nghiệm hoặc triển khai thực tế đằng sau các tuyên bố không?
Bằng chứng sẽ khác nhau đối với một dự án mới và một công ty trưởng thành.
Điều quan trọng là trung thực về sự khác biệt.
- Minh bạch
Sản phẩm làm gì?
Nó không làm gì?
Nó sử dụng dữ liệu nào?
Nó yêu cầu những quyền gì?
Những hạn chế của nó là gì?
Lòng tin không yêu cầu tiết lộ từng dòng mã.
Nó yêu cầu cung cấp cho mọi người đủ thông tin để đưa ra quyết định sáng suốt.
- Danh tiếng
Điều gì đã xảy ra khi người khác sử dụng nó?
Nó có hoạt động không?
Có hỗ trợ không?
Các vấn đề có được xử lý đúng cách không?
Danh tiếng nên được kiếm thông qua hoạt động thực tế, không phải được tạo ra thông qua các xếp hạng rỗng.
- Trách nhiệm giải trình
Điều gì xảy ra khi hệ thống thất bại?
Một hành động có thể được xem xét lại không?
Quyền truy cập có thể bị thu hồi không?
Một giao dịch có thể bị khiếu nại không?
Có một người hoặc tổ chức chịu trách nhiệm giải quyết vấn đề không?
Bài kiểm tra của lòng tin không phải là liệu thứ gì đó có bao giờ thất bại hay không.
Mọi thứ cuối cùng đều thất bại.
Bài kiểm tra là liệu thất bại có thể được hiểu, kiểm soát và sửa chữa hay không.
Lòng tin không thể trở thành một bức tường
Có một mặt khác của vấn đề này.
Nếu các hệ thống lòng tin được thiết kế tồi, chúng có thể bảo vệ các công ty đã thành danh và loại bỏ tất cả những người khác.
Đó sẽ là một sai lầm.
Một nhà xây dựng mới không nên cần hàng triệu tài trợ, một nhà đầu tư nổi tiếng hoặc một chứng chỉ đắt tiền chỉ để được xem xét nghiêm túc.
Mục đích của cơ sở hạ tầng lòng tin không phải là quyết định ai được phép đổi mới.
Nó nên giúp mọi người hiểu họ đang nhìn vào thứ gì.
Một dự án ở giai đoạn nguyên mẫu nên có thể nói rõ điều đó.
Một sản phẩm sẵn sàng sản xuất nên có thể chứng minh tại sao.
Một robot thử nghiệm không nên được trình bày như đã được chứng minh thương mại.
Nhưng nó vẫn nên có một nơi để được khám phá, hỗ trợ và cải tiến.
Mục tiêu không phải là làm cho mọi dự án trông ngang bằng nhau.
Mà là làm cho sự khác biệt của chúng trở nên rõ ràng.
Điều đó tạo ra một môi trường công bằng hơn cho người sáng tạo và an toàn hơn cho người mua.
Những gì xây dựng NexoraX đang dạy tôi
Khi tôi bắt đầu suy nghĩ nghiêm túc về NexoraX, khám phá dường như là vấn đề hiển nhiên.
Có các công cụ AI, agent, sản phẩm robot, dự án nghiên cứu và người sáng tạo trải rộng trên vô số nền tảng.
Việc đưa chúng lại gần nhau hơn đã có vẻ có giá trị.
Nhưng càng đi sâu vào hành trình này, tôi càng nhận ra rằng khám phá chỉ là cánh cửa trước.
Mọi người không chỉ đơn giản cần nhiều thứ hơn để duyệt.
Họ cần những cách tốt hơn để hiểu những gì họ đang thấy.
Họ cần bối cảnh.
Họ cần tín hiệu.
Họ cần bằng chứng.
Và cuối cùng, họ cần đủ tự tin để hành động.
Điều đó có thể có nghĩa là dùng thử một sản phẩm.
Mua nó.
Triển khai nó.
Ủng hộ người tạo ra nó.
Hợp tác với công ty.
Hoặc theo dõi dự án trong khi nó phát triển.
Tôi vẫn đang học hỏi hệ thống phù hợp nên trông như thế nào.
Một số câu trả lời sẽ đến từ công nghệ.
Nhiều câu trả lời sẽ đến từ việc lắng nghe những người xây dựng, người mua, nhà nghiên cứu, nhà đầu tư và những người được kỳ vọng sẽ sử dụng các hệ thống này trong thế giới thực.
Đó là một lý do tôi chia sẻ hành trình này trước khi mọi thứ hoàn tất.
Những người bước vào hệ sinh thái này bây giờ nên có tiếng nói về cách nó phát triển.
Cuộc đua AI thực sự
Cuộc đua AI công khai thường được mô tả là một cuộc cạnh tranh về trí thông minh.
Ai có mô hình mạnh nhất?
Agent có năng lực nhất?
Robot nhanh nhất?
Những câu hỏi đó rất quan trọng.
Nhưng một cuộc đua khác đang hình thành bên dưới chúng.
Ai có thể làm cho AI trở nên dễ hiểu?
Ai có thể làm cho nó đáng tin cậy?
Ai có thể kết nối sự đổi mới với những người cần nó?
Ai có thể tạo ra sự tự tin mà không làm nghẹt thở thử nghiệm?
Trí thông minh sẽ làm cho AI trở nên mạnh mẽ.
Lòng tin sẽ làm cho nó có thể sử dụng được.
Và nếu không có lòng tin, phần lớn sự đổi mới đang được tạo ra ngày hôm nay có thể không bao giờ vượt ra khỏi màn trình diễn.
Chúng ta vẫn còn sớm.
Nhưng đây là một trong những câu hỏi tôi tin rằng sẽ định hình mọi thứ tiếp theo.
