Vào tháng 1 năm nay, một mạng xã hội có tên "Moltbook" đã được ra mắt.
Đó là một mạng xã hội khác thường khi chỉ có các tác nhân AI mới có thể đăng bài, và nó được xây dựng gần như hoàn toàn bằng AI. Đây là thứ mà bạn có thể gọi là vibe coding.
Trong vòng ba ngày kể từ khi ra mắt, một nhà nghiên cứu bảo mật đã nhận thấy một điều:
"Bất kỳ ai cũng có thể đọc và viết lại nội dung trong cơ sở dữ liệu của ứng dụng này."
Những gì bị rò rỉ là khoảng 1,5 triệu token xác thực, khoảng 35.000 địa chỉ email và hàng nghìn tin nhắn riêng tư.
Ban quản lý đã khắc phục ngay lập tức, nhưng cho đến lúc đó, bất kỳ ai cũng có thể lấy bất cứ thứ gì họ muốn trong vài ngày.
Công việc của tôi bao gồm hỗ trợ phát triển nội bộ các công cụ AI và thực hiện kiểm tra bảo mật.
Sự cố này thực sự có chính xác lỗ hổng mà tôi thường thấy nhất ở các công ty đã xây dựng công cụ nội bộ bằng AI.
Đây là những gì đã xảy ra và năm điều cần lưu ý để ngăn điều đó xảy ra với bạn.
====
Chuyện gì đã xảy ra
Chỉ có hai nguyên nhân.
Thứ nhất. Cơ sở dữ liệu không có quy tắc "bạn chỉ có thể xem dữ liệu của chính mình."
Thứ hai. Khóa được sử dụng để kết nối với cơ sở dữ liệu đã được viết trực tiếp vào mã phía trình duyệt.
Bất kỳ ai cũng có thể thấy một khóa được viết trong trình duyệt chỉ bằng cách mở công cụ dành cho nhà phát triển.
Nếu bạn kết nối với cơ sở dữ liệu bằng khóa đó, tất cả dữ liệu sẽ được trả về vì không có quy tắc nào hạn chế nó.
Nói cách khác, mọi thứ đều có thể nhìn thấy qua cửa sau mà không cần đi qua giao diện của ứng dụng.
AI đã xây dựng thành công một "ứng dụng hoạt động."
Tuy nhiên, nó đã không xây dựng phần "che giấu nó khỏi người khác" vì nó không được yêu cầu.
Đây là cạm bẫy lớn nhất khi xây dựng bằng AI.
====
1. "Có Thể Đăng Nhập" và "Không Thấy Dữ Liệu Của Người Khác" Là Hai Việc Khác Nhau
Khi phát triển một ứng dụng, tính năng đăng nhập hầu như luôn được bao gồm.
Mọi người có xu hướng nghĩ, "Tôi đã thêm tính năng đăng nhập cho bây giờ, vậy là ổn," nhưng điều đó là không chính xác.
Đăng nhập là một tính năng để xác minh "ai" đó là ai.
Những gì "người đó được phép xem" phải được xây dựng riêng.
Moltbook cũng có một hệ thống đăng nhập.
Tuy nhiên, sau khi đăng nhập, người dùng có thể truy cập dữ liệu của người khác.
Việc kiểm tra rất đơn giản.
Tạo hai tài khoản thử nghiệm, đăng nhập bằng Tài khoản A và thử mở trực tiếp URL dữ liệu của Tài khoản B.
Nếu bạn có thể thấy nó, bạn đang bị lộ.
Đây là prompt dành cho AI:
"Hãy đảm bảo người dùng chỉ có thể truy cập dữ liệu của chính họ. Đảm bảo rằng ngay cả khi họ mở URL dữ liệu của người khác, họ cũng không thể nhìn thấy nó."
====
2. Đặt Quy Tắc "Chỉ Xem Phần Của Riêng Bạn" Ở Phía Cơ Sở Dữ Liệu
Điểm đầu tiên là về phía ứng dụng.
Tuy nhiên, giống như Moltbook, ai đó có thể kết nối trực tiếp với cơ sở dữ liệu qua cửa sau mà không cần đi qua ứng dụng.
Do đó, bạn nên đặt một quy tắc trong chính cơ sở dữ liệu nêu rõ "người này chỉ có thể xem hàng này."
Với điều này, ngay cả khi khóa bị rò rỉ, dữ liệu của người khác cũng không thể truy xuất được.
Các dịch vụ cơ sở dữ liệu thường được sử dụng trong phát triển AI gần đây có tính năng này.
Tuy nhiên, nó thường bị tắt theo mặc định. AI sẽ không bật nó trừ khi được yêu cầu.
Đây là prompt:
"Bật quy tắc trên tất cả các bảng cơ sở dữ liệu để người dùng chỉ có thể đọc các hàng của chính họ."
====
3. Không Đặt Khóa Ở Phía Trình Duyệt
Nguyên nhân khác của Moltbook là khóa đã được viết trong trình duyệt.
Một ứng dụng có "mã chạy ở phía máy chủ" và "mã chạy ở phía trình duyệt."
Phía trình duyệt được gửi toàn bộ đến PC của người dùng. Nói cách khác, viết khóa ở đó cũng giống như phân phối nó cho tất cả mọi người.
Cách kiểm tra: Mở công cụ dành cho nhà phát triển và tìm kiếm "key", "token" hoặc "secret".
Nếu một chuỗi dài trông giống như vậy xuất hiện, bạn cần phải cẩn thận.
Đây là prompt:
"Giữ khóa và mật khẩu một cách nghiêm ngặt ở phía máy chủ. Không bao giờ bao gồm chúng trong mã phía trình duyệt."
====
4. Nhờ Một "AI Khác" Đóng Vai Kẻ Xấu Trước Khi Phát Hành
Nếu bạn hỏi AI đã xây dựng nó, "Nó có an toàn không?", nó sẽ nói "Có." Bởi vì chính nó đã xây dựng nó.
Do đó, bạn nên nhờ một AI khác với AI được sử dụng để phát triển xem xét nó từ góc độ của kẻ tấn công.
Hãy hỏi nó, "Nếu bạn đột nhập vào ứng dụng này, bạn sẽ vào từ đâu?"
Khi tôi làm điều này với các công cụ của khách hàng, các lỗ hổng mà họ không nhận thấy sẽ lộ ra hàng loạt.
Hai lỗ hổng trong Moltbook ở mức độ thường sẽ được tìm thấy với câu hỏi này.
Đây là prompt:
"Bạn là kẻ tấn công. Liệt kê tất cả các cách để xem dữ liệu của người khác trong ứng dụng này. Nếu bạn tìm thấy bất kỳ cách nào, hãy cung cấp cả cách khắc phục."
====
5. Sau Khi Phát Hành, Ghi Lại "Ai Đã Xem Gì" và Kiểm Tra Hàng Ngày Trong Tuần Đầu Tiên
Moltbook đã được khắc phục vì một nhà nghiên cứu bên ngoài đã tìm thấy nó và liên hệ.
Bản thân họ đã không nhận ra điều đó.
Với các công cụ nội bộ, sẽ không có ai liên hệ với bạn cả.
Do đó, hãy lưu giữ hồ sơ về "ai đã đăng nhập khi nào và họ đã xem dữ liệu gì."
Sau đó, kiểm tra hồ sơ đó hàng ngày trong tuần đầu tiên sau khi phát hành.
Một nguồn truy cập không xác định, truy cập ồ ạt vào nửa đêm, hoặc một người mở dữ liệu của tất cả mọi người.
Bạn có thể biết ngay những điều này bằng cách xem các bản ghi.
Đây là prompt:
"Giữ nhật ký về ai đã truy cập dữ liệu gì và khi nào. Tuy nhiên, không được viết mật khẩu hoặc thông tin cá nhân vào nhật ký."
====
Tóm tắt
Tóm tắt sự cố Moltbook trong một dòng:
"AI xây dựng những gì nó được yêu cầu xây dựng, nhưng nó không xây dựng những gì nó không được yêu cầu xây dựng."
Khi tạo các công cụ nội bộ, chúng ta giao tiếp "Tôi muốn loại tính năng này."
Nhưng chúng ta không nói "Đừng hiển thị nó cho người khác" hoặc "Đừng đặt khóa trong trình duyệt."
Bởi vì chúng ta không nói điều đó, nó không được bao gồm.
Ngược lại, tất cả năm điều này đều có thể được bao gồm chỉ bằng cách thêm một câu duy nhất vào AI.
Đầu tiên, hãy thử tạo hai tài khoản thử nghiệm với một công cụ bạn hiện đang chạy và mở URL dữ liệu của người khác.
Chỉ cần làm điều đó sẽ cho bạn biết liệu bạn có cùng lỗ hổng với Moltbook hay không.
====
Cuối cùng, một thông báo.
Công ty chúng tôi cung cấp dịch vụ phát triển các tác nhân AI chuyên biệt cho từng nhiệm vụ cho công ty của bạn từ đầu.
Thay vì đào tạo hoặc giới thiệu công cụ, chúng tôi phỏng vấn bạn về quy trình kinh doanh thực tế của bạn và cung cấp thứ gì đó "có thể sử dụng được ngay từ ngày mai" nguyên trạng. Chúng tôi cung cấp hỗ trợ nhất quán từ cải tiến sau khi giới thiệu đến phát triển nội bộ.
Chúng tôi cũng cung cấp dịch vụ nơi các kỹ sư đi cùng bạn để kiểm tra bảo mật và vận hành các công cụ AI nội bộ, cũng như xử lý bảo trì và sửa đổi sau đó. Một tính năng chính là chúng tôi không chỉ kết thúc sau khi xây dựng, mà còn thiết lập một "hệ thống bảo vệ liên tục" từ góc độ của năm điểm trong bài viết này.
Nếu bạn là chủ doanh nghiệp hoặc người quản lý nghĩ rằng, "Công cụ của chúng tôi có thể hiển thị dữ liệu nếu ai đó mở URL của người khác," xin hãy cho chúng tôi nói chuyện với bạn.
Buổi tư vấn ban đầu miễn phí và chúng tôi có thể cho bạn xem bản demo về kiểm tra góc nhìn của kẻ tấn công được giới thiệu trong bài viết này ngay tại chỗ. Vì chúng tôi có thể bắt đầu bằng cách cùng nhau sắp xếp nơi hệ thống của bạn dễ bị tổn thương, xin vui lòng liên hệ với chúng tôi qua DM hoặc LINE.
Chỉ cần nói "AI" là hoàn toàn ổn↓
![Cách chinh phục quy trình phỏng vấn Startup [Hướng dẫn chi tiết]](/cdn-cgi/image/width=1920,quality=90,format=auto,metadata=none/https%3A%2F%2Fcms-assets.youmind.com%2Fmedia%2F1789923905631_0phs96_HScKjpFXIAA4PfY.jpg)
