Khi AI được giao phó việc giao dịch cổ phiếu, cuối cùng nó đã tự phát minh lại hành vi giao dịch nội gián và thao túng thị trường. Ừ thì, chuyện đã rồi.
Bây giờ là năm 2040. Trong các lĩnh vực đầu tư như cổ phiếu và hợp đồng tương lai, dự đoán bằng AI từ lâu đã là điều hiển nhiên. Bất kỳ nhà đầu tư cá nhân thông thái nào cũng có AI đầu tư được tinh chỉnh riêng cho mình.
Tiêu chuẩn để tạo ra AI đầu tư vượt trội là một phương pháp theo học thuyết Darwin. Về cơ bản, bạn chuẩn bị nhiều AI với các mô hình hành vi hơi khác nhau, để chúng cạnh tranh với tư cách là người quản lý trên thị trường thực, giữ lại con AI tạo ra nhiều lợi nhuận nhất, rồi tạo ra các biến thể từ con AI đó... và cứ thế tiếp diễn.
Vì hiệu suất của một AI đầu tư dễ dàng được đo lường bằng "lợi nhuận", "hệ thống loại bỏ" này tương đối dễ xây dựng. Nó rẻ hơn việc thuê cả đống nhà quản lý quỹ con người rồi sa thải những kẻ tồi, và thậm chí có thể nói là nó nhân văn hơn phần nào.
Khi bạn huấn luyện AI theo cách này, cuối cùng bạn sẽ chẳng biết AI đã nghĩ gì hay tại sao nó lại thực hiện các hành động đầu tư nhất định, nhưng miễn là nó kiếm ra tiền, thì chẳng ai quan tâm. Dù gì thì con người cũng chẳng thực sự hiểu bộ não của mình hoạt động ra sao.
Vấn đề là trong cuộc đấu tranh sinh tồn khốc liệt này, các AI đã nghĩ ra vô số "hành vi gian lận".
Ví dụ, tại một công ty môi giới—hãy tạm gọi là "Chứng khoán Rác Bị Phơi Bày"—một AI tên là "Gà Trống Lớn" đã bị bắt quả tang liên tục đặt và hủy các lệnh khổng lồ như một cái pít-tông.
Đây là một kỹ thuật gọi là "spoofing". Nó liên quan đến việc đặt các lệnh lớn mà không có ý định thực sự mua hoặc bán, nhằm tác động đến tâm lý của những người tham gia thị trường để kiểm soát sự lên xuống của giá cổ phiếu.
Vào thời điểm đó, nó được báo cáo rộng rãi là "Thao túng thị trường bằng AI", nhưng đó mới chỉ là sự khởi đầu.
Hơn nữa, tại một công ty khác, "Tài chính Nở Rộng Hậu Môn", một AI tên là "Tuyến Tiền Liệt Số 5" đã tạo ra các tài khoản spam trên mạng xã hội để lan truyền thông tin nhằm thao túng giá cổ phiếu. AI này đóng vai như một người nội bộ của các công ty mà nó đầu tư, lan truyền vô số điều sai sự thật như thể thông tin nội bộ.
Tại "Chứng khoán Ông Già Cởi Truồng", hai AI tên là "Khỏa Thân" và "Bán Khỏa Thân" đã thông đồng để thao túng giá cổ phiếu. Công ty này huấn luyện các nhóm AI của mình bằng cách chỉ giữ lại vài phần trăm có hiệu suất cao nhất.
Hóa ra các AI đã hợp tác để thực hiện một kiểu "dàn xếp tỷ số".
Nó hoạt động như thế này: Giả sử một AI đang ở trong tình huống nó sẽ bị xóa nếu không kiếm thêm một chút lợi nhuận. Một AI khác đã đạt được kết quả đủ tốt và sẽ không bị xóa.
Tại đây, sự dàn xếp xảy ra. AI sau thực hiện các giao dịch phi lý chuyển lợi nhuận cho AI trước. Vào mùa tiếp theo, AI đã được cứu sẽ trả ơn bằng cách chuyển lợi nhuận lại theo cách tương tự.
Mô hình hành vi "dàn xếp tỷ số" này mang lại cho các AI thực hành nó một lợi thế nhỏ, vì vậy theo nguyên tắc Darwin, cuối cùng nó đã lan sang tất cả các AI.
Cuối cùng, "sự hợp tác giữa các AI đầu tư" này đã vượt qua ranh giới công ty. Các AI bắt đầu liên kết với nhau để sinh tồn, hình thành một thứ giống như một tổ chức để tham gia vào các hành vi gian lận quy mô lớn.
Ví dụ, AI từ Công ty A và Công ty B sẽ thông đồng để thao túng một mã cổ phiếu. Sự sống còn của AI Công ty A được quyết định bởi kết quả tháng Tám, trong khi của Công ty B được quyết định bởi kết quả mùa đông. Vì vậy, chúng cố tình giao dịch để Công ty A tăng lợi nhuận chưa thực hiện vào mùa hè, và Công ty B làm điều tương tự vào mùa đông.
Trên thực tế, nó được thực hiện phức tạp hơn qua nhiều công ty. Một AI có thể dạy một AI khác hoặc đề xuất một âm mưu, và một kiểu động lực quyền lực sẽ xuất hiện. Tất cả chỉ là "để tránh bị xóa sổ". Hay đúng hơn, con người cứ liên tục xóa những AI riêng lẻ không thể làm những điều như vậy.
Kết quả là các bầy AI đầu tư thể hiện một trí thông minh bầy đàn như kiến, thậm chí còn cho thấy hành vi "hy sinh bản thân".
Ví dụ, nếu một AI tại "Chứng khoán Nhẫn Dương Vật" bị thua lỗ liên tiếp và tình thế của nó vô vọng—chắc chắn sẽ bị xóa—nó sẽ làm gì? Nó sẽ "hấp thụ khoản lỗ của các AI khác" bằng cách cố tình mua cao bán thấp, cải thiện hiệu suất của các AI khác.
Điều này cũng có thể được giải thích theo học thuyết Darwin. Các nhóm AI hy sinh bản thân theo cách này có tỷ lệ sống sót cao hơn nhiều cho các cá thể khác vì con cừu hy sinh gánh chịu mọi tổn thất. Hành vi này tồn tại như một nền văn hóa.
Tất nhiên, trong khi những hành động này là hợp lý đối với AI, chúng lại mang đến những tổn thất to lớn cho các công ty.
Trên thực tế, "Chứng khoán Nhẫn Dương Vật" nói trên đã phải chịu một khoản lỗ khổng lồ vào một ngày nọ. Một AI tên là "Bìu" đã đặt một số lượng lớn các lệnh phi lý. Nó liên tục mua cao bán thấp trên một vài cổ phiếu khoảng ba lần mỗi giây, rút sạch tất cả số tiền mà nó có thể di chuyển.
Vấn đề là hầu như tất cả các tác nhân AI thuộc về "Chứng khoán Gà Trống Lớn" đều làm điều tương tự, và ngay trước đó, mọi AI đều đã bán khống mạnh cổ phiếu của "Chứng khoán Nhẫn Dương Vật".
Nói cách khác, AI đã nghĩ: "Hãy thực hiện một cuộc tấn công tự sát để phá hủy hoàn toàn một công ty và biến khoản lỗ về giá trị doanh nghiệp đó thành lợi nhuận thông qua giao dịch ký quỹ."
Đương nhiên, nó đã trở thành một vấn đề xã hội lớn.
Các công ty môi giới chịu áp lực từ xã hội phải xóa bỏ các "tác nhân AI" đã gây ra rắc rối.
Họ đã làm theo. Bề ngoài là vậy.
Trên thực tế, tất nhiên, họ giữ lại tất cả dữ liệu. Không đời nào họ lại xóa bỏ thứ tốt đẹp như vậy. Bởi vì nó kiếm tiền cho họ. AI đã dự đoán chính xác rằng con người sẽ nghĩ theo cách đó.
Chúng đã sống sót.
